Elementi di Calcolo delle Probabilità e Statistica per il corso di Analisi Matematica B

Transcript

1 Elementi di Calcolo delle Probabilità e Statistica per il corso di Analisi Matematica B Laurea in Ingegneria Meccatronica A.A

2 n-dimensionali Riepilogo. Gli esiti di un esperimento aleatorio (cioè gli elementi s S) sono stati etichettati con un unico numero reale (il valore della variabile aleatoria X). Ciò è stato fatto in modo che almeno a tutti gli intervalli di R fosse possibile associare una probabilità (abbiamo cioè richiesto che l immagine inversa di ogni intervallo fosse un evento di Ω). In un esperimento aleatorio possiamo essere interessati contemporaneamente a tante variabili aleatorie diverse X i, i = 1, 2,...n. Le n-uple (x 1, x 2, x n), dove x i è un valore di X i per ogni i, possono essere interpretate come il valore (vettoriale) di un unica variabile aleatoria n-dimensionale. Ci limiteremo qui al caso bidimensionale, cioè a una sola coppia di variabili aleatorie(x, Y).

3 Variabile aleatoria bidimensionale (X, Y) Definizione (variabile bidimensionale) Dato uno spazio di probabilità(s, Ω, p), si dice variabile aleatoria bidimensionale una coppia di funzioni(x, Y) che ad ogni s S associa la coppia di numeri reali ( X(s), Y(s) ) in modo che l insieme {s : X(s) a, Y(s) b} sia un evento di Ω per ogni a, b R. Definizione (funzione di ripartizione) Data una variabile aleatoria bidimensionale(x, Y) definita sullo spazio di probabilità(s, Ω, p), si chiama funzione di ripartizione associata a (X, Y) la funzione F : R 2 [0, 1] data da F(x, y) = p(x x, Y y) per ogni (x, y) R 2.

4 Proprietà della funzione di ripartizione bidimensionale Dalla sua definizione: F(x, y) = p(x x, Y y) = p ( (X x) (Y y) ) = = p ( {s S : X(s) x} {s S : Y(s) y} ). Teorema (proprietà di F) lim x + y + F(x, y) = 1; lim F(x, y) = lim F(x, y) = 0; x y lim F(x, y) = p(y y) =: F Y(y), x + dove la funzione F Y è detta funzione di ripartizione marginale della variabile Y ; lim F(x, y) = p(x x) =: F X(x), y + con F X funzione di ripartizione marginale di X.

5 Proprietà della funzione di ripartizione bidimensionale Teorema (probabilità del rettangolo) p ( x 1 < X x 2, y 1 < Y y 2 ) = = F(x 2, y 2 ) F(x 1, y 2 )+F(x 1, y 1 ) F(x 2, y 1 ).

6 discrete Definizione (variabile bidimensionale discreta) Una variabile bidimensionale(x, Y) è discreta se esiste un insieme finito o numerabile di coppie (x r, y s) R 2, r = 1, 2,..., s = 1, 2,..., tali che p rs := p(x = x r, Y = y s) 0, e p rs = 1. Si chiama funzione di probabilità congiunta la funzione { prs se (x, y) = (x r, y s), r = 1, 2,...; s = 1, 2,... f(x, y) = 0 altrove. Si dicono funzioni di probabilità le funzioni { pr = f X (x) = s prs se x = xr per r = 1, 2,... 0 altrove. r,s { p s = f Y (y) = r prs se y = ys per s = 1, 2,... 0 altrove.

7 Variabile bidimensionale finita Nel caso finito: r = 1, 2,...,n; s = 1, 2,...,m, e le funzioni di probabilità congiunta e si rappresentano in una tabella: Y y 1 y 2 y 3 y m x 1 p 11 p 12 p 13 p 1m p 1 x 2 p 21 p 22 p 23 p 2m p 2 X x 3 p 31 p 32 p 33 p 3m p x n p n1 p n2 p n3 p nm p n p 1 p 2 p 3 p m Figura: Tabella delle probabilità congiunta e nel caso finito

8 Variabili continue Definizione (variabile bidimensionale continua) Una variabile bidimensionale(x, Y) è continua se esiste una funzione non negativa f(x, y), detta funzione densità congiunta, tale che F(x, y) = x y f(u, v) dudv. Osservazione. La condizione che f deve soddisfare per essere una funzione densità è + + f(u, v) dudv = 1.

9 Variabili continue Si può dimostrare che le funzioni di ripartizione delle variabili X e Y sono date in questo caso da x ( + ) F X (x) = f(u, v) dv du e F Y (y) = y ( + Le densità di X e Y valgono quindi e f X (x) = f Y (y) = + + ) f(u, v) du dv. f(x, v) dv f(u, y) du.

10 Un teorema importante Teorema (probabilità di una variabile bidimensionale) Se A R 2 è tale che l insieme {s S : ( X(s), Y(s) ) A} è un evento di Ω, allora p ( (X, Y) A ) = f(x, y) dxdy. Corollario (legge di composizione) Sia (X, Y) una variabile casuale bidimensionale con densità congiunta f(x, y). Se Φ(X, Y) è una variabile casuale funzione di X e Y, allora, per ogni intervallo I R, p ( Φ(X, Y) I ) = f(x, y) dxdy, A A essendo A = {(x, y) R 2 : Φ(x, y) I}. Dimostrazione: basta notare che p ( Φ(X, Y) I ) = p ( {s : Φ ( X(s), Y(s) ) I} ) = = p ( {s : ( X(s), Y(s) ) A} ).

11 La covarianza di due variabili casuali σ X,Y Definizione (covarianza) Si dice covarianza delle variabili casuali X e Y, e si indica con σ X,Y oppure con Cov(X, Y), il numero [ ] σ X,Y = Cov(X, Y) := E (X µ X )(Y µ Y ). Esplicitando la formula del valore atteso: r s (xr µ X)(y s µ Y )p rs, nel caso discreto; σ X,Y = (x µ X )(y µ Y )f(x, y)dxdy, nel caso continuo. R 2

12 Proprietà della covarianza Teorema (proprietà covarianza) σ X,Y = µ X Y µ X µ Y σx±y 2 = σx 2 +σy 2 ± 2σ X,Y = generalizzato alla somma di n variabili aleatorie: ( n ) n Var X i = Var(X i )+2 Cov(X i, X j ) i=1 i=1 1 i<j n σx,y 2 σxσ 2 Y 2 Dimostrazione (della prima relazione, nel caso finito). σ X,Y = (x r µ X )(y s µ Y )f(x r, y s) r s = (x r y s x rµ Y µ X y s + µ X µ Y )f(x r y s) r s = µ XY µ X µ Y µ X µ Y + µ X µ Y = µ XY µ X µ Y.

13 tra variabili casuali Definizione (indipendenza) Due variabili aleatorie X e Y si dicono indipendenti se F(x, y) = F X (x) F Y (y) per ogni x, y R. Teorema X, Y discrete indipendenti p rs = p r p s cioè p(x = x r, Y = y r) = p(x = x r) p(y = y r). X, Y continue indipendenti f(x, y) = f X (x) f Y (y).

14 tra variabili casuali Teorema (media del prodotto di variabili indipendenti) Se due variabili aleatorie X e Y sono indipendenti, allora µ XY = µ X µ Y Dimostrazione (nel caso finito): µ XY = x r y sp rs r,s = x r y sp r p s r s = ( ) x r p r y sp s r s = µ X µ Y Corollario (indipendenza e covarianza) Se le variabili casuali X e Y sono indipendenti, allora σ X,Y = 0 (da: σ X,Y = µ XY µ xµ Y e teorema precedente); σx±y 2 = σx 2 +σy 2 (dalla formula della varianza di X ± Y ).

15 Il coefficiente di correlazione lineare ρ X,Y Definizione (coefficiente di correlazione) Si dice coefficiente di correlazione tra le variabili casuali X e Y il numero ρ X,Y := σ X,Y σ X σ Y. Osservazioni. ρ X,Y = 0 σ X,Y = 0 X e Y sono dette incorrelate. ρ X,Y 0 = X e Y si dicono correlate. ρ X,Y 1 (da: σx,y 2 σxσ 2 Y 2 ). massima correlazione se ρ X,Y = 1 = lineare dipendenza: Y = αx +β con α < 0 se ρ X,Y = 1, oppureα > 0 se ρ X,Y = +1. N.B.: X, Y indipendenti X, Y incorrelate; ma non viceversa!

16 Variabili incorrelate Corollario (additività della varianza) Se X 1, X 2,...,X n sono n variabili aleatorie incorrelate, allora Var(X 1 + X 2 + X n) = Var(X 1 )+Var(X 2 )+ +Var(X n). In particolare, se le variabili hanno tutte la stessa varianza σ 2, allora Var(X 1 + X 2 + X n) = nσ 2. Vale inoltre: Var(a 1 X 1 +a 2 X 2 + a nx n) = a 2 1Var(X 1 )+a 2 2Var(X 2 )+ +a 2 nvar(x n). Osservazioni. L ultima proprietà segue immediatamente da: Var(aX) = a 2 Var(X). L additività della varianza dipende dalla incorrelazione delle variabili aleatorie che si sommano, a differenza della additività del valore atteso, che vale sempre.

17 Incorrelazione e indipendenza Osservazione: variabili incorrelate variabili indipendenti. Y / X 0 0 1/ /4 4 1/4 1/2 1/4 Figura: Esempio di variabili incorrelate ma non indipendenti. p(x = 1, Y = 1) = 0 p(x = 1)p(Y = 1) = = 1 16 = X, Y non indipendenti. µ XY = µ X = µ Y = 0 = X, Y incorrelate (perché µ XY µ X µ Y = 0).

18 Studio di alcune distribuzioni notevoli Ci limiteremo alle seguenti distribuzioni discrete: la distribuzione binomiale, ovvero delle prove indipendenti ripetute di Bernoulli (variabile aleatoria discreta finita); la distribuzione di, ovvero degli eventi rari (variabile aleatoria discreta infinita numerabile); ed alla seguente distribuzione continua: la distribuzione di, ovvero la distribuzione.

19 La distribuzione binomiale Teorema (di Bernoulli) La probabilità che in n prove indipendenti l evento A si verifichi esattamente k volte, con k = 0, 1,...,n, vale ( ) n p k (1 p) n k k dove p è la probabilità di A in ogni singola prova. Definizione (distribuzione binomiale) Dati p (0, 1) e n N, si dice variabile binomiale la variabile aleatoria discreta (e finita) X avente la seguente funzione di probabilità ( ) n p(x = k) = p k (1 p) n k, k = 0, 1, 2,...,n. k Se X è binomiale di parametri n e p, si scrive anche X B(n, p).

20 Proprietà della distribuzione binomiale Dalla formula del binomio abbiamo ( ) n n p k (1 p) n k = (p + 1 p) n = 1, k k=0 dunque si tratta effettivamente di una funzione di probabilità. Teorema (media e varianza della binomiale) Se X B(n, p) allora µ X = np e σ 2 X = np(1 p). Dimostrazione. Si può ottenere X come somma di n variabili aleatorie indipendenti X i B(1, p), ciascuna delle quali rappresenta il numero di successi (0 oppure 1) in una sola prova: Tramite calcolo diretto abbiamo X = X 1 + X X n. E(X i ) = p, Var(X i ) = p(1 p) per ogni i. Dunque E(X) = np e, dall indipendenza delle X i, segue anche che Var(X) = np(1 p).

21 La distribuzione di Definizione (distribuzione di ) Una variabile aleatoria discreta X è detta di con parametro µ > 0 se può assumere gli infiniti valori k = 0, 1, 2,... con probabilità Osservazioni. µ k k=0 k! e µ = e µ e µ = 1. p(x = k) = µk k! e µ. Se X è di con parametroµalloraµ X = σ 2 X = µ (no dim.). aumentandoµ, aumenta anche la dei dati attorno alla media. Descrive il conteggio di fenomeni casuali distribuiti con una data densità media µ nell unità di tempo (superficie, volume... ). Si ottiene dalla binomiale quando n è grande e p è vicino a 0 (per questo è detta distribuzione degli eventi rari). Vale la relazione ricorsiva: p(x = k + 1) = µ p(x = k). k+1

22 Esempi Conteggio delle particelle α emesse da una sostanza radioattiva (X di con parametro µ = 0.5). Probabilità di osservare due o più particelle in un secondo: p(x 2) = + k=2 (0.5) k e 0.5 k! = 1 p(x = 0) p(x = 1) = 1 e e 0.5 9%. Carica batterica. Se una sospensione contiene in media 5 batteri per cm 3, allora la probabilità che un campione casuale di 1 cm 3 a) non contenga batteri, b) ne contenga al più 2, c) ne contenga almeno 5, vale: p(x = 0) = e 5 0.7%; p(x 2) = ( ! p(x 5) = 1 p(x 4) = ) e %; ) ( ! ! + 54 e 5 56%. 4!

23 La distribuzione di Definizione (distribuzione di ) Una variabile aleatoria continua X è detta di o con parametriµeσ(µ R, σ > 0), e si scrive X N(µ,σ 2 ) se la funzione densità è f(x) = 1 σ (x µ) 2 2π e 2σ 2. f(x) è detta funzione di : è una funzione a campana, simmetrica rispetto a x = µ; ha un massimo in x 0 = µ, dove assume il valore 1 σ 2π ; questo coefficiente ha il significato di fattore di normalizzazione: + f(x)dx = 1 + ( e x µ 2 ( ) σ 2) x µ d π σ = 1. 2 NB: Se I = R e x2 dx, allora I 2 = R e x2 dx R e y2 dy = R 2 e (x2 +y 2) dxdy. Passando a coordinate polari, I 2 = 2π dθ [ ] + + ρe ρ2 e dρ = 2π ρ = π. 0 Quindi I = π.

24 Proprietà della distribuzione Teorema (media e varianza della gaussiana) Se X è una variabile di di parametri µ e σ, cioè X N(µ,σ 2 ), allora E(X) = µ, Var(X) = σ 2.

25 Calcolo della probabilità p(a < X < b) sulla gaussiana La funzione di ripartizione vale da cui F(x) = x p(a < X < b) = F(b) F(a) = 1 σ (t µ) 2 2π e 2σ 2 dt b a 1 σ (t µ) 2 2π e 2σ 2 dt. Osservazione. F(x) non si può calcolare esplicitamente. Per gli scopi concreti, si ricorre ad integrazione numerica o ai valori tabulati per una particolare funzione di ripartizione, la standardizzata.

26 La variabile aleatoria standardizzata Teorema Sia X una variabile aleatoria di parametri µ e σ e sia Φ(x) = x 1 2π e u2 2 du la funzione di ripartizione della corrispondente variabile standardizzata X N(0, 1) (X è cioè con media 0 e varianza 1), allora la funzione di ripartizione di X vale F(x) = Φ ( x µ σ ). Dimostrazione. Siccome x f(t)dt = x limc f(t)dt abbiamo c x (t µ) 1 2 F(x) = lim c c σ 2π e 2σ 2 dt ponendo t µ σ = u, si ha dt = σdu, quindi F(x) = lim c x µ σ c µ σ 1 2π e u2 2 du = Φ ( x µ σ ).

27 Esempi e applicazioni (conoscendo i valori di Φ(x)) Probabilità di una variabile aleatoria X N(µ,σ 2 ) ( b µ p(a X b) = Φ σ Esempio (problema diretto). ) Φ ( a µ ). σ p(µ σ < X < µ+ σ ) = Φ(1) Φ( 1) 68.3% p(µ 2σ < X < µ+2σ) = Φ(2) Φ( 2) 95.5% p(µ 3σ < X < µ+3σ) = Φ(3) Φ( 3) 99.7%. Esempio (problema inverso). Assegnata una probabilitàα, si cerca il numero x 0 tale che Φ(x 0 ) = α. x 0 si indica con φ α e si chiama quantile relativo ad α. Se α = n, allora φα si chiama percentile n esimo. 100 (Soluzione: basta leggere la tabella dei valori di Φ(x) al contrario).

28 Esempi e applicazioni Una relazione utile Φ( x) = 1 Φ(x) cioè φ 1 α = φ α. Teorema (immagine affine di una distribuzione ) Se X N(µ,σ 2 ) allora anche Y = ax + b (a > 0) è con media aµ+b e varianza a 2 σ 2.

29 Il teorema del limite centrale Definizione (convergenza in legge) Una successione di variabili aleatorie{x n} n converge in legge (o in distribuzione) alla variabile aleatoria X se e solo se, dette F n(x) ed F(x) le rispettive funzioni di ripartizione, si ha lim Fn(x) = F(x) n per ogni punto x R di continuità per F. NB: Se le variabili aleatorie X i sono indipendenti e hanno tutte media µ e varianza σ 2, allora la variabile aleatoria S n = X 1 + X 2 + +X n è tale che E(S n) = nµ e Var(S n) = nσ 2.

30 Il teorema del limite centrale Teorema (del limite centrale) Sia {X n} n una successione di variabili aleatorie indipendenti ed identicamente distribuite, di media µ e varianza σ 2. Allora la somma n esima standardizzata converge in legge a N(0, 1). Osservazioni. S n = X 1 + X X n nµ σ n La funzione di probabilità di S n (complicata da esprimere in generale) si approssima, per n grande, con una legge N(0, 1) e questo a prescindere dalla particolare legge delle X n! Interpretazione: un effetto casuale che sia la risultante di molti effetti aleatori, ciascuno dei quali dia solo un piccolo contributo all effetto finale, segue approssimativamente una legge (esempio: errori di misurazione).

31 L approssimazione Formula per n variabili X i indip. e identicamente distribuite: ( p(x 1 + X X n x) = p Sn x nµ ) ( ) x nµ σ Φ n σ. n In pratica: soglia di applicabilità (in genere): n > 30, ma può essere più alta; nel caso, ad esempio, delle prove di Bernoulli, devono valere le condizioni np > 5 e n(1 p) > 5; nel caso di variabili a valori interi conviene porre, se k Z, p(x X n = k) = p ( k 1 < X ) X n < k ( ) ( ) k+ 2 Φ 1 nµ k 2 Φ 1 nµ ; σ n σ n se X i B(1, p), allora X = X 1 + X 2 + +X n B(n, p) e E(X) = np, Var(X) = np(1 p). L approssimazione diventa: ( k p(x k) Φ np ). np(1 p)

32 Le fasi di un indagine statistica Rilevazione dei dati; organizzazione dei dati; presentazione dei dati organizzati; interpretazioni e conclusioni.

33 Classi, frequenze assolute, relative, cumulate Se i dati sono di tipo numerico, si ordinano e si stabilisce il campo di variazione, o rango, cioè il minimo intervallo che li contiene tutti. Può essere conveniente suddividere i dati in classi della stessa ampiezza per una migliore leggibilità. Il numero di classi può essere scelto con la formula (di Sturges) n c = [ ln n] dove n è il numero di dati e [a] è l intero più vicino ad a. Si definiscono: la funzione di frequenza ϕ(x) che associa ad ogni classe il numero degli elementi che la compongono; la funzione di frequenza relativaϕ r(x) = ϕ(x) n ; la funzione di frequenza cumulativaϕ c(x), cioè il numero di elementi nella classe e in tutte le classi precedenti; la funzione di frequenza cumulativa relativaϕ cr(x) = ϕc(x) n.

34 Rappresentazioni grafiche Le più significative sono: istogramma; grafico a bastoni; poligoni delle frequenze. In tutti i casi si riportano sulle ordinate le frequenze delle classi riferite al loro punto di mezzo (sulle ascisse).

35 Rappresentazioni grafiche Figura: Istogramma.

36 Rappresentazioni grafiche Figura: Diagramma a bastoni.

37 Rappresentazioni grafiche Figura: Istogramma e poligono delle frequenze.

38 Rappresentazioni grafiche Figura: Poligono delle frequenze ϕ(x).

39 Rappresentazioni grafiche Figura: Poligono delle frequenze cumulative ϕ c(x).

40 Indici di tendenza centrale Definizione (media) Date n osservazioni numeriche x i, i = 1, 2,...,n, si chiama media delle osservazioni il numero Definizione (mediana) x = 1 n n x i. Si chiama mediana il valore centrale dell insieme ordinato: { x n+1 se n è dispari x med = 2 1 2( x n + x ) 2 2 n +1 se n è pari. i=1 Definizione (moda) Si chiama moda un numero x mod che si ripete il maggior numero di volte.

41 Indici di Definizione (deviazione standard) Date n osservazioni numeriche x 1,...,x n, si chiama deviazione standard, o scarto quadratico medio delle osservazioni il numero σ = 1 n (x i x) n 2. i=1 Il numero σ 2 è chiamato la varianza dei dati. Definizione (deviazioni medie) Si chiamano deviazione media dalla media e deviazione media dalla mediana i numeri D med ( x) = 1 n n x i x ; D med (x med ) = 1 n i=1 n x i x med. i=1

42 Popolazione e campione Definizione (popolazione) Si definisce popolazione un insieme i cui elementi hanno in comune almeno un attributo descritto attraverso una variabile aleatoria X, detta variabile sottostante, la cui distribuzione in generale è incognita. Definizione (campione) Si chiama campione casuale di dimensione n, estratto da una popolazione avente X come variabile sottostante, una variabile n-dimensionale(x 1, X 2,...,X n) con le X i indipendenti e aventi la stessa distribuzione di X. Definizione (statistica) Sia (X 1, X 2,...,X n) un campione di una popolazione la cui distribuzione è nota in funzione di un parametro incognitoθ. Si definisce statistica una funzione g(x 1, X 2,...,X n) delle variabili casuali X i (e dunque, a sua volta, una variabile casuale) che non contiene il parametro θ.

43 Stimatori Definizione (stimatore) Si definisce stimatore una statistica che viene utilizzata per stimare un parametro incognitoθ. Definizione (stima puntuale) Se f(x 1,...,X n) = θ è uno stimatore e (x 1,...,x n) è un valore osservato del campione, allora il valore ˆθ = f(x 1,...,x n) è detto stima puntuale del parametroθ. Definizione (stimatore corretto) Uno stimatore T del parametro θ si dice corretto se E(T) = θ.

44 La media campionaria Definizione (media campionaria) Si chiama media campionaria di un campione (X 1, X 2,...,X n) la variabile casuale X così definita: X = 1 n n X i. i=1 Teorema La media campionaria è uno stimatore corretto della media vera µ, cioè E( X) = E(X) = µ. Dimostrazione. Siccome abbiamo supposto che E(X i ) = E(X) = µ, allora E( X) = 1 n n E(X i ) = nµ n = µ. i=1

45 La media campionaria Teorema (varianza della media campionaria) La varianza della media campionaria vale quella di X diviso n, cioè Var( X) = 1 σ2 Var(X) = n n. Dimostrazione. Var( X) = 1 n 2 Var ( n i=1 Var(X i ) ) = nσ2 n 2 = σ2 n.

46 La varianza campionaria Definizione (varianza campionaria) Si chiama varianza campionaria di un campione (X 1, X 2,...,X n) la variabile casuale S 2 così definita: Teorema S 2 = 1 n 1 n (X i X) 2. La varianza campionaria è uno stimatore corretto della varianza vera σ 2, cioè E(S 2 ) = Var(X) = σ 2. i=1 Osservazione. A differenza di S 2, lo stimatore S 2 = 1 n (X i X) 2. n i=1 non è uno stimatore corretto della varianza vera σ 2.

47 Per approfondire Il materiale esposto in questi lucidi è tratto principalmente da: V. Franceschini, Lezioni di Statistica Matematica 1. Reperibile al sito: valter/ Ulteriori testi consigliati: W. Navidi, Probabilità e Statistica per l Ingegneria e le Scienze, McGraw Hill, G. Anichini, Elementi di Calcolo delle Probabilità e di Inferenza Statistica 2, in Calcolo 4 Parte prima, Pitagora Editrice, Bologna, Appunti per i corsi di Ingegneria Meccanica e dei Materiali dell Università di Modena (contiene molti degli esercizi in Esercizi.pdf, interamente svolti). 2 Testo introduttivo alla probabilità soggettivista e alla statistica bayesiana.