Statistica Applicata all edilizia: Stime e stimatori

Transcript

1 Statistica Applicata all edilizia 15 marzo 2011 Statistica Applicata all edilizia:

2 Indice 1 2 Statistica Applicata all edilizia:

3 Uno dei problemi principali della statistica è quello della stima di parametri di funzioni di densità di probabilità. Tale stima può essere condotta ricercando un solo valore da attribuire al parametro incognito, e allora si parla di stima puntuale di parametri; oppure si può cercare un intervallo di valori al quale è possibile ascrivere il parametro con una certa probabilità e allora si parla di stima per intervalli. Uno stimatore (puntuale) è una funzione che associa ad ogni possibile campione un valore del parametro da stimare. È una funzione di un campione di dati estratti casualmente da una popolazione. Il valore assunto dallo stimatore in corrispondenza a un particolare campione è la stima. Statistica Applicata all edilizia:

4 Alcuni quesiti: Quali sono i migliori stimatori della media e varianza di un determinato fenomeno (popolazione)? quali sono le proprietà che deve avere uno stimatore per essere ritenuto buono ossia rappresentativo della popolazione? Sapendo che un determinato fenomeno si distruisce secondo una distribuzione di probabilità nota, come si può stimare la sua media e varianza? Statistica Applicata all edilizia:

5 La stima dei parametri Popolazione: X grandezza di interesse con distribuzione f (x; θ), θ parametro ignoto. θ = θ (f ) Campione casuale semplice da X (oppure da f, oppure da F): X 1,..., X n iid f (x; θ) Stima di θ : ˆθ = ˆθ (X 1,..., X n ) ˆθ è una particolare V.C. detta statistica Incertezza sull errore di stima θ ˆθ Statistica Applicata all edilizia:

6 Principio del campionamento ripetuto Si valutano le proprietà di ˆθ nell ipotesi di ripetere il processo di campionamento un gran numero di volte. Sono rilevanti in quest ottica l interpretazione frequentista della probabilità, la legge dei grandi numeri ed il metodo Monte Carlo. Statistica Applicata all edilizia:

7 Problemi di stima 1 Indagini demoscopiche 2 Misura di una lunghezza e/o spostamento 3 Qualità di un processo produttivo 4 Qualità in accettazione 5 Stima di un segnale (a gradino) Statistica Applicata all edilizia:

8 Esempio Un ingegnere deve studiare la resistenza alla compressione del cemento. Dall estrazione di un campione casuale di 12 esemplari è risultata una resistenza pari a Camp Res Camp Res Ipotizzando che la resistenza alla compressione sia una variabile casuale distribuita come una Normale determinare lo stimatore della resistenza media del campione e calcolarne la stima; Statistica Applicata all edilizia:

9 Indice 1 2 Statistica Applicata all edilizia:

10 Teoria Generale della stima Consideriamo un campione ed una stima o stimatore X 1,..., X n iid f θ (x) ˆθ n = ˆθ n (X 1,..., X n ) Proprietà e definizioni rilevanti Correttezza o non distorsione: E θ (ˆθn ) = θ Bias o distorsione ) ) b (ˆθ = E (ˆθ θ Errore quadratico medio ) MSE (ˆθ ) 2 = E (ˆθ θ ) = Var (ˆθ + b (ˆθ ) 2 Statistica Applicata all edilizia:

11 Consistenza ˆθ n θ per ciò è sufficiente che E θ (ˆθn ) Var θ (ˆθn ) per n θ per n 0 per n Efficienza: dati due stimatori ˆθ A e ˆθ B il confronto fra i due stimatori si basa su ) MSE (ˆθ B e (A, B) = ) MSE (ˆθA se e (A, B) è > 1 ˆθ A è più efficiente = 1 ˆθ A e ˆθ A sono equivalenti < 1 ˆθ A è meno efficiente Statistica Applicata all edilizia:

12 Stima della Media Dato X 1,..., X n iid F con E (X) = µ e Var (X) = σ 2, la media campionaria X = 1 n X i n è una stima di µ. i=1 Teorema delle 3M : E ( X) = µ Varianza della media campionaria Var ( X) = σ 2 Distribuzione di X X N 1 n se X 1,..., X n iid N ( µ, σ 2) 2 per n altrimenti. ) (µ, σ2 n n Statistica Applicata all edilizia:

13 Intervallo di confidenza per la media Intervallo di confidenza per la media (σ 2 nota) nel caso di popolazione Gaussiana Sia X una v.c Gaussiana di media µ e varianza σ 2. Se X 1, X 2,..., X n è un campione i.i.d. estratto da X allora l intervallo di confidenza per µ di livello 1 α è: µ ( X n ± z 1 α 2 ) σ n Lo stesso risultato vale se X è qualunque purché l ampiezza del campione sia sufficientemente elevata Intervallo di confidenza per la media (σ 2 incognita) nel caso di popolazione Gaussiana Se il valore della varianza σ 2 non è noto calcoliamo una sua stima attraverso lo stimatore s n. 2 Se X 1, X 2,..., X n è un campione i.i.d. estratto da X allora l intervallo di confidenza per µ di livello 1 α è: µ ( X n ± t (n 1) 1 α 2 s 2 n n ) Statistica Applicata all edilizia:

14 Stima della Varianza Dato X 1,..., X n iid F con E (X) = µ e Var (X) = σ 2, è una stima di σ 2. E ( S 2) = σ 2 S 2 = 1 n 1 n ( Xi X ) 2 i=1 Var ( S 2) = K n Distribuzione Chi-Quadrato con n 1 gradi di libertà: se X i iid N ( µ, σ 2) allora S 2 n 1 σ 2 χ 2 n 1 Statistica Applicata all edilizia:

15 Intervallo di confidenza per la varianza L intervallo di confidenza per la varianza della popolazione è: ( ) σ 2 (n 1)s 2 (n 1)s2 χ 2 ; 1 α 2,n 1 χ 2 α 2,n 1 Statistica Applicata all edilizia:

16 è una tecnica molto semplice e intuitiva per stimare i parametri incogniti di una certa distribuzione: si impone che i momenti assoluti della distribuzione coincidano con i rispettivi momenti campionari. Supponiamo che f (X) sia una densità con k parametri incogniti θ 1, θ 2,..., θ k e poniamo: µ r = E(X r ) dove µ r dipende da θ 1, theta 2,..., θ k. Dato poi un campione casuale X 1, X 2,..., X n poniamo M r = 1 n n i=1 X r i. Statistica Applicata all edilizia:

17 Risolvendo il sistema µ 1 (θ 1, θ 2,..., θ k ) = M 1 (X 1, X 2,..., X n ) = µ k (θ 1, θ 2,..., θ k ) = M k (X 1, X 2,..., X n ) si trovano le stime ˆθ 1, ˆθ 2,..., ˆθ n Statistica Applicata all edilizia:

18 Finora come stima di θ abbiamo usato il suo equivalente campionario, fortunatamente 1 abbiamo trovato un equivalente campionario di θ 2 e questo è rislutato una buona stima Quando f θ è nota nella forma, il metodo della massima verosimiglianza fornisce in automatico una buona stima di θ. A tal fine, osservato un particolare campione: X 1 = x 1,..., X n = x n, definiamo verosimiglianza di θ la (densità di) probabilità del campione estratto n L (θ) = f θ (x i ) i=1 Statistica Applicata all edilizia:

19 NB Fissato X 1 = x 1,..., X n = x n L (θ) è funzione di θ. Al variare di X 1,..., X n, L (θ) è una v.c. fissato θ. L idea allora è quella di usare come stima di θ quel valore ˆθ ML che massimizza la probabilità del campione effettivamente osservato: ˆθ ML = arg max (L (θ)) θ Chiamiamo ˆθ ML stima di massima verosimiglianza (MLE). Statistica Applicata all edilizia:

20 Schema per la stima di massima verosimiglianza 1 Funzione di verosimiglianza: L (θ) = n f θ (x i ) i=1 2 Logaritmo della funzione di verosimiglianza: log L (θ) = l (θ) 3 Equazione di verosimiglianza e stima dei parametri 4 Verifica del vincolo 2 log L (θ) 2 θ log L (θ) θ = 0 < 0 for θ = ˆθ Statistica Applicata all edilizia:

21 Esempio Sia X 1, X 2,, X n variabili casuali Normali e indipendenti con media µ e scarto quadratico medio σ. Si vuole determinare lo stimatore di massima verosimiglianza della media si procede nel seguente modo: Ricordiamo che la funzione di densità Normale è data da f ( x; µ, σ 2) = 1 σ φ ( x µ σ ) = 1 σ 1 2π e 2( x µ σ ) 2 Per determinare lo stimatore di massima verosimiglianza della media µ si procede nel seguente modo: Statistica Applicata all edilizia:

22 1 Si determina la funzione di verosimiglianza: n ( ) 1 L (θ) = σ e 1 ) n xi µ 2 2 i=1( σ 2π i=1, 2 Si passa al logaritmo della funzione di verosimiglianza, n ( ) 2 xi µ l (θ) = n log σ n 2 log π Si determina la derivata rispetto a µ: i=1 σ log L (θ) θ = n x i nµ 4 Ponendo la derivata uguale a zero, si ricava lo stimatore di massima verosimiglianza per µ n i=1 µ = x i n i=1 Statistica Applicata all edilizia:

23 Problemi 1 X è MLE per la N ( µ, σ 2 ), la Poisson(λ), Bin (1, π). 2 ˆσ 2 = 1 n ( Xi X ) 2 è MLE per σ 2 in campioni dalla normale. 3 Sia X 1,..., X n iid N ( µ, σ 2) Studiare L (µ) per σ fissato Studiare L ( σ 2) per µ fissato Verificare che ˆµ ML = X per X 1,..., X n da N ( µ, σ 2). Hint: ˆθ ML è soluzione di ln L (θ) = 0. θ Statistica Applicata all edilizia:

24 Proprietà di MLE MLE gode di diverse buone proprietà soprattutto per grandi campioni (entro opportune ipotesi su f ): è consistente: ˆθML,n θ per n è asintoticamente efficiente: per ogni stimatore T n MSE (ˆθML,n ) MSE (T n ) per n > n T è asintoticamente normale: esiste una varianza asintotica τ 2 > 0 tale per cui ( ˆθ ML = N θ, τ 2 ) n cioè: ( ) ˆθML θ P τ/ n t Φ (t) NB: la convergenza legata alla consistenza è da intendersi in senso stocastico, per esempio, nelle stesse ipotesi in cui vale la normalità asintitotica si ha 2 Orietta E (ˆθ Nicolis ML,n Statistica θ) Applicata 0 all edilizia: