Stima dei Parametri. Capitolo 8

Transcript

1 Capitolo 8 Stima dei Parametri Lo scopo dello studio dei fenomeni fisici è quello di scoprire le leggi che legano le grandezze oggetto di indagine e di misurare il valore delle costanti che compaiono della formulazione di leggi fisiche note. Il primo passo in questa analisi consiste nell ipotizzare una relazione matematica tra le grandezze fisiche che caratterizzano il fenomeno osservato. Questa funzione matematica costituisce il cosiddetto modello matematico, brevemente modello. Con modello si intende una forma matematica (lineare, quadratica, esponenziale,... o una loro combinazione della quale fanno parte un certo numero di parametri incogniti λ 1, λ 2,..., λ k (che alle volte saranno indicate con Λ per brevità. La stima del valore di questi parametri è, in molti casi, l obiettivo principale dello studio del fenomeno fisico. Una volta specificato un modello, i dati raccolti permettono di stimare i parametri con i metodi che verranno esposti nei prossimi paragrafi. La stima del valore dei parametri che caratterizzano una popolazione statistica è un importante capitolo della statistica detto teoria degli stimatori. La teoria degli stimatori si divide in puntuale, quando valuta il valore di un parametro, e in stima di intervallo, quando assegna un intervallo di valori che includa il parametro cercato con un prefissato livello di fiducia 1 Come esempio si consideri un esperimento in cui per stimare l accelerazione di gravità locale si studia il moto di un grave in caduta libera; le grandezze fisiche osservate sono un certo numero di distanze percorse dal grave in corrispondenza di tempi fissati (s i, t i, i = 1,..., N. La teoria, in particolare il secondo principio della dinamica, stabilisce che queste grandezze soddisfano la relazione 2 s = gt 2 /2 dove g è l accelerazione di gravità; il modello matematico da adattare ai dati sarà quindi una forma quadratica: s = λ 1 + λ 2 t + λ 3 t 2 dove il parametro λ 1 tiene conto di una eventuale valore non nullo della reale coordinata di inizio del moto, λ 2 tiene conto di un eventuale velocità iniziale non nulla e infine λ 3 è il parametro che stima l accelerazione di gravità diviso 2. Se i dati sperimentali sono in numero sufficiente (possibilmente in numero molto maggiore dei parametri Λ la teoria degli estimatori (in particolare la stima puntuale fornisce gli strumenti per stimare i parametri dai dati sperimentali. Nei paragrafi successivi saranno esposti i due metodi più usati per la stima puntuale dei parametri: il metodo dei minimi quadrati e il metodo di massima verosimiglianza. 1 Si parla di fiducia e non di probabilità perché nell interpretazione frequentista della probabilità i parametri delle teorie hanno valori fissi per quanto non noti e quindi non ammettono una distribuzione di probabilità. L interpretazione soggettivista della probabilità al contrario, ammette che i parametri incogniti in quanto tali abbiano una distribuzione di probabilità. 2 Supponendo velocità iniziale e coordinata di inizio del moto nulle 85

2 CAPITOLO 8. STIMA DEI PARAMETRI Metodo dei Minimi Quadrati In questo paragrafo illustriamo metodo dei minimi quadrati, uno dei metodi di stima puntuale più utilizzati in fisica e non solo. Consideriamo un esperimento nel quale siano state acquisite N coppie di valori (x i, y i di due grandezze fisiche X e Y tra le quali si ipotizza che esista una relazione funzionale 3 Y = f(x Λ, (il modello. Come già detto la funzione f dipenderà anche da un certo numero di parametri Λ : {λ k }; ad esempio se la relazione funzionale è lineare avremo: f(x λ 1, λ 2 = λ 1 + λ 2 X, se è quadratica: f(x λ 1, λ 2, λ 3 = λ 1 + λ 2 X + λ 3 X 2, se è esponenziale: f(x λ 1, λ 2 = λ 1 exp(λ 2 X e così via. Supponiamo inoltre le grandezze y i siano affette dalle incertezze u yi mentre le incertezze sulle grandezze x i possano essere ritenute trascurabili. Fatte queste premesse, possiamo enunciare il Principio dei Minimi Quadrati: la stima migliore dei parametri incogniti Λ è quella che minimizza la seguente espressione: N (y i f(x i Λ 2 R = u 2 (8.1 y i somma R degli scarti quadrati tra il valore sperimentale e quello previsto dal modello (il valore teorico diviso per la stima della varianza di y i (u 2 y i. Per ottenere la stima di parametri f(x Figura 8.1: La somma delle distanze al quadrato tra i punti sperimentali e i corrispondenti valori teorici (quelli sulla curva deve essere minima per la definizione della migliore curva secondo il Metodo del Minimi Quadrati. Λ si deve trovare il minimo dell espressione (8.1 vista come funzione dei parametri, ovvero si deve risolvere il seguente sistema: = =... = = 0 (8.2 λ 1 λ 2 λ m dove m è il numero dei parametri da determinare. Se indichiamo con Λ o = {λ 1o, λ 2o,... λ mo } la soluzione del sistema (8.2, la funzione f(x, Λ o è completamente determinata e generalmente viene indicata con il termine gergale di fit 4 dei dati. Si noti il principio dei minimi quadrati non richiede alcuna condizione sulla distribuzione di probabilità delle grandezze y i ; tuttavia se le y i hanno distribuzioni gaussiane con valore 3 La relazione matematica da utilizzare può derivare da considerazioni teoriche legate all analisi del fenomeno che si studia oppure può essere suggerita dagli andamenti fenomenologici sperimentali 4 Il termine inglese fit si può tradurre, in questo contesto, con: procedura di adattamento di una curva teorica ai dati sperimentali x

3 CAPITOLO 8. STIMA DEI PARAMETRI 87 medio f(x i Λ o e deviazione standard u yi allora l espressione che si ottiene dalla (8.1 quando Λ = Λ o è per definizione una variabile che segue la distribuzione del χ 2 (vedi il paragrafo 5.9.6, e potremo scrivere 5 : N χ 2 (y i f(x i Λ o 2 = u 2 (8.3 y i In questo caso, utilizzando le tabelle precompilate della distribuzione del χ 2, si potranno fare considerazioni probabilistiche sulla qualità del fit ottenuto 6, come sarà mostrato nel capitolo Minimi quadrati e fit lineare L applicazione più semplice del metodo dei minimi quadrati si ha quando la funzione che si vuole adattare all insieme delle N coppie di dati (x i, y i ± u yi è lineare. Il modello teorico in questo caso è rappresentato da una retta: y = a + bx (per raccordarsi con la notazione precedente: λ 1 = a e λ 2 = b, nel piano xy e la funzione R da minimizzare si scrive come: N R = w i (y i a bx i 2 dove per semplificare la notazione si sono introdotti i pesi w i delle misure y i definiti dalla relazione: w i = 1/u 2 y i. In valori di a e b che minimizzano R sono quelli che annullano le derivate di R rispetto ai due parametri: a = 2 N w i (y i a bx i = 0 (8.4 N b = 2 w i x i (y i a bx i = 0 Per alleggerire la notazione poniamo: S 0 = w i, S x = w i x i, S xx = w i x 2 i, S xy = w i x i y i, S y = w i y i (8.5 Con queste posizioni il sistema precedente si scrive: { as0 + bs x = S y as x + bs xx = S xy (8.6 La soluzione del sistema precedente è: dove a = 1 (S xxs y S x S xy, b = 1 (S 0S xy S y S x (8.7 = S 0 S xx (S x 2 Si verifica facilmente che i valori trovati corrispondono al minimo di R. Riassumendo, le relazioni (8.7 sono le stime dei parametri a e b con il metodo dei minimi quadrati. 5 In molti testi, anche se in modo improprio e che può generare confusione, l espressione (8.1 è indicata con il simbolo χ 2 anche nel caso generale in cui la distribuzione delle y i non sia normale. 6 Se la distribuzione cui appartengono le y i non è gaussiana ma è nota, il calcolo della qualità del fit ottenuto è molto più complessa da ottenere

4 CAPITOLO 8. STIMA DEI PARAMETRI 88 Incertezza sui parametri a e b. I parametri a e b sono variabili aleatorie in quanto funzioni, in particolare lineari, delle variabili aleatorie y i, quindi applicando la formula di propagazione delle incertezze (7.10 si ha per l incertezza su parametro a: ( N 2 a u 2 a = u 2 y y j = 1 N ( 2 S y S xy 1 j 2 S xx S x = 1 N (S xx w j S x w j x j 2 y j y j w j 2 = w j = 1 2 N (Sxxw 2 j + Sxw 2 j x 2 j 2S xx S x w j x j = 1 ( 2 SxxS SxS 2 xx 2S xx Sx 2 = S xx e per l incertezza sul parametro b: ( N 2 b u 2 b = u 2 y y j = 1 N ( S xy j 2 S 0 y j = 1 2 N 2 S y 1 S x = 1 y j w j 2 N (S 0 w j x j S x w j 2 w j = (S0w 2 j x 2 j + Sxw 2 j 2S 0 S x w j x j = 1 ( 2 S0S 2 xx + SxS 2 0 2S 0 Sx 2 = S 0 Riassumendo le incertezze standard sui parametri a e b ottenuti con il metodo dei minimi quadrati sono: S xx S 0 u a = u b = (8.8 Caso delle incertezze uguali. Nel caso in cui tutte le incertezze sulle y i siano uguali (u yi = u y le posizioni (8.5 si semplificano, utilizzando il peso w = 1/u 2 y, in S 0 = wn, S x = w x i, S xx = w x 2 i, S xy = w x i y i, S y = w y i (8.9 Si verifica facilmente che in questo caso il valore di entrambi i parametri a e b, dati dalle (8.7, non dipende dal valore dell incertezza u y. Le incertezze su a e b date dalle (8.8 in questo caso divengono: u a = u y Esempi x 2 i N x 2 i ( x i 2 N u b = u y N x 2 i ( x i 2 Consideriamo un esperimento con cui si vuole misurare la costante elastica di una molla elicoidale. L esperimento si esegue nel seguente modo: la molla viene sospesa e se ne misura l allungamento rispetto alla sua posizione di riposo in funzione della massa che è agganciata all estremo libero della molla. Nell esperimento si misurano, con un incertezza trascurabile, la massa del peso (variabile x che si aggancia all estremo libero della molla e il conseguente allungamento (variabile y con la sua incertezza u y. Nella tabella seguente sono riportate 5 coppie di misure delle grandezze x e y. x (g (y ± u y (mm ± ± ± ± ± 11

5

6 CAPITOLO 8. STIMA DEI PARAMETRI 90 In conclusione la stima puntuale dei parametri a e b con il metodo dei minimi quadrati è: a = (8 ± 4 mm b = (0.81 ± 0.04 mm g 1 Dal valore di b si risale alla costante k della molla attraverso la relazione k = bg. L incertezza su k si ottiene propagando unicamente quella b, solo se si assume per g un valore la cui incertezza 8 sia tale che u g gu b /b. La giustificazione di questa condizione è lasciata al lettore Minimi quadrati e Media pesata Supponiamo di avere n misure y i di una stessa grandezza fisica, ciascuna con una propria incertezza u i. Supponiamo inoltre che queste misurazioni siano state eseguite con diverse modalità per cui le varie incertezze sono differenti, come ad esempio mostrato nella figura 8.3. Applichiamo il metodo dei minimi quadrati per ottenere una stima della grandezza che tenga conto di tutte le misurazioni eseguite con le loro incertezze. In questo caso la funzione f(x Λ si riduce ad una costante, λ, il cui valore corrisponde al valore della grandezza cercata. La funzione R da minimizzare è R = n (y i λ 2 u 2 i derivando e annullando la relazione precedente si ha: n ( λ = 2 y i λ n u 2 = 2 i y i u 2 i n 1 λ = 0 u 2 i Da cui introducendo i pesi w i = 1/u 2 i otteniamo la nota formula della media aritmetica pesata: wi y i y λ = wi Y Figura 8.3: Misure ripetute con incertezze differenti. 8 in tutti i casi in cui nelle formule appaiono grandezze di riferimento (come l accelerazione di gravità, l incertezza è sostanzialmente determinata dal numero di cifre significative che si utilizzano nei calcoli