Campionamento. Una grandezza fisica e' distribuita secondo una certa PDF

Transcript

1 Campionamento Una grandezza fisica e' distribuita secondo una certa PDF La pdf e' caratterizzata da determinati parametri Non abbiamo una conoscenza diretta della pdf Possiamo determinare una distribuzione di frequenza mediante n misure sperimentali Gli N esperimenti che contribuiscono a determinare la distribuzione costituiscono un CAMPIONE. Un campione e' un sottoinsieme degli infiniti risultati possibili, che prendono il nome di POPOLAZIONE Alessandro De Falco, INFN Cagliari 1

2 Stima di parametri Teoria Calcolo delle probabilita' Dati Noti i parametri delle distribuzioni di probabilita', possiamo predire le caratteristiche dei dati Teoria Statistica Dati I dati forniscono informazioni sulle proprieta' dei parametri o sulla correttezza delle funzioni di distribuzione Alessandro De Falco, INFN Cagliari 2

3 Statistica, stima Abbiamo n osservazioni indipendenti di una variabile casuale x che costituiscono un CAMPIONE di dimensione n Le x i sono indipendenti: la probabilità congiunta è: Date le misure x i vogliamo ottenere le proprietà di f(x) (media, varianza...) STATISTICA: una funzione dei dati (senza parametri incogniti) STIMATORE(STIMA): della f(x) una statistica usata per estrarre le proprietà Notazione: è lo stimatore del parametro da misurare Esempi: f sample x = f x 1 f x 2... f x n x = 1 N i x i x = x min x max 2 V X = 1 N i x i 2 V X = 1 N 1 i x i 2 Alessandro De Falco, INFN Cagliari 3

4 Esempi di stimatori Un rivelatore misura la molteplicità delle particelle cariche per ciascuno degli N eventi. Vogliamo determinare la molteplicità media Ecco alcuni stimatori possibili: 1- Media aritmetica delle N misure 2- Somma delle N misure divisa per (N-1) 3- Prendiamo la moda (valore più probabile) 4- Media aritmetica degli eventi dispari 5- Media dei primi 100 eventi. Buttiamo gli altri. 6- Buttiamo via i dati e prendiamo come risultato 43 particelle Come stabiliamo la qualità di uno stimatore? Alessandro De Falco, INFN Cagliari 4

5 Proprietà generali delle stime Non esiste una regola d'oro per costruire uno stimatore. Si possono però definire alcune proprietà degli stimatori che ne esprimono la qualità: Consistenza: (Assenza di) Bias Efficienza la stima converge al valore del parametro per campioni di grandi dimensioni? Il valore di aspettazione della stima è uguale al valore del parametro da stimare? La varianza dello stimatore è piccola? Alessandro De Falco, INFN Cagliari 5

6 Consistenza Uno stimatore della quantità da misurare è consistente se, per un numero arbitrariamente grande di misure, il valore dello stimatore converge al valore della quantità da misurare: lim N = In generale, per una statistica finita, differirà da, a causa delle fluttuazioni statistiche. Per la legge dei grandi numeri, aumentando la dimensione del campione, le fluttuazioni diminuiscono. In queste condizioni, un buono stimatore deve convergere al valore del parametro da determinare Nell'esempio precedente, gli stimatori 1,2,4 sono consistenti. 5 e 6 sono inconsistenti. 3 è consistente solo se moda=media In genere la constistenza è considerata un requisito essenziale per uno stimatore Alessandro De Falco, INFN Cagliari 6

7 Bias Poichè uno stimatore è una variabile casuale, possiamo calcolare il suo valore medio: =... x 1, x 2... f x 1, f x 2,... dx 1 dx 2... dx n Il bias è definito come b= Il bias in generale dipenderà dalla dimensione del campione (n) e dalla forma funzionale dello stimatore. Uno stimatore è senza bias se b=0. Nell'esempio precedente, 1, 4 e 5 non hanno bias -ma 5 non è consistente. 2 ha un bias. Alessandro De Falco, INFN Cagliari 7

8 È un requisito utile, ma non sempre necessario Se il bias è piccolo rispetto alla varianza, non è considerato importante Ma se si combinano risultati di diversi esperimenti biasati, la varianza si riduce, ma il bias resta Si considera talvolta la quantità: E[ 2 ]=E [ E [ ] 2 ] E[ ] 2 =V [ ] b 2 che può essere interpretata come la somma in quadratura dell'errore sistematico e dell'errore statistico. Alessandro De Falco, INFN Cagliari 8

9 Nota: Consistenza vs bias La consistenza è una proprietà asintotica Il bias è una proprietà che riflette il comportamento che avrebbe la stima se si ripetesse l'esperimento M volte, sempre con lo stesso numero di eventi Una proprietà non implica l'altra Alessandro De Falco, INFN Cagliari 9

10 Efficienza Confrontiamo due stimatori entrambi consistenti e senza bias: quello con varianza più piccola è il più efficiente Fissata la dimensione del campione, lo stimatore più efficiente avrà maggiore probabilità di essere più vicino al valore vero del parametro da stimare Nell'esempio precedente 1 e 4 sono entrambi consistenti e senza bias, ma 1 è più efficiente di 4. Mentre è relativamente facile trovare se uno stimatore consistente è senza bias, è più complicato stabilire l'efficienza di uno stimatore, perché questa dipende dalla particolare pdf. E' possibile stabilire un limite alla varianza di uno stimatore (minimum variance bound, MVB). Torneremo in seguito su questo punto. Alessandro De Falco, INFN Cagliari 10

11 Quale stimatore scegliere? Non esiste lo stimatore ideale La scelta richiede giudizio: La varianza dello stimatore dipende dalla pdf, dunque l'efficienza può essere diversa per problemi differenti E' possibile avere uno stimatore che si rivela 'biasato', per cui è necessario bilanciare i vantaggi e gli svantaggi per uno stimatore più efficiente e con un piccolo bias o meno efficiente e con bias nullo Alessandro De Falco, INFN Cagliari 11

12 Una stima per il valore medio La media aritmetica delle misure x i e' detta media campione x = x= 1 n i x i Se V[x] è finita, la media campione è una stima consistente e senza bias per il valore medio lim n P =0 R stima consistente E[ x]= 1 n i E [ x i ]= 1 n i = stima senza bias V [ x]=e [ x 2 ] E [ x] 2 =E [ 1 n i x i 1 n j x j ] 2 = 1 n 2 i, j E [ x i x j ] 2 = 1 n 2 [ n2 n 2 n 2 2 ] 2 = 2 n E[ x i x j ]= 2 per i j E [ x i 2 ]= 2 2 Alessandro De Falco, INFN Cagliari 12

13 Una stima per la varianza Supponiamo che non sia nota la varianza ma sia noto il valore medio In analogia col caso precedente possiamo definire lo stimatore della varianza come S 2 = 1 n i x i 2 Questa stima è consistente e senza bias: E[ S 2 ]= n x 2 n = x 2 = 2 Supponiamo che non siano noti nè la varianza nè il valore medio. Se usiamo lo stimatore appena definito sostituendo al valore medio la media campione, otteniamo una stima con bias: Alessandro De Falco, INFN Cagliari 13

14 Infatti: E[ S 2 ]= n x x 2 = x 2 x 2 = x 2 x 2 x 2 x 2 n Per il teorema del limite centrale Dunque: E[ S 2 ]= x 2 x 2 = x 2 x 2 x 2 x 2 V x V x Ma ancora il CLT ci dice che: Dunque: x = x V x =V x / n E[ S 2 ]=V x V x =V x 1 1 n = n 1 Per ottenere una stima senza bias si introduce un fattore n/(n-1) detto correzione di Bessel, per cui la stima diventa n V x V x s 2 = V X = 1 n 1 i x i x 2 = n n 1 x 2 x 2 Alessandro De Falco, INFN Cagliari 14

15 Riassumendo: stima per la varianza Supponiamo che non siano noti nè il valore medio nè la varianza Stimiamo 2 con la varianza campione s 2 = V X = 1 n 1 i x i x 2 = n n 1 x 2 x 2 Il fattore 1/(n-1) è tenuto in conto in modo che la stima risulti senza bias: E[s 2 ]= 2 Se il valore medio è noto a priori, la stima S 2 = 1 n i x i 2 = x 2 2 è senza bias Alessandro De Falco, INFN Cagliari 15

16 Stima per la covarianza Per la covarianza V xy =cov[x,y] possiamo usare la stima senza bias: V xy = 1 n 1 i x i x y i y = n n 1 xy x y Per il coefficiente di correlazione =V xy /( x y ): r= V xy s x s y = j i x i x y i y x j x 2 k xy x y = x 2 x 2 y 2 y 2 1/ 2 r ha un bias che tende a zero per y k y 2 n Alessandro De Falco, INFN Cagliari 16

17 La likelihood E' dato un set di misure {x 1, x 2, x 3,...x N } (ciascuna delle quali puo' essere multidimensionale) Supponiamo che la pdf (f) dipenda da un parametro a (anch'esso eventualmente multidimensionale) La likelihood e' definita come la densità di probabilità che il set di misure {x 1, x 2, x 3,...x N } sia prodotto a partire dal particolare valore di a: L x 1, x 2,... x N ; a = f x 1 ; a f x 2 ; a... f x N ; a = f x i ; a a = a L dx 1...dx n a 2 = a 2 L dx 1...dx n Alessandro De Falco, INFN Cagliari 17

18 Efficienza e Minimum Variance Bound Come abbiamo accennato, la varianza di uno stimatore dipende dalla particolare pdf, e può dipendere anche dal particolare valore di a (L=L(x i ;a)). a = a L dx 1...dx n V a = a a 2 = a 2 a 2 a 2 = a 2 L dx 1...dx n C'è un limite all'accuratezza di uno stimatore (per la dimostrazione vedi R. Barlow), detto Minimum Variance Bound (MVB) che, per uno stimatore senza bias è: 1 V a d log L /da 2 ovvero 1 V a d 2 log L / da 2 se V a =MVB 1 d log L /da 2, altrimenti la sua efficienza è MVB V a a è efficiente Alessandro De Falco, INFN Cagliari 18

19 Efficienza della media campione per una pdf gaussiana Se la pdf è gaussiana, la media campione è una stima efficiente di n L= i=1 1 2 exp 1 2 x i 2 2 d 2 log L = N MVB= d 2 2 N per il teorema del limite centrale, è la varianza della media campione 2 Alessandro De Falco, INFN Cagliari 19