Statistica. Alfonso Iodice D Enza

Transcript

1 Statistica Alfonso Iodice D Enza iodicede@gmail.com Università degli studi di Cassino () Statistica 1 / 24

2 Outline () Statistica 2 / 24

3 Dipendenza lineare Lo studio della relazione tra caratteri statistici è, nel caso della inter, di tipo simmetrico: due caratteri quantitativi X e Y hanno lo stesso ruolo e si vuole studiare se essi siano indipendenti o meno. A questo scopo sono stati introdotti gli indici di covarianza σ xy e di correlazione lineare ρ. Si consideri di aver osservato due caratteri quantitativi X ed Y. Si riportano i valori e il grafico di dispersione: Y X Il diagramma di dispersione (scatter plot) () Statistica 3 / 24

4 Dipendenza lineare covarianza e coefficiente di correlazione P 10 µ x = x i = P 10 µ y = y i = r P10 σ x = (x i µx)2 = r P10 σ y = (y i µy )2 = P 10 σ xy = (x i µx)(y i µy ) = ρ xy = σxy σxσy = 0.97 Dipendenza funzionale lineare Essendo il valore del coefficiente di correlazione lineare prossimo ad 1 esiste una forte relazione lineare tra X ed Y. Come confermato dal grafico di dispersione, i dati sono approssimativamente allineati lungo una retta crescente. Ci si può dunque aspettare che sussista una relazione funzionale tra i dati del tipo Y = f(x) = b 0 + b 1 X che rappresenta l equazione di una retta passante attraverso la nube di punti di coordinate (x i, y i ). () Statistica 4 / 24

5 rette passanti per la nube di punti fornisce una approssimazione della dei valori di Y dai valori di X. La relazione di non è esattamente riprodotta dalla retta; i valori yi = b 0 + b 1 x i sono dunque i valori teorici, ovvero i valori che la variabile Y assume, secondo il modello Y = b 0 + b 1 X, in corrispondenza dei valori x i osservati. Determinazione della retta di L identificazione della retta avviene attraverso la determinazione dei valori di b 0, l intercetta, e b 1, il coefficiente angolare o pendenza. La retta migliore è quella che passa più vicina ai punti osservati. In altre parole, si vuole trovare la retta per la quale le differenze tra i valori teorici yi e i valori osservati y i siano minime. () Statistica 5 / 24

6 I residui le differenze tra i valori teorici yi e i valori osservati y i vengono definite residui. è tale che la somma dei residui al quadrato sia minima. Formalmente Ricerca dei parametri della retta di :(b 0 ) e 2 n i = X (y i y i )2 = (y i b 0 b 1 x i ) 2 2 (y i b 0 b 1 x i ) = Il problema consiste dunque nel ricercare b 0 e b 1 che minimizzano la precedente espressione. Da un punto di vista X n operativo bisogna risolvere il seguente sistema di equazioni y i n b 0 b 1 x i = 0 (y i b 0 b 1 x i ) 2 = 0 b 0 = µ y b 1 µ x b 0 (y i b 0 b 1 x i ) 2 = 0 b 1 () Statistica 6 / 24

7 I residui le differenze tra i valori teorici yi e i valori osservati y i vengono definite residui. La retta di è tale che la somma dei residui al quadrato sia minima. Ricerca dei parametri della retta di :(b 1 ) Formalmente e 2 i = X n (y i y i )2 = = (y i b 0 b 1 x i ) 2 Il problema consiste dunque nel ricercare b 0 e b 1 che minimizzano la precedente espressione. Da un punto di vista operativo bisogna risolvere il seguente sistema di equazioni 2 x i (y i b 0 b 1 x i ) = 0 X n X n x i y i b 0 x i b 1 x 2 i = 0 X n b 1 x 2 n P i = X n P y n! i x i x i y i x i b 1 n n b 1 n x 2 n! i ( X x i ) 2 X n = n x i y i x i y i b 1 = n P n x i y i P n P x n i y i (y i b 0 b 1 x i ) 2 n P n x 2 i (P n x i ) 2 = σxy σx 2 = 0 b 0 (y i b 0 b 1 x i ) 2 = 0 b 1 () Statistica 7 / 24

8 Determinazione della retta di Calcolo dei coefficienti Richiamando le quantità calcolate in precedenza e le formule per il calcolo dei parametri si ha b 1 = σxy σ x 2 = 2.55 b 0 = µ y b 1 µ x = 37.6 ( ) = 0.62 La retta migliore () Statistica / 24

9 Interpretazione dei valori dei coefficienti di b 0 rappresenta l intercetta della retta di ed indica il valore della variabile di risposta Y quando il predittore X assume valore 0. b 1 rappresenta l inclinazione della retta di, ovvero la variazione della variabile di risposta Y in conseguenza di un aumento unitario del predittore X. () Statistica 9 / 24

10 Bontà di adattamento Esistono diversi strumenti grafici ed analitici per valutare la bontà dell adattamento della retta di ai dati Strumenti grafici: plot dei residui Strumenti analitici:coefficiente di determinazione lineare R 2 () Statistica 10 / 24

11 Plot dei residui Perchè la retta possa essere considerata una buona approssimazione della relazione che intercorre tra Y ed X è necessario che i residui abbiano un andamento casuale rispetto ai valori della X. Se, ad esempio, all aumentare dei valori della X aumentassero sistematicamente anche i residui, allora la relazione potrebbe non essere non lineare: la retta di ne sarebbe dunque una cattiva approssimazione. Plot dei residui Per verificare che l andamento dei residui sia effettivamente casuale rispetto ad X, è possibile utilizzare un diagramma di dispesione tra i valori x i ed i corrispondenti residui e i (i = 1,..., n) () Statistica 11 / 24

12 coefficiente di determinazione lineare R 2 Ricordando che la devianza il numeratore della varianza... Dev y = (y i µ y) 2 = (y i ŷ i + ŷ i µ y) 2 = = (y i ŷ i ) 2 + (ŷ i µ y) (y i ŷ i )(ŷ i µ y) = (y i ŷ i ) 2 + (ŷ i µ y) 2 + 2( y i ŷ i )( ŷ i nµ y) Il metodo dei minimi quadrati assicura che P n ŷ i = P n y i, quindi Dev(y) = (y i ŷ i ) 2 + (ŷ i µ y) ( ŷ i nµ y) = (ŷ i µ y) 2 + (y i ŷ i ) 2 = Dev r + Dev e () Statistica 12 / 24

13 Decomposizione della devianza La devianza può essere decomposta dunque nelle seguenti quantità Dev y = Dev r + Dev e Dev y = P n (y i µ y) 2 devianza totale Dev r = P n (ŷ i µ y) 2 devianza di Dev e = P n (y i ŷ i ) 2 devianza dei residui Interpretazione grafica () Statistica 13 / 24

14 Bontà dell adattamento Intituitivamente, l adattamento della retta è migliore quanto maggiore sarà proporzione di variabilità totale che la retta di riesce a spiegare; ovvero, l adattamento della retta è migliore quanto minore sarà la variabilità residua. Una misura di come il modello approssima i dati osservati è data dal coefficiente di determinazione lineare R 2, dato da ovvero esempio di calcolo R 2 Dev y = P n (y i µ y) 2 = P n R 2 = Devr (ŷ i µ y) 2 = P Dev n y (y i µ y) 2 P n R 2 = 1 Deve (y i ŷ i ) 2 = 1 P Dev n y (y i µ y) 2 Dev r = P n (ŷ i µ y) 2 = Dev e = P n (y i ŷ i ) 2 = R 2 = Devr Dev y = = 0.94 ovvero R 2 = 1 Deve = = = 0.94 Dev y () Statistica 14 / 24

15 Influenza di un outlier sulla Un piccolo esempio Si considerino le seguenti osservazioni Retta di La induce a concludere che vi sia una relazione di proporzionalità inversa: poichè la retta è decrescente si deduce che all aumentare di X, la variabile dipendente Y diminuisce. () Statistica 15 / 24

16 Influenza di un outlier sulla Retta di Un (altro) piccolo esempio Si considerino le osservazioni precedenti a cui è aggiunta un unica coppia di valori (, ). I dati sono In questo caso, la sola presenza della nuova osservazione conduce all identificazione di una retta di diversa dalla prima: l inclinazione positiva della retta indica una relazione di diretta proporzionalità. Tuttavia tale è unicamente dovuta dalla presenza dell osservazione (, ) che pertanto induce a valutare la relazione di tra Y ed X in maniera errata. L osservazione (, ) si definisce pertanto un outlier. L identificazione e la conseguente eliminazione degli eventuali outlier è un elemento molto importante nello studio della tra fenomeni. () Statistica 16 / 24

17 Esercizio : distribuzione doppia di frequenze Si consideri di aver osservato su 10 rivenditori di componenti informatiche le variabili numero di punti vendita e Fatturato settimanale complessivo. Si studi la del fatturato dal numero di punti vendita. fino a 2 tra 2 e 4 tra 4 e 6 fino a tra 5000 e Si stimino i coefficienti della retta di. Si valuti la bontà di adattamento della retta ai dati. () Statistica 17 / 24

18 Esercizio : distribuzione doppia di frequenze Essendo le modalità delle variabili qualitative espresse in intervalli di valori, è necessario fare riferimento ai centri di ciascun intervallo. La tabella è dunque data da Y /X Tot Tot Le medie aritmetiche si ottengono a partire dalle distribuzioni marginali di frequenze: µ x = 1 kx x j n.j = (1 4) + (3 4) + (5 2) = = 2.6 n j= µ y = 1 hx y i n i. = (2500 5) + (7500 5) = = 5000 n dove h rappresenta numero di righe della tabella, k il numero di colonne della tabella. () Statistica 1 / 24

19 Esercizio : distribuzione doppia di frequenze Per calcolare le varianze si fa riferimento agli scarti dalla media al quadrato Y /X (1 2.6) 2 (3 2.6) 2 (5 2.6) 2 Tot ( ) ( ) Tot Le varianze si ottengono a partire dalle distribuzioni marginali di frequenze: σ 2 x = 1 kx (x j µ x) 2 n.j = 1 n j=1 10 ((1 2.6)2 4) + ((3 2.6) 2 4)+ + ((5 2.6) ) = = σ 2 y = 1 hx (y i µ y) 2 n i. = 1 n 10 (2500 5)2 + (7500 5) = = dove h rappresenta numero di righe della tabella, k il numero di colonne della tabella. () Statistica 19 / 24

20 Esercizio : distribuzione doppia di frequenze Per calcolare la covarianza si deve fare riferimento alle distribuzioni condizionate di frequenza. Y /X (1 2.6) (3 2.6) (5 2.6) Tot ( ) ( ) Tot y i x i y i µ y x i µ x ( ) (1-2.6) ( ) (1-2.6) ( ) (1-2.6) ( ) (3-2.6) ( ) (3-2.6) ( ) (1-2.6) ( ) (3-2.6) ( ) (3-2.6) ( ) (5-2.6) ( ) (5-2.6) σ xy = 1 hx kx (y i µ y) (x j µ x) n ij = n j=1 = 1 (( )(1 2.6) 3 + ( )(3 2.6) ( )(1 2.6) 1 + ( )(3 2.6) ( )(5 2.6) 2) = = () Statistica 20 / 24

21 Esercizio : distribuzione doppia di frequenze Avendo calcolato le quantità µ x = 2.6, µ y = 5000, σ 2 x = 2.24 e σ xy = 2000, è possibile calcolare i coefficienti della retta di Calcolo dei coefficienti b 1 = σxy = 2000 σx = b 0 = µ y b 1 µ x = 5000 ( ) = quindi l equazione della retta di è y = b 0 + b 1 x = x Dunque, il valore stimato ŷ i corrispondente ad un valore x i assegnato è ŷ i = b 0 + b 1 x. () Statistica 21 / 24

22 Valutazione della bontà di adattamento Ricordando che ovvero con Dev y = Dev r + Dev e P n R 2 = Devr (ŷ i µ y) 2 = P Dev n y (y i µ y) 2 P n R 2 = 1 Deve (y i ŷ i ) 2 = 1 P Dev n y (y i µ y) 2 Dev y = P n (y i µ y) 2 devianza totale Dev r = P n (ŷ i µ y) 2 devianza di Dev e = P n (y i ŷ i ) 2 devianza dei residui Per ottenere R 2, misura della bontà di adattamento, si deve calcolare solo la devianza dei residui, avendo già calcolato σ 2 y. () Statistica 22 / 24

23 Calcolo della devianza dei residui Dev e = n (y i ŷ i ) 2 devianza dei residui in base alla retta di stimata, i valori ŷ i stimati in funzione dei valori x i sono ŷ 1 = b 0 + b 1 x 1 = = ŷ 2 = b 0 + b 1 x 2 = = ŷ 3 = b 0 + b 1 x 3 = = () Statistica 23 / 24

24 Calcolo della devianza dei residui Per calcolare i residui y i ŷ i nel caso di si procede come segue y i /ŷ j ŷ 1 = ŷ 2 = ŷ 3 = Tot y 1 = y 2 = Tot Dev e = P h P k ((y i ŷ j ) 2 ) n ij devianza dei residui per tabella doppia calcolo della devianza dei residui hx kx Dev e = ((y i ŷ j ) 2 ) n ij = (( ) 2 ) 3 + (( ) 2 ) 2+ j=1 + (( ) 2 ) 1 + (( ) 2 ) 2 + (( ) 2 ) 2 = = dev y = (y i µ y) 2 = σ 2 y n = = R 2 = 1 deve dev y = = 0.29 () Statistica 24 / 24