Metodi Statistici per il Management

Transcript

1 Metodi Statistici per il Management Statistica Multivariata I Simone Borra - Roberto Rocci

2 Introduzione e obiettivi La statistica multivariata si occupa di analizzare e studiare in modo simultaneo un set di k variabili su un campione di n unità: simultaneo indica che lo studio è congiunto, non una variabile alla volta; set di k variabili: in linea di massima k è inteso maggiore o uguale a 3 nel caso di 2 variabili si utilizzano modelli di correlazione o di regressione semplice. Obiettivi: individuare e misurare i legami tra le variabili; segmentare (raggruppare) le unità in sottoinsiemi simili; ricercare regolarità o tendenze nei dati; definire le gerarchie tra variabili. 2

3 Indice I modelli e le tecniche che tratteremo sono: Modelli inferenziali per l analisi della dipendenza (I) modelli di regressione multipla; modelli di analisi della varianza. Tecniche esploratorie di riduzione dimensionale (II) riduzione variabili: analisi in componenti principali; riduzione unità: analisi dei gruppi (cluster analysis). ) 3

4 La struttura dati Il set di dati è solitamente molto ricco, caratterizzato t da un numero ampio di variabili. In linea generale la struttura dati può presentare variabili di diversa natura: quantitative o qualitative. 4

5 Esempio dati UNITA' PREZZO CV SICUREZZA CONFORT CONSUMO MAZDA ,0 MEGANE ,5 Nissan 350 Z Peugeot , ,6 OCTAVIA ,4 ALFA ,1 AUDI A ,9 5

6 Regressione lineare multipla Scopo generale della regressione multipla è quello di studiare la relazione esistente tra una variabile dipendented e k variabili indipendenti, d o esplicative. In termini formali: y i = f(x i1, x i2,, x ik )+w w i Se la regressione è di tipo lineare si ottiene: Equazione y i = b 0 + b 1 x i1 + b 2 x i2 + + b k x ik + w i Assunzioni E(y i x i1,,x ik )=μ i =b 0 +b 1 x i1 + +b k x ik y i x i ~N(μ i, 2 ), indip. σ L interpretazione è analoga a quanto visto per la regressione lineare semplice ˆ w 6

7 reg: stima e bontà la stima di b = [b 0,b 1,,b k ] è calcolata minimizzando Σ i (y i - b 0 - b 1 x i1 + - b k x ik ) 2 in questo modo otteniamo gli stimatori corretti b ˆ 1 = ( X X) X y Questo metodo di stima (detto dei minimi quadrati) coincide con quello di massima verosimiglianza nel caso di errori normalmente distribuiti. ib iti Lo stimatore corretto della varianza dell errore è n σˆ w = ( y i yˆ i ) n k 1 i = 1 SST = SSM+SSR R 2 = SSM/SST = 1 SSR/SST 7

8 reg: esempio Number of Observations 67 Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model <.0001 Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estimates Parameter Standard 95% Confidence Variable DF Estimate Error t Value Pr > t Limits Intercept age feats ne cor sqft <

9 reg: test t e F Test t (significatività delle singole variabili) Ipotesi nulla H 0: b j=0 Stat. test t oss = Coef./(Std.Err.) ~ T n-k-1 se H 0 vera regola rifiuto t oss > t α/2 p-value 2Pr{T n-k-1 > t oss } Teorema di inversione del test. Interessante osservare che un coef. è significativo al 100*alfa% se e solo se lo 0 non è contenuto nell intervallo di confidenza al 100*(1-alfa)%. Test F (significatività del modello nel complesso) Ipotesi nulla H 0 : b 1 =b 2 = =b k =0 Stat. Test F oss =(SSM/dfM)/(SSR/dfR) =MSM/MSR F oss ~ F k,n-k-1 se H 0 vera regola rifiuto F oss > F α p-value Pr{F k,n-k-1 > F oss } 9

10 reg: backward elimination Per selezionare le variabili significative si parte dal modello completo, si elimina la variabile meno significativa (i.e. p-value più alto), si stima nuovamente il modello. La procedura termina quando tutte le variabili hanno un p-value inferiore i ad una certa soglia. Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr > F Model <.0001 Error Corrected Total Root MSE R-Square Dependent Mean Adj R-Sq Coeff Var Parameter Estimates Parameter Standard 95% Confidence Variable DF Estimate Error t Value Pr > t Limits Intercept sqft < cor

11 reg: modelli lineari e non lineari Importante precisare che il modello è lineare nei parametri ma non necessariamente nelle variabili. Esempi E(y x) ) = b 0 + b 1x lin. parametri, lin. variabili E(y x) = b 0 + b 1 x + b 2 x 2 lin. parametri, non lin. variabili E(y x) = b 0 + b 1 log(x) lin. parametri, non lin. variabili E(y x) = b 0 x b 1 non lin. parametri, non lin. variabili 11

12 Modelli ANOVA (aov) Lo studio della dipendenza tra una variabile risposta quantitativa ed una esplicativa qualitativa si realizza utilizzando il modello ANOVA: Analisi della varianza. Il proposito è quello di verificare la presenza di differenze significative tra medie condizionate (i.e. le media della variabile risposta condizionate alle diverse categorie della variabile esplicativa). Il nome deriva dal fatto che per verificare la significatività statistica nella differenza tra medie si devono confrontare varianze. 12

13 aov: esempio SectorN Frequency Percent Communication Energy Finance HiTech Manufacturing Medical Other Retail Transportation

14 aov: esempio Analisi della variabile log(fatturato) per settore Analysis Variable : lsales l Lower 95% Upper 95% SectorN N Obs Mean Std Error Minimum Maximum N CL for Mean CL for Mean Communication Energy Finance HiTech Manufacturing Medical Other Retail Transportation Sono significativamente diverse? C è dipendenza del log(fatturato) dal setttore? 14

15 aov: implementazione Nell accezione più semplice si tratta di un modello di regressione lineare multipla avente come regressori k variabili dummy, dove k+1 è il numero di categorie della variabile esplicativa. Ogni dummy rappresenta una categoria della variabile esplicativa. Questa assume il valore 1 se la categoria è presente e 0 altrimenti. La categoria esclusa dalla codifica (i.e. senza dummy corrispondente) è detta di riferimento. 15

16 aov: implementazione Esempio. Consideriamo la variabile titolo di studio con modalità: Analfabeta, Licenza, Diploma, Laurea. Questa può essere codificata in 3 variabili dummy scegliendo come riferimento la categoria Analfabeta. d i1 d i2 d i3 Licenza Diploma Laurea Diploma Laurea Analfabeta categorie variabili dummy 16

17 aov: modello Prendendo come riferimento la categoria k+1, il modello diventa Ossia y i = y i = b 0 + b 1 d i1 + b 2 d i2 + + b k d ik + w i b 0 + w i se i presenta la categoria k+1 b 0 + b j + w i se i presenta la categoria j k+1k 1 b 0 è la media della variabile risposta condizionata alla categoria k+1 della variabile esplicativa b 0 +b j è la media della variabile risposta condizionata alla categoria j della variabile esplicativa b j è la differenza tra le due medie prima citate 17

18 aov: esempio Sum of Mean Source DF Squares Square F Value Pr > F Model <.0001 Error Corrected Total R-Square Coeff Var Root MSE lsales Mean Parameter Estimate Error t Value Pr > t 95% Confidence Limits Intercept < SectorN Communication SectorN Energy SectorN Finance SectorN HiTech SectorN Manufacturing SectorN Medical SectorN Other SectorN Retail SectorN Transportation