Statistica multivariata

Transcript

1 Parte 3 : Statistica multivariata Quando il numero delle variabili rilevate sullo stesso soggetto aumentano, il problema diventa gestirle tutte e capirne le relazioni. Analisi multivariata Cercare di capire le relazioni che intercorrono tra le variabili Introdurre tante variabili in un analisi non ha molto senso, né al livello biologico, né al livello statistico.! Il modello diventa troppo complesso.! Diventa difficile interpretare i risultati.! Le stime dei parametri diventano molto instabili.! Più parametri inseriamo, più osservazioni ci vogliono per stimarli. Eliminiamo le variabili che sono molto correlate tra di loro. Se due variabili sono molto correlate, allora l informazione di una è contenuta quasi completamente nell altra. Statistica multivariata Dati multivariati Variabili statistiche! Analisi fattoriale analisi (prevalentemente) simmetrica rappresentare un numero elevato di variabili per mezzo di un numero inferiore di variabili ipotetiche (o latenti), i cosiddetti fattori Unità statistiche 1 2 Var. 1 x 11 x 21 Var. 2 x 12 x 22 Var. m x 1m x 2m! Regressione multipla analisi asimmetrica formulare opportuni modelli descrittivi/interpretativi n x n1 x n2 osservazioni, rilevazioni, x nm Matrice dei dati (n!m) : n righe, m colonne con n!m valori

2 Misure di concordanza Voglio un indice (una misura) che mi dica il grado di concordanza tra i valori di una variabile X con quelli di una variabile Y. Covarianza Var. 1 Variabili statistiche Var. 2 Var. m 1 x 11 x 12 x 1m Concordanza positiva Concordanza negativa Unità statistiche 2 n x 21 x n1 x 22 x n2 x 2m x nm x.1 x.2 x.m Covarianza : indice della relazione (lineare) tra due variabili Assenza di concordanza k Correlazione Matrice di covarianza Varianza : indice di dispersione Covarianza : indice di relazione Correlazione : indice di relazione normato k Diagonale principale: varianza della variabile ima Altre celle: covarianza tra variabili Quadrata e simmetrica k k e se le variabili sono di tipo qualitativo?

3 Associazione tra due variabili quantitative: indice di correlazione tra due variabili qualitative: indice del chi-quadro tra variabile quantitativa e qualitativa: Sia X categoriale con categorie 1, 2,, k. Sia Y numerica. Allora: chi-quadro indici di associazione nominali Coefficiente! Coefficiente di contingenza ordinali # di Kendall D di Somers Coefficiente " dove le Y i sono le medie dei valori di Y a cui è associata la modalità ima della variabile X. Coefficiente V di Cramér Assumendo: Analisi della varianza ad una via indipendenza dei campioni e delle osservazioni normalità dei dati varianze all interno dei k gruppi uguali (test F/test di Levene) Varianza entro gruppi $ 2 w Varianza tra gruppi $ 2 B Statistica multivariata! Analisi fattoriale analisi (prevalentemente) simmetrica rappresentare un numero elevato di variabili per mezzo di un numero inferiore di variabili ipotetiche (o latenti), i cosiddetti fattori! Regressione multipla analisi asimmetrica formulare opportuni modelli descrittivi/interpretativi F = $ 2 B / $2 w ~ F k-1, n-k

4 Metodi multivariati - 1 Ross et al. (2000) Nature Gen. 24: Riduzione di dimensione! componenti principali (PCA)! multidimensional scaling (MDS) Analisi fattoriale Analisi di raggruppamento tecnica descrittiva - analisi di segmentazione/cluster - analisi interna (unsupervised learning) Analisi discriminante tecnica predittiva - classificazione (machine/supervised learning) Metodi multivariati - 2 Regressione lineare - risposta continua - predittori continui/categoriali Regressione multipla Regressione logistica - risposta binaria - predittori continui/categoriali Dati di sopravvivenza Alizadeh et al. (2000) Nature 403: dati di durata - predittori continui/categoriali

5 Modello di regressione Minimi quadrati Quando ho una variabile risposta Y e tante variabili esplicative X i, si può ipotizzare di spiegare la relazione tra Y e le X i attraverso un modello lineare (nei parametri). Caso univariato semplice Come stimare i parametri? Metodo dei minimi quadrati (MMQ) Nel caso univariato semplice lavoriamo in un piano; man mano che aumentano le X i aumentano le dimensioni dello spazio. Esempio: y = % 0 x 1 x 2 Lavoriamo in 3 dimensioni. Caso multivariato X 2 + " + % k X k Logica Rendiamo minima la differenza tra i valori osservati (blu) e quelli predetti dal modello (rossi): Qui & è la componente casuale che si suppone abbia media nulla e varianza costante pari a $ 2. min ' i [ y i (% 0 i X 2i + " + % k X ki )] 2 Come stimare i parametri? Metodo dei minimi quadrati (MMQ) Minimi quadrati Minimi quadrati Caso monovariato (una sola variabile esplicativa): Allora, in base al MMQ: b 0 = y b 1 b 1 = Cov(X,Y) Var(X) Caso multivariato: b = (X!X) -1 X!y Var. 1 Var. 2 Var. m dove X è la matrice dei dati. 1 x 11 x 12 x 1m 2 x 21 x 22 x 2m n x n1 x n2 x nm

6 Analisi di regressione Il mio modello è un buon modello? R 2 È la percentuale della variabilità spiegata dal modello rispetto alla variabilità totale. Più tende a 1 più il modello è buono. Test sui parametri Residui vs. valori predetti Deviazioni dalla casualità indicano una specificazione errata del modello. Analisi dei residui Può essere utile fare delle verifiche di ipotesi sul valore dei singoli parametri. Se H 0 : % i = 0 Residui vs. x i non è rifiutata allora la variabile può essere eliminata senza perdita di informazione. Analisi grafica dei residui I residui ottenuti dal modello, in base al modello che abbiamo utilizzato, dovrebbero essere quantità con media nulla e varianza costante. Quindi, ci aspettiamo che siano omogeneamente distribuiti intorno allo zero. Analisi dei residui Una terza condizione necessaria per poter fare inferenza sul modello (parametri e R 2 ) è la NORMALITÀ del termine d'errore. Confondente vs Modificatore d'effetto (interazione) Q-Q plot M M F F

7 Confondente vs Modificatore d'effetto (interazione) Scelta del modello Quante e quali variabili inserire nel modello quando se ne hanno a disposizione molte? X % k X k F M M F Regressione step-wise 1. Parto dal modello con una variabile: e man mano ne aggiungo un'altra. Se l inclusione della variabile è significativa, la tengo; altrimenti, la scarto. 2. Parto dal modello completo: X % k X k forward backward e man mano ne levo una. Se l esclusione della variabile è significativa, la tengo; altrimenti, la scarto. Modello di regressione casi particolari E se la variabile (o le variabili) X sono delle variabili categoriali (fattori)? Il modello lineare non è altro che un'analisi della varianza ad una o a più vie. Y ij = % 0 + ( i + % j ij In questo caso la matrice X è una matrice di dummies (cioè di zeri e uno). Le analisi fatte finora sono valide se Y è una variabile numerica. E se non lo fosse? Età e sintomi di malattia coronarica (CHD) Età CHD Età CHD Età CHD

8 grafico di dispersione / a punti tabella della prevalenza % Malati Gruppo d età # in gruppo # % Divido in classi d età. 0 con probabilità ) Y = 1 con probabilità 1-) Utilizzo le percentuali all interno delle classi. Malati % Età (anni) Vantaggi del logit Probabilità di malattia P # y$x%= e! + " x 1 +e! + " x " Transformazione semplice di P(y x) " Relazione lineare con x... "... e continua (logit tra - ' to + ') " Distribuzione nota: binomiale (P tra 0 ed 1) " Diretto legame con la nozione di odds di malattia 0.0 x P# y$x % ln[ 1 &P# y$x %] =! + " x P # y$x% ln [ 1&P # y$x %] =! + " x logit of P(y x)

9 Interpretazione di % Esposizione (x) Malati (y) Si No Si No P # y$x=1 % 1& P # y$x=1 % P # y$x=0 % 1& P # y$x= 0 % Esempio Rischio di sviluppare malattia delle arterie coronarie in accordo con età (< 55 e 55+ anni) CHD 55+ (1) < 55 (0) Present (1) Absent (0) 6 51 odds d$e = e! + " odds d$ (e = e! OR = e! + " = e " e! ln #OR % = " Odds of disease among exposed = 21/6 Odds of disease among unexposed = 22/51 Odds ratio = 8.1 ln# P 1 -P % =! + " Age = & Age Coefficient SE Coeff/SE Age Constant Log-odds = OR = e = 8.1 Regressione logistica multipla ) Più di una variabile indipendente dicotomica, ordinale, nominale, continua, ) Interpretazione di % i incremento del log odds per un incremento unitario di x i con tutte le altre x j constanti