Statistica multivariata

Transcript

1 Statistica multivariata Quando il numero delle variabili rilevate sullo stesso soggetto aumentano, il problema diventa gestirle tutte e capirne le relazioni. Analisi multivariata Cercare di capire le relazioni che intercorrono tra le variabili Introdurre tante variabili in un analisi non ha molto senso, né al livello biologico, né al livello statistico.! Il modello diventa troppo complesso.! Diventa difficile interpretare i risultati.! Le stime dei parametri diventano molto instabili.! Più parametri inseriamo, più osservazioni ci vogliono per stimarli. Eliminiamo le variabili che sono molto correlate tra di loro. Se due variabili sono molto correlate, allora l informazione di una è contenuta quasi completamente nell altra.

2 Statistica multivariata! Analisi fattoriale analisi (prevalentemente) simmetrica rappresentare un numero elevato di variabili per mezzo di un numero inferiore di variabili ipotetiche (o latenti), i cosiddetti fattori! Regressione multipla analisi asimmetrica formulare opportuni modelli descrittivi/interpretativi Dati multivariati Var. 1 Variabili statistiche Var. 2 Var. m 1 x 11 x 12 x 1m Unità statistiche 2 x 21 x 22 x 2m n x n1 x n2 x nm osservazioni, rilevazioni, Matrice dei dati (n!m) : n righe, m colonne con n!m valori

3 Misure di concordanza Voglio un indice (una misura) che mi dica il grado di concordanza tra i valori di una variabile X con quelli di una variabile Y. Concordanza positiva Concordanza negativa Assenza di concordanza Covarianza Var. 1 Variabili statistiche Var. 2 Var. m 1 x 11 x 12 x 1m Unità statistiche 2 x 21 x 22 x 2m n x n1 x n2 x nm x.1 x.2 x.m Covarianza : indice della relazione (lineare) tra due variabili k

4 Correlazione Varianza : indice di dispersione Covarianza : indice di relazione k Correlazione : indice di relazione normato k k Matrice di covarianza Diagonale principale: varianza della variabile ima Altre celle: covarianza tra variabili Quadrata e simmetrica e se le variabili sono di tipo qualitativo?

5 Associazione tra due variabili quantitative: indice di correlazione tra due variabili qualitative: indice del chi-quadro tra variabile quantitativa e qualitativa: Sia X categoriale con categorie 1, 2,, k. Sia Y numerica. Allora: dove le Y i sono le medie dei valori di Y a cui è associata la modalità ima della variabile X. chi-quadro indici di associazione nominali ordinali Coefficiente! # di Kendall D di Somers Coefficiente di contingenza Coefficiente " Coefficiente V di Cramér

6 Assumendo: Analisi della varianza ad una via indipendenza dei campioni e delle osservazioni normalità dei dati varianze all interno dei k gruppi uguali (test F/test di Levene) Varianza entro gruppi Varianza tra gruppi $ 2 w $ 2 B F = $ 2 B / $2 w ~ F k-1, n-k Statistica multivariata! Analisi fattoriale analisi (prevalentemente) simmetrica rappresentare un numero elevato di variabili per mezzo di un numero inferiore di variabili ipotetiche (o latenti), i cosiddetti fattori! Regressione multipla analisi asimmetrica formulare opportuni modelli descrittivi/interpretativi

7 Metodi multivariati - 1 Riduzione di dimensione! componenti principali (PCA)! multidimensional scaling (MDS) Analisi fattoriale Analisi di raggruppamento tecnica descrittiva - analisi di segmentazione/cluster - analisi interna (unsupervised learning) Analisi discriminante tecnica predittiva - classificazione (machine/supervised learning) Ross et al. (2000) Nature Gen. 24:

8 Alizadeh et al. (2000) Nature 403: Metodi multivariati - 2 Regressione lineare - risposta continua - predittori continui/categoriali Regressione multipla Regressione logistica - risposta binaria - predittori continui/categoriali Dati di sopravvivenza - dati di durata - predittori continui/categoriali

9 Modello di regressione Quando ho una variabile risposta Y e tante variabili esplicative X i, si può ipotizzare di spiegare la relazione tra Y e le X i attraverso un modello lineare (nei parametri). Caso univariato semplice Y = % 0 + % 1 X 1 + & Caso multivariato Y = % 0 + % 1 X 1 + % 2 X 2 + " + % k X k + & Qui & è la componente casuale che si suppone abbia media nulla e varianza costante pari a $ 2. Minimi quadrati Come stimare i parametri? Metodo dei minimi quadrati (MMQ) Nel caso univariato semplice lavoriamo in un piano; man mano che aumentano le X i aumentano le dimensioni dello spazio. Esempio: y = % 0 + % 1 x 1 + % 2 x 2 + & Lavoriamo in 3 dimensioni. Logica Rendiamo minima la differenza tra i valori osservati (blu) e quelli predetti dal modello (rossi): min ' i [ y i (% 0 + % 1 X 1i + % 2 X 2i + " + % k X ki )] 2

10 Minimi quadrati Come stimare i parametri? Metodo dei minimi quadrati (MMQ) Minimi quadrati Caso monovariato (una sola variabile esplicativa): Allora, in base al MMQ: Y = % 0 + % 1 X 1 + & b 0 = y b 1 X 1 b 1 = Cov(X,Y) Var(X) Caso multivariato: b = (X!X) -1 X!y Var. 1 Var. 2 Var. m dove X è la matrice dei dati. 1 x 11 x 12 x 1m 2 x 21 x 22 x 2m n x n1 x n2 x nm

11 Analisi di regressione Il mio modello è un buon modello? R 2 È la percentuale della variabilità spiegata dal modello rispetto alla variabilità totale. Più tende a 1 più il modello è buono. Test sui parametri Può essere utile fare delle verifiche di ipotesi sul valore dei singoli parametri. Se H 0 : % i = 0 non è rifiutata allora la variabile può essere eliminata senza perdita di informazione. Analisi grafica dei residui I residui ottenuti dal modello, in base al modello che abbiamo utilizzato, dovrebbero essere quantità con media nulla e varianza costante. Quindi, ci aspettiamo che siano omogeneamente distribuiti intorno allo zero. Residui vs. valori predetti Analisi dei residui Deviazioni dalla casualità indicano una specificazione errata del modello. Residui vs. x i

12 Analisi dei residui Una terza condizione necessaria per poter fare inferenza sul modello (parametri e R 2 ) è la NORMALITÀ del termine d'errore. Q-Q plot Confondente vs Modificatore d'effetto (interazione) M M F F

13 Confondente vs Modificatore d'effetto (interazione) F M M F Scelta del modello Quante e quali variabili inserire nel modello quando se ne hanno a disposizione molte? Y = % 0 + % 1 X 1 + % 2 X % k X k + & Regressione step-wise 1. Parto dal modello con una variabile: Y = % 0 + % 1 X 1 + & forward e man mano ne aggiungo un'altra. Se l inclusione della variabile è significativa, la tengo; altrimenti, la scarto. 2. Parto dal modello completo: backward Y = % 0 + % 1 X 1 + % 2 X % k X k + & e man mano ne levo una. Se l esclusione della variabile è significativa, la tengo; altrimenti, la scarto.

14 Modello di regressione casi particolari E se la variabile (o le variabili) X sono delle variabili categoriali (fattori)? Il modello lineare non è altro che un'analisi della varianza ad una o a più vie. Y ij = % 0 + ( i + % j + & ij In questo caso la matrice X è una matrice di dummies (cioè di zeri e uno).

15 Modello di regressione logistico Le analisi fatte finora sono valide se Y è una variabile numerica. E se non lo fosse? Età e sintomi di malattia coronarica (CHD) Età CHD Età CHD Età CHD Modello di regressione logistico Modello di regressione logistico grafico di dispersione / a punti

16 Modello di regressione logistico tabella della prevalenza % Malati Gruppo d età # in gruppo # % Divido in classi d età. 0 con probabilità ) Y = 1 con probabilità 1-) Utilizzo le percentuali all interno delle classi. Malati % Età (anni) Modello di regressione logistico Probabilità di malattia P # y$x%= e! + " x 1 +e! + " x 0.0 x P# y$x % ln[ %] 1 &P# y$x =! + " x logit of P(y x)

17 Vantaggi del logit " Transformazione semplice di P(y x) " Relazione lineare con x... "... e continua (logit tra - ' to + ') " Distribuzione nota: binomiale (P tra 0 ed 1) " Diretto legame con la nozione di odds di malattia [ P # y$x% %] ln 1&P # y$x =! + " x Interpretazione di % Esposizione (x) Malati (y) Si No Si P # y$x=1 % P # y$x=0 % No 1& P # y$x=1 % 1& P # y$x= 0 % odds d$e = e! + " odds d$ (e = e! OR = e! + " = e " e! ln #OR % = "

18 Esempio Rischio di sviluppare malattia delle arterie coronarie in accordo con età (< 55 e 55+ anni) CHD 55+ (1) < 55 (0) Present (1) Absent (0) 6 51 Odds of disease among exposed = 21/6 Odds of disease among unexposed = 22/51 Odds ratio = 8.1 Modello di regressione logistico ln# P 1 -P % =! + " Age = & Age Coefficient SE Coeff/SE Age Constant Log-odds = OR = e = 8.1 Regressione logistica multipla ) Più di una variabile indipendente dicotomica, ordinale, nominale, continua, ) Interpretazione di % i incremento del log odds per un incremento unitario di x i con tutte le altre x j constanti