Metodi Multivariati: Analisi delle Componeti Principali (PCA)

Transcript

1 Metodi Multivariati: Analisi delle Componeti Principali (PCA)

2 Il modello PCA come approssimazione delle informazioni contenute in una matrice di dati in cui più oggetti (es. campioni) sono spiegati da tante variabili. L Analisi delle componenti principali (PCA) è utile all interpretazione di una complessa realtà multidimensionale attraverso il computo di un modello più semplice descritto da un numero assai minore di dimensioni (variabili latenti o componenti principali), facilmente interpretabile, ma ancora capace di rappresentare, con una buona approssimazione, l informazione contenuta nei dati originari.

3 PRINCIPAL COMPONENT ANALYSIS (PCA) La PCA è una procedura statistica per la riduzione della dimensionalità dei modelli Essa permette: Ridurre il numero di dimensioni necessarie per rappresentare i dati nel rispetto dell intera infromazione presente in una matrice di dati con più oggetti descritte da molte variabili. Ottenere informazioni sulle similitudini e differenze tra i campioni. Ottenere informazioni circa le caratteristiche dei campioni in relazione alle variabili misurate che descrivono le differenze tra i campioni.

4

5 Che cosa è la PCA? la PCA è definita come un metodo di modellazione bilineare che fornisce una descrizione delle informazioni principali contenute in una matrice di dati. Su che metodo di modellazione è basata la PCA? La modellazione bilineare è uno dei possibili metodi di compressione (riduzione) dei dati e dunque di riduzione della complessità della matrice originaria. Essa è adatta nelle situazioni in cui esiste una collinearità tra le variabili originarie di una matrice.

6 Quando due variabili sono da considerarsi collineari? Due variabili sono collineari se il valore di una può essere calcolata dall altra usando una relazione lineare. L informazione comune contenuta nelle variabili originali dunque può essere utilizzata per costruire nuove variabili, dette latenti. Che cosa è una variabile latente? Le variabili latenti prendono il nome di Componenti Principali, cioè variabili composite (funzione lineare delle variabili originali) calcolate per contenere, in ordine decrescente la struttura fondamentale dell informazione presente nei dati.

7 Il Principio della Proiezione 1) Trovare le dimensioni dello spazio multidimensionale lungo le quali la distanza tra i campioni è la maggiore. Identificazione delle variabili che meglio descrivono le differenze tra i campioni. Variabili con maggiore varianza ricerca, tra queste, delle collinearità: definizione delle componenti principali.

8 La rappresentazione grafica della riduzione delle dimensioni in un modello PCA Immaginiamo 3 variabili (X1; X2; X3) che descrivono un gruppo di campioni

9 Inizialmente i dati sono centrati in funzione di una media generale

10 La Prima Componente Principale (PC1) è la direzione che rappresenta le più grandi differenze tra gli oggetti (maggiore varianza spiegata). PC1

11 La Seconda Componente Principale (PC2) è ortogonale alla prima e spiega ulteriori differenze tra gli oggetti non spiegate dalla PC1. PC1 PC2 Queste direzioni o combinazioni lineari sono computate iterativamente in modo che la prima componente è quella caratterizzata da una maggiore varianza spiegata, la seconda componente ridurrà la varianza residua dopo la prima componente e così via per la terza e successive.

12 Rappresentazione grafica della relazione tra le Componenti Principali e le variabili originali in funzione dell angolo che le PCs costituiscono con quelle originarie. In questo caso il peso di ciascuna variabile (X1, X2, X3) sulla PC1 è pari al coseno dell angolo (rispettivamente α1, α2 e α3) descritto dalla componente stessa ed i vettori delle variabili considerate. PC1 a 3 a 1 a 2 PC2

13 3) Le componenti principali computate formano un nuovo set di coordinate che hanno due vantaggi rispetto alle variabili originarie: 1 le componenti sono ortogonali e sono ordinate in funzione della quantità di informazione che portano facilitando l interpretazione delle differenze tra i campioni. La prima componente sarà sempre quella che spiega maggiormente le differenze tra i campioni. 2 Il modo attraverso il quale le componenti sono computate assicura che questo nuovo set di coordinate è una solida base per una rappresentazione grafica che consente una facile interpretazione della struttura dei dati.

14 X Y OUTPUT RIEPILOGO 6,17 5,17 5,85 6,39 5,43 15,13 5,91 11,38 5,97 12,75 5,87 12,35 6,03 7,58 5,62 15,38 6,3 1,07 6,2 1,65 6,22 13,22 5,86 22,6 5,67 17,2 5,69 34,92 6,26 11,18 5,33 24,67 6,16 1,46 5,81 28,5 6,59 8,64 6,23 4,85 6,18 23,68 6,55 5,63 3,81 71,58 5,18 31,22 4,35 59,61 3,17 90,17 3,07 83,9 3,74 72,95 4,65 46,75 4,49 53,67 4,35 64,38 5,4 13,33 5,51 61,25 5,44 20,72 Statistica della regressione R multiplo 0, R al quadrato 0, R al quadrato c 0, Errore standard 0, Osservazioni 34 SS regressione = ΣY p2 (ΣY p ) 2 / N SS residuo = Σ(Y m -Y p ) 2 SS totale = ΣY 2 (ΣY) 2 / N ANALISI VARIANZA gdl SQ MQ F Significatività F Regressione 1 25, , ,0335 1,95186E-15 Residuo 32 3, , Totale 33 29,34511 Dividendo per df = MS STIMA della VARIANZA MS regressione / MS totale *100 = VARIANZA SPIEGATA % MS residuo / MS totale *100 = VARIANZA RESIDUA %

15 L importanza dell informazione descritta da una componente principale è stimata attraverso la varianza spiegata ad essa associata, cioè la percentuale della varianza totale che è spiegata dalla componente. La varianza spiegata è calcolata come il complemento della varianza residua fratto quella totale ed è espressa in percentuale.

16 Come utilizzare la varianza spiegata e quella residua per interpretare i modelli derivanti dall analisi delle componenti principali. Varianza spiegata e residua indicano quanto bene il modello spiega le differenze e le similitudini tra i campioni. Modelli con una bassa varianza residua (vicino a 0) o con una alta varianza spiegata (vicino al 100%) spiegano la maggior parte della variabilità nei dati.

17 Informazione e rumore Normalmente le prime componenti contengono la maggior parte dell informazione robusta relativa alle differenze tra i prodotti. Con l aumentare del numero delle componenti considerate il modello è affetto da ciò che comunemente è chiamato rumore. Pertanto è sempre opportuno studiare un numero limitato di componenti.

18 Oggetti Schematizzazione dei risultati della PCA Variabili Scores plot Interpretazione delle differenze tra i prodotti Matrice di dati X PCA Loadings plot Bi-plot Interpretazione del peso e delle relazioni tra le variabili Explained variance plot Validazione del modello

19 Lo Score plot PCA su dati descrittivi: Score plot della PC1 vs la PC2 Ogni campione ha una coordinata su una componente (score) Quando due componenti vengono rappresentate graficamente (plot) a definite un piano si ottiene una mappa in cui ogni campione è descritto da due coordinate, una per ciascuna componente. La mappa descrive similitudini e differenze tra i campioni: campioni vicini sono simili campioni molto distanti tra loro saranno molto diversi

20 Il loading plot Il contributo di una variabile della matrice originaria nel definire una componente principale è proporzionale alla correlazione tra le coordinate dei campioni per quella componente e i valori della variabile Il loading corrisponde al coseno dell angolo tra il vettore di una variabile originaria e la componente principale considerata (range between -1 and 1). Var. 2 PC2 Var. 1 PC1 Var. 3 Loading values PC1 PC2 Var Var Var. 3-0,5-0,5

21 IL loading plot 1) I campioni sulla destra dello score plot relativo avranno valori maggiori per le variabili con loading alti sulla prima componente e viceversa. 2) I campioni in alto dello score plot relativo avranno valori maggiori per le variabili con loading alti sulla seconda componente e viceversa. 3) Variabili vicine sono tra loro positivamente correlate 4) Variabili con segno opposto su una componente sono negativamente correlate

22 Il Bi-plot (score and loading plot)

23 Il correlation loading plot Grafico dei valori di correlazione tra le componenti principali e i valori delle variabili originarie. La posizione di una variabile sulla mappa indica quanto quella variabile è correlata con le componenti e la distanza dall origine indica la varianza spiegata di detta correlazione. E possibile disegnare delle ellissi sul grafico che rappresentano diversi livelli di varianza spiegata, di norma il 100% (ellissi esterna) e 50% (ellissi interna). PCA su dati descrittivi: Correlation loading plot PC1 vs PC2 Proposto da Martens & Martens (2001)

24 Il correlation loading plot: Un bi-plot alternativo con i campioni come dummy variables A B C V. 1 V.2. A B C I campioni sono inseriti come variabili di comodo (0;1) ( dummy )nella matrice che li descrive. In questo modo le variabili campioni hanno un peso molto basso e non influenzano i risultati della PCA. Nel correlation loading plot le variabili campioni si posizionano in modo da riprodurre la posizione degli stessi nello score plot.

25 Il modello vettoriale per interpretare le caratteristiche di un prodotto in funzione di una variabile in un bi-plot costruito su un correlation-loading plot. Posizione del campione P1 nel bi-plot score - correlation loading plot Punto finale del vettore della variabile «I» nel bi-plot score - correlation loading plot che indica la direzione di incremento della variabile stessa. Proiezione ortogonale della posizione del prodotto P1 sul vettore della variabile «I». Muovendosi lungo il vettore «I» i punti I4, I3, I6, I2, I5, e I1, indicano i valori crescenti della variabile I rispettivamente nei campioni P4, P3, P6, P2, e P1

26 Explained Variance Plot Validazione/selezione del numero di componenti Criterio «steep Increase» per la selezione del numero di componenti utili ad estrarre l informazione contenuta in una matrice di dati. PCs massimo 2 componenti. Nel passaggio dalla PC2 alla PC3 e da questa alla PC4 l incremento di varianza spiegata mantiene la stessa pendenza tendendo progressivamente ad un plateau.

27 explained variance Explained variance plot Cross-Validation Calibration calibration variance Rappresentazione grafica della varianza spiegata progressivamente dalle componenti principali computate sulla matrice originaria validation variance Max num di componenti da considerare 0 PC-0 PC-1 PC-2 PC-3 PC-4 PC-5 PC-6 PC-7 PCs Varianza derivata dalla media delle varianze spiegate ottenute da modelli di PCA computate ogni volta escludendo un campione dalla matrice originaria. Il numero di componenti ottimali si ottiene comparando le due curve. La componente in corrispondenza della quale le due curve si differenziano per andamento rappresenta il numero massimo di Pcs da considerare.

28

29 PC2 19% Score Plot 1.0 C 0.5 B D I 0 A E N L -0.5 F G H M PC1 52%

30 PC2 19% Score and Loading Plot 1.0 astringency C bitterness 0.5 herbal B tomato leaf viscosity D I green olive 0 ripe olive A E N grassy L pungency -0.5 F G H fresh almond M ripe tomato PC1 52%

31 4 PC2 Scores (3) (5) (4) 2 0 (12) (15) (14) (1) (2) (6) -2 (10) (11) (7) (8) (9) (16) (13) RESULT6, X-expl: 49%,19% PC1

32 PCA su dati sensoriali: dati non scalati 1.5 PC2 Scores 1.0 LATRS2 LADES2 MTDES2 0.5 FEDES2 FETRS2 LATRS1 0 FETRS1 MTTRS2-0.5 MTTRS1 MTDES1-1.0 LADES1-1.5 FEDES RESULT8, X-expl: 74%,14% PC1

33 Intensità Interpretare ed analizzare i dati rappresentare un profilo sensoriale metodi grafici Olio A Olio B Interpretare le differenze tra i profili sensoriali Studiare la relazione tra profilo sensoriale e composizione del prodotto Studiare la relazione tra profilo sensoriale e giudizi affettivi Oliva Verde Erba tagliata Foglia di pomodoro Carciofo Amaro Piccante Viscoso Descrittori metodi statistici e visualizzazione grafica dei risultati Piccante Amaro Astringenza Carciofo Olio A Olio B Olio C Mela Verde Giallo Oliva verde Oliva matura Erba tagliata Foglia di Pomodoro B (TP) TomatoF leaf Tomato Grassy leaf G (TP) M (TP) H (AR) F (AG) (F) Grassy (F) green olive (F) apple G (BA) E (BA) Green olive A (VR) D (PG) Bitter apple Pungency ness artichoke I (FI) Thickn F Ripe olive almond (F) artichoke ess C N (TP) L (AG) Ripe olive H (AG) (FI) RESULT2, X-expl: 69%,10% e 21 Aprile 2011, Laboratorio di Analisi Sensoriale Dipartimento di Biotecnologie Agrarie, Università degli Studi di Firenze