L'analisi in componenti principali

Transcript

1 20/08/ :38 1/16 L'analisi in componenti principali L'analisi in componenti principali L analisi in componenti principali è una tecnica fattoriale di analisi multivariata dei dati. Una presentazione dettagliata della tecnica è disponibile su Wikipedia. Testi in italiano, con esempi in campo sociologico sono (fra gli altri): Bolasco, S. (1999). Analisi multidimensionale dei dati. Metodi, strategie e criteri d interpretazione. Roma: Carocci. Franco, G. D. (2005). EDS: esplorare, descrivere e sintetizzare i dati. Guida pratica all analisi dei dati nella ricerca sociale. Milano: FrancoAngeli. Cannavò, L., & Frudà, L. (2007). Ricerca sociale. Dall analisi esplorativa al data mining. Roma: Carocci. La funzione prcomp prcomp(x, retx = TRUE, center = TRUE, scale. = FALSE, tol = NULL,...) Per mostrare i comandi e gli output, utilizziamo il Datasets di esempio USArrests. Come prima cosa, andrebbe sempre controllata la linearità delle relazioni fra le variabili contenute nel dataset, ad esempio con uno Scatterplot (grafico a dispersione). > plot(usarrests) Utilizziamo la funzione prcomp, con l opzione scale=true, ovvero normalizzando le variabili MetRef -

2 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 (varianza = 1). > PCA <- prcomp(usarrests, scale = TRUE) > print(pca) Standard deviations: [1] Rotation: PC1 PC2 PC3 PC4 Murder Assault UrbanPop Rape L output prodotto con print(pca) consiste nelle deviazioni standard delle componenti e nella matrice di rotazione (con i variable loadings) > summary(pca) Importance of components: PC1 PC2 PC3 PC4 Standard deviation Proportion of Variance Cumulative Proportion Il comando summary() in questo caso restituisce una serie di valori che consentono di valutare la rilevanza relativa di ciascuna componente, ovvero: la deviazione standard di ciascuna componente; la proporzione di varianza spiegata, e le proporzioni cumulate. Per scegliere di utilizzare solo alcune variabili e non altre: > prcomp(~murder + Assault + Rape, data = USArrests, + scale = TRUE) Standard deviations: [1] Rotation: PC1 PC2 PC3 Murder Assault Rape Output L oggetto (output) PCA creato dall analisi in componenti principali contiene i seguenti valori: sdev = deviazioni standard delle componenti principali rotation = la matrice di rotazione con i variable loadings (consente di interpretare i fattori, in base al peso che hanno le variabili nel definirli) Printed on 20/08/ :38

3 20/08/ :38 3/16 L'analisi in componenti principali x = le coordinate fattoriali dei casi (se retx=true, come di default) center = il valore corrispondente all attuale origine dell asse, per ciascuna variabile (se center=true, come di default) scale = come center, ma per la varianza di ciascuna variabile (se scale=true) Ciascuno dei valori contenuti nell output può infatti essere visualizzato chiamando, ad es., per ottenere le coordinate fattoriali: > PCA$x PC1 PC2 PC3 PC4 Alabama Alaska Arizona Arkansas La matrice delle correlazioni fra i nuovi valori e i vecchi si ottiene con il comando cor() applicato alle due matrici. > cor.pca=cor(usarrests, PCA$x) > cor.pca PC1 PC2 PC3 PC4 Murder Assault UrbanPop Rape Grafici La funzione plot() restituisce un grafico come questo: > plot(pca) MetRef -

4 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 mentre la funzione screeplot() rappresenta graficamente i fattori in questo modo: > screeplot(pca,type=c("lines")) aiutandoci a stabilire in numero di componenti principali da tenere in considerazione per rappresentare il fenomeno. La funzione biplot() fornisce invece una rappresentazione sintetica dei casi sul piano fattoriale, utilizzando la matrice PCA$x, che può eventualmente essere esportata per includere le coordinate fattoriali come variabili nella matrice originaria: > biplot(pca) Printed on 20/08/ :38

5 20/08/ :38 5/16 L'analisi in componenti principali Script prcomp-ex.r plot(usarrests) PCA<-prcomp(USArrests, scale = TRUE) print(pca) summary(pca) plot(pca) biplot(pca) PCA$x cor.pca=cor(usarrests, PCA$x) cor.pca La funzione princomp e RCommander La funzione princomp, calcola l ACP con la risoluzione matriciale, ovvero calcolando gli autovalori delle matrice delle correlazioni o delle covarianze (e non della matrice originaria). princomp(x, cor = FALSE, scores = TRUE, covmat = NULL, subset = rep(true, nrow(as.matrix(x))),...) MetRef -

6 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 Nella console di R > PCA1 <- princomp(usarrests, cor = TRUE) > print(pca1) Call: princomp(x = USArrests, cor = TRUE) Standard deviations: variables and 50 observations. L output prodotto con print(pca1) non contiene la matrice delle componenti (variable loadings), che può essere però chiamata con il comando: > loadings(pca1) Loadings: Murder Assault UrbanPop Rape SS loadings Proportion Var Cumulative Var oppure anche con > PCA1$loadings In questo caso, i pesi fattoriali (variable loadings) si riferiscono agli autovalori della matrice delle correlazioni. Il comando summary(): > summary(pca1) Importance of components: Standard deviation Proportion of Variance Cumulative Proportion Anche i comandi plot() screeplot() e biplot() restituiscono grafici corrispondenti. L oggetto (output) PCA1 è però diverso, in quanto diverso è il metodo di calcolo delle componenti. Printed on 20/08/ :38

7 20/08/ :38 7/16 L'analisi in componenti principali Esso quindi contiene: sdev = deviazioni standard delle componenti principali loadings (anziché rotation) = la matrice con i variable loadings scores (anziché x) = le coordinate fattoriali dei casi (può essere omessa, con retx=false) center = il valore corrispondente all attuale origine dell asse, per ciascuna variabile (la media) scale = il fattore di scala delle variabili Quindi, per ottenere le coordinate fattoriali, il comando sarà: > PCA1$scores Alabama Alaska Arizona Arkansas Ed è con la matrice PCA1$scores che si potrà anche calcolare la matrice delle correlazioni variabili-componenti: > cor.pca1=cor(usarrests, PCA1$scores) > cor.pca1 Murder Assault UrbanPop Rape Infine, volendo ruotare gli autovalori [o alcuni di essi] con il metodo varimax o promax: > varimax(pca1$loadings[,1:2]) oppure > promax(pca1$loadings[,1:2]) restituisce direttamente i valori degli autovalori ruotati. Per scegliere di utilizzare alcune variabili e non altre: > princomp(~murder + Assault + UrbanPop, data = USArrests, na.action = na.exclude, + cor = TRUE) Call: princomp(formula = ~Murder + Assault + UrbanPop, data = USArrests, na.action = na.exclude, cor = TRUE) Standard deviations: Comp.1 Comp.2 Comp MetRef -

8 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 3 variables and 50 observations. Script princomp-ex.r PCA1<-princomp(USArrests, cor = TRUE) print(pca1) loadings(pca1) summary(pca1) PCA1$scores plot(pca1) biplot(pca1) PCA1$scores cor.pca1=cor(usarrests, PCA1$scores) cor.pca1 varimax(pca1$loadings[,1:2]) promax(pca1$loadings[,1:2]) In RCommander Utilizzando lo stesso esempio di prima, possiamo vedere come viene utilizzata in RCommander. Come prima cosa, carichiamo il dataset USArrests (Dati / Dati presenti nei pacchetti / Leggi i dati da un pacchetto caricato scrivere il nome del dataset). Poi selezioniamo la funzione Analisi delle componenti principali, nel Menu Statistiche / Analisi dimensionale. Infine selezioniamo le opzioni dalla finestra di dialogo: Printed on 20/08/ :38

9 20/08/ :38 9/16 L'analisi in componenti principali Rcmdr>.PC <- princomp(~assault+murder+rape+urbanpop, cor=true, data=usarrests) L output automatico di RCommander è composto da: La matrice dei component loadings Rcmdr> unclass(loadings(.pc)) # component loadings Assault Murder Rape UrbanPop La varianza delle componenti, ovvero la deviazione standard al quadrato (sd^2) Rcmdr>.PC$sd^2 # component variances La funzione summary(), che corrisponde a quella vista sopra Rcmdr> summary(.pc) # proportions of variance Importance of components: Standard deviation Proportion of Variance Cumulative Proportion E infine, se lo si è selezionato, il grafico delle componenti Rcmdr> screeplot(.pc) MetRef -

10 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 Attenzione: RCommander elimina l oggetto contenente gli output alla fine della procedura: Rcmdr> remove(.pc) La funzione PCA in FactoMineR L analisi in componenti principali in FactoMineR adotta un approccio ancora diverso. Come in princomp, le componenti vengono estratte dalla matrice delle correlazioni; diversamente che negli altri casi, però, l analisi delle variabili e dei casi, nonché l interpretazione dei fattori, viene condotta in base all associazione variabili-componenti o individui-componenti. In questo modo, è possibile rappresentare sui piani fattoriali le variabili eventualmente escluse dall analisi (supplementari, o illustrative), anche categoriali, e non solo quantitative. Le misure di associazione e di qualità della rappresentazione utilizzate sono infatti oltre alle correlazioni fra variabili attive e componenti i coseni quadri e i valori test, che possono essere calcolati anche per le modalità delle variabili categoriali. FactoMineR ha un plugin per RCommander, che fornisce una interfaccia a menu per l esecuzione dei comandi. Lo script utilizzato in questo esempio è disponibile all indirizzo In primo luogo, carichiamo la libreria necessaria, e il dataset di esempio: > library(factominer) > data(decathlon) Eseguiamo poi il comando, indicando le variabili supplementari quantitative (quanti.sup) e quelle qualitative (quali.sup). Le altre variabili contenute nel dataset saranno automaticamente utilizzate come attive ovvero per il calcolo delle componenti. Questo significa che il file deve contenere tutte Printed on 20/08/ :38

11 20/08/ :38 11/16 L'analisi in componenti principali e solo le variabili necessarie all analisi. > res <- PCA(decathlon, quanti.sup = 11:12, quali.sup = 13) L output produce anche il grafico dei casi che corrisponde al comamdo plot(res, choix= ind, axes=1:2) e quello delle variabili che corrisponde al comamdo plot(res, choix= var, axes=1:2) Possiamo omettere i grafici con l opzione graph = FALSE. Gli oggetti contenuti in res sono: > res **Results for the Principal Component Analysis (PCA)** The analysis was performed on 41 individuals, described by 13 variables *The results are available in the following objects: MetRef -

12 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 name description 1 "$eig" "eigenvalues" 2 "$var" "results for the variables" 3 "$var$coord" "coord. for the variables" 4 "$var$cor" "correlations variables - dimensions" 5 "$var$cos2" "cos2 for the variables" 6 "$var$contrib" "contributions of the variables" 7 "$ind" "results for the individuals" 8 "$ind$coord" "coord. for the individuals" 9 "$ind$cos2" "cos2 for the individuals" 10 "$ind$contrib" "contributions of the individuals" 11 "$quanti.sup" "results for the supplementary quantitative variables" 12 "$quanti.sup$coord" "coord. for the supplementary quantitative variables" 13 "$quanti.sup$cor" "correlations suppl. quantitative variables - dimensions" 14 "$quali.sup" "results for the supplementary categorical variables" 15 "$quali.sup$coord" "coord. for the supplementary categories" 16 "$quali.sup$v.test" "v-test of the supplementary categories" 17 "$call" "summary statistics" 18 "$call$centre" "mean of the variables" 19 "$call$ecart.type" "standard error of the variables" 20 "$call$row.w" "weights for the individuals" 21 "$call$col.w" "weights for the variables" Anche in questo caso, possiamo utilizzare i singoli oggetti contenuti in res per approfondire l analisi. Autovalori Autovalori e varianza spiegata (% e %cum): > res$eig eigenvalue percentage of variance comp comp comp comp comp comp comp comp comp comp cumulative percentage of variance comp comp comp comp Printed on 20/08/ :38

13 20/08/ :38 13/16 L'analisi in componenti principali comp comp comp comp comp comp Grafico degli autovalori: > barplot(res$eig[, 1]) Variabili Medie e deviazioni standard (scarto tipo) delle variabili attive: > round(cbind(res$call$centre, res$call$ecart.type), + 2) [,1] [,2] 100m Long.jump Shot.put High.jump m m.hurdle Discus Pole.vault Javeline m (cbind serve ad unire i dataframe, round serve ad arrotondare i decimali) Coordinate fattoriali delle prime quattro componenti: > res$var$coord[, 1:4] Dim.1 Dim.2 Dim.3 Dim.4 MetRef -

14 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 100m Long.jump Shot.put High.jump m m.hurdle Discus Pole.vault Javeline m Correlazioni delle variabili con le prime quattro componenti: > res$var$cor[, 1:4] Dim.1 Dim.2 Dim.3 Dim.4 100m Long.jump Shot.put High.jump m m.hurdle Discus Pole.vault Javeline m Casi Coordinate, contributi e coseni quadri: > round(cbind(res$ind$coord[, 1:4], res$ind$contrib[, + 1:4], res$ind$cos2[, 1:4]), 2) Dim.1 Dim.2 Dim.3 Dim.4 Dim.1 Dim.2 Dim.3 Dim.4 SEBRLE CLAY KARPOV BERNARD YURKOV Dim.1 Dim.2 Dim.3 Dim.4 SEBRLE CLAY KARPOV BERNARD YURKOV Caratterizzazione degli assi (prime 3 componenti): Printed on 20/08/ :38

15 20/08/ :38 15/16 L'analisi in componenti principali > dimdesc(res) $Dim.1 $Dim.1$quanti correlation p.value Points e+00 Long.jump e-08 Shot.put e-05 High.jump e-05 Discus e-04 Rank e m e m.hurdle e m e-09 $Dim.2 $Dim.2$quanti correlation p.value Discus e-05 Shot.put e m e m e-03 High.jump e-02 Javeline e-02 Long.jump e-02 $Dim.3 $Dim.3$quanti correlation p.value 1500m e-09 Pole.vault e-07 Javeline e-02 Infine, FactoMineR include una funzione che consente di esportare l intero output in un file csv: > write.infile(res,file="my_factominer_results.csv") Script FM-PCA-ex.R data(decathlon) res <- PCA(decathlon,quanti.sup=11:12,quali.sup=13) res res$eig barplot(res$eig[,1]) round(cbind(res$call$centre,res$call$ecart.type),2) res$var$coord[,1:4] MetRef -

16 Last update: r:analisi_multivariata:analisi_in_componenti_principali 02/06/ :06 res$var$cor[,1:4] round(cbind(res$ind$coord[,1:4],res$ind$contrib[,1:4],res$ind$cos2[,1:4 ]),2) dimdesc(res) write.infile(res,file="my_factominer_results.csv") Analisi multivariata, Comandi From: - MetRef Permanent link: Last update: 02/06/ :06 Printed on 20/08/ :38