Metodologie Quantitative Analisi Fattoriale La soluzione fattoriale ed il modello ACP M Q Marco Perugini Milano-Bicocca 1
Correlazioni e Varianze Ricordate che la correlazione (al quadrato) indica la varianza condivisa Correlazioni Varianze x z 2 R x z x z v z Dunque il miglior fattore è quello che meglio cattura la varianza condivisa 2
Varianza spiegata dal fattore Quanto sarà questa varianza? Varianze La varianza spiegata dal fattore sarà la somma delle varianze che condivide con ogni singola variabile v1 v4 2 R Dunque sarà la somma dei quadrati delle correlazioni tra variabili e fattori var( F) r r r 2 2 2 v1f F F... 3
Varianza delle variabili e dei fattori Il primo fattore massimizza la varianza comune delle variabili. Si ricalcola una nuova matrice parzializzando la varianza spiegata dal primo fattore. Si estrae un secondo fattore che massimizza la varianza residua e cosi via per gli altri fattori. Primo fattore Secondo fattore 4
Più di un fattore Consideriamo di aver estratto un fattore da questo insieme di variabili Varianze Il fattore che estraiamo sarà quello che massimizza la varianza spiegata v4 v1 F1 v7 v6 Ma non necessariamente cattura tutta la varianza condivisa 5
Più di un fattore Consideriamo di aver rimosso la varianza spiegata dal fattore Varianze Vi sarà un altra parte di varianza che possiamo spiegare mediante un altro fattore v4 v1 v6 Questa varianza può essere catturata dall estrazione di un secondo fattore 6
Più di un fattore Avremo così rappresentato le varianze osservate mediante due fattori Varianze v4 v1 F1 v6 Quale sarà la correlazione tra i due fattori estratti? 7
Più di un fattore Avremo così rappresentato le varianze osservate mediante due fattori Varianze F1 I fattori non condividono varianza, dunque non sono correlati 8
Estrazione di più fattori Dunque saranno ortogonali F2 Definiranno dunque degli assi fattoriali dove proiettare le variabili F1 9
Estrazione di più fattori Dunque saranno ortogonali F2 rf 2 Gialla E le proiezioni saranno le correlazioni tra fattori e variabili (come per il caso di un fattore): Saturazioni fattoriali rf 2 Blue F1 10
Fattore 2 Plot dei Fattori Comunemente si visualizza lo spazio fattoriale mediante gli assi fattoriali e le variabili rappresentate come punti con coordinate uguali alle correlazioni con i fattori Grafico Fattori 1.0 0.5 v10 v7 v4 0.0 v1 v5-0.5 v8 v6 v9-1.0-1.0-0.5 0.0 0.5 1.0 Fattore 1 11
Plot K fattori L estrazione di K fattori definisce uno spazio a K dimensioni dove tutte le variabili sono rappresentate mediante coordinate uguali alle correlazioni con i fattori Grafico fattori 1.0 Fattore 2 0.5 0.0-0.5 v10 v4 v7 v1 v5 v9 v8 v6 Per più di 3 fattori, si può visualizzare i fattori a 2 a 2-1.0-1.0-0.5 0.0 Fattore 1 0.5 1.0 1.0 0.5 0.0-0.5 Fattore 3-1.0 12
Fattore 2 Soluzione numerica La soluzione fattoriale rappresentata geometricamente può essere vista anche in una matrice numerica 1.0 0.5 0.0-0.5-1.0 Proiezioni = correlazioni Fattori variabili Grafico Fattori v8 v6 v1 v5-1.0-0.5 0.0 0.5 1.0 Fattore 1 v10 v7 v4 v9 v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente 1 2.438.160.467 -.010.594 -.257.439.610.453.127.351 -.422.213.454.304 -.397.722 -.210.135.636 Met odo est razione: analisi component i principali. a. 2 componenti estratti 13
Soluzione Fattoriale La soluzione fattoriale si compone di: Componente 1 2 3 4 5 6 7 8 9 10 La matrice di correlazione tra fattori e variabili La varianza spiegate da ogni fattore Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianza % cumulata 1. 962 19. 617 19. 617 1. 962 19. 617 19. 617 1. 472 14. 720 34. 337 1. 472 14. 720 34. 337 1. 084 10. 839 45. 176.994 9. 937 55. 113.973 9. 726 64. 839.876 8. 757 73. 596.811 8. 105 81. 701.670 6. 697 88. 398.605 6. 051 94. 449.555 5. 551 100.000 Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente 1 2.438.160.467 -.010.594 -.257.439.610.453.127.351 -.422.213.454.304 -.397.722 -.210.135.636 Met odo est razione: analisi component i pr a. 2 componenti estratti 14
Terminologia La soluzione fattoriale si compone di: La matrice di correlazione tra fattori e variabili a Matrice di componenti Le correlazioni tra fattori e variabili si chiamano SATURAZIONI FATTORIALI v1 v4 v5 v6 v7 v8 v9 v 10 Componente 1 2.438.160.467 -.010.594 -.257.439.610.453.127.351 -.422.213.454.304 -.397.722 -.210.135.636 Met odo est razione: analisi component i pr a. 2 componenti estratti 15
Terminologia La soluzione fattoriale si compone di: La varianza spiegate da ogni fattore Varianza total e spiegata Le varianze spiegate dai fattori sona una funzione degli AUTOVALORI Componente 1 2 3 4 5 6 7 8 9 10 Autov alori iniziali Totale % di v arianza % cumulata Totale % di v arianza % cumulata 1. 962 19. 617 19. 617 1. 962 19. 617 19. 617 1. 472 14. 720 34. 337 1. 472 14. 720 34. 337 1. 084 10. 839 45. 176.994 9. 937 55. 113.973 9. 726 64. 839.876 8. 757 73. 596.811 8. 105 81. 701.670 6. 697 88. 398.605 6. 051 94. 449.555 5. 551 100.000 Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati 16
Relazioni tra le informazioni SATURAZIONI FATTORIALI Autovalori v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente 1 2.438.160.467 -.010.594 -.257.439.610.453.127.351 -.422.213.454.304 -.397.722 -.210.135.636 Met odo est razione: analisi component i principali. a. 2 componenti estratti Componente 1 2 3 4 5 6 7 8 9 10 Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianz 1. 962 19. 617 19. 617 1. 962 19. 617 1. 472 14. 720 34. 337 1. 472 14. 720 1. 084 10. 839 45. 176.994 9. 937 55. 113.973 9. 726 64. 839.876 8. 757 73. 596.811 8. 105 81. 701.670 6. 697 88. 398.605 6. 051 94. 449.555 5. 551 100.000 Met odo di es trazione: Analis i componenti princ ipali. La somma dei quadrati in colonna equivale alla varianza spiegata dal fattore corrispettivo Pesi dei f attori no 17
Comunalità SATURAZIONI FATTORIALI v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente 1 2.438.160.467 -.010.594 -.257.439.610.453.127.351 -.422.213.454.304 -.397.722 -.210.135.636 Met odo est razione: analisi component i principali. a. 2 componenti estratti La somma dei quadrati in riga equivale alla varianza dell item spiegata da tutti i fattori estratti Tale quantità e denominata comunalità 18
Comunalità SATURAZIONI FATTORIALI v1 v4 a Matrice di componenti Componente 1 2.438.160.467 -.010.594 -.257.439.610. 191. 025. 214 I due fattori estratti spiegano il 21% della varianza dell item v5.453.127 v6.351 -.422 La comunalità indica quanto un item v7.213.454 partecipa alla costruzione dei fattori o v8.304 -.397 quanta della sua varianza è riprodotta v9.722 -.210 (catturata, spiegata) dalla soluzione v 10.135.636 fattoriale Met odo est razione: analisi component i principali. a. 2 componenti estratti 19
I parametri fondamentali sono le saturazioni fattoriali, autovalori, comunalita, varianza spiegata (anche i punteggi 4 2 fattoriali). av I parametri fondamentali v 1 ( v % varianza 4 2 1 v k v 2 2 v v v v 1 2 3 4 v 2 3 2 av 1 100 k numero v 2 4 ) variabili F 1.60.80.20.10 1.05 26.25 F 2.10.05.50.80.9025 22.56 2 p 1 ( F 2 1 F.37.6425.29.65 1.9525 48.81 (ACP) o varianza comune (PAF) 4 v 1 a 2 p 2 p 1 2 2 a 2 v ) 20
I passaggi fondamentali 1) Scelta del modello fattoriale 2) Scelta del numero di fattori 3) Rotazione della struttura fattoriale 4) Selezione delle variabili 5) Interpretazione dei fattori 6) Punteggi fattoriali 21 I
Forma del modello decisa dall algoritmo AF Modelli di estrazione dei fattori Esploratoria Analisi Componenti Principali Analisi Fattori Comuni Accorpamento di Variabili I differenti tipi di analisi fattoriale esploratoria si Confermatoria differenziano in base alla logica con Modelli cui estraggono LISREL i fattori Forma del modello decisa dai noi Verifica di un modello teorico 22
Analisi delle componenti principali La ACP (PCA) produce componenti, mentre la AFC produce fattori. I processi della ACP e della AFC sono simili, tranne che a) nella preparazione della matrice di correlazioni osservate per l estrazione b) nella teoria sottostante Matematicamente, la differenza tra ACP e AFC è nella varianza che viene analizzata: - nella ACP viene analizzata tutta la varianza osservata nelle variabili - nella AFC viene analizzata solo la varianza condivisa (stimata tramite regressione); Non si considera la varianza non condivisa (unica di ciascuna variabile). Teoricamente, la differenza tra ACP e AFC è nella ragione per cui le variabili sono associate in un fattore o in una componente: - Si ritiene che i fattori causino le variabili il costrutto sottostante (il fattore) è ciò che produce i punteggi nelle variabili. - Le componenti sono semplici aggregati di variabili correlate 23
ACP vs. AFC La ACP considera tutta la varianza delle variabili e la divide in varianza comune (spiegata dai fattori considerati) and varianza unica (errore o residua) La AFC prima stima la varianza condivisa e distingue tra varianza comune tra le variabili (covarianza) e varianza di errore. Analizza solo la prima e la divide in varianza comune (spiegata dai fattori considerati) e varianza specifica. Varianza Comune Varianza Comune ACP v1 AFC v1 Varianza Unica Varianza Specifica Varianza errore 24
Il problema della comunalità iniziale nella AFC Per calcolare la varianza spiegata e quella di errore, dobbiamo prima sapere quanto è la varianza spiegabile Ma per sapere quanto è la varianza spiegabile, dobbiamo sapere quanto è la varianza spiegata e quella di errore Ciò crea un circolo vizioso che va risolto stimando precedentemente una quantità plausibile di varianza spiegabile ed iterando il procedimento di calcolo dei fattori finché tale quantità soddisfa alcuni criteri Ogni algoritmo di calcolo (minimi quadrati, massima verosimiglianza, ecc.) usa un criterio diverso Noi vediamo la logica sottostante 25
Comunalità iniziale Ma se tutta la varianza di un item non è inclusa nell analisi, la matrice di correlazione iniziale non potrà avere 1 sulla diagonale Varianza totale item= comunalità iniziale nella ACP Correlazi oni Matrice di correlazione a1 a2 a3 a4 a1 Correlazione di Pearson 1.084.154.242* Sig. (2-c ode).409.126.015 N 100 100 100 100 a2 Correlazione di Pearson.084 1.514**.231* Sig. (2-c ode).409.000.021 N 100 100 100 100 a3 Correlazione di Pearson.154.514** 1.588** Sig. (2-c ode).126.000.000 N 100 100 100 100 a4 Correlazione di Pearson.242*.231*.588** 1 Sig. (2-c ode).015.021.000 N 100 100 100 100 *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 26
Comunalità iniziale Dovremmo stimare la quantità di varianza spiegabile ( che sarà poi divisa in spiegata ed errore) Varianza spiegabile dell item= comunalità iniziale nella AFC Correlazi oni Matrice di correlazione a1 a2 a3 a4 a1 Correlazione di Pearson? 1.084.154.242* Sig. (2-c ode).409.126.015 N 100 100 100 100 a2 Correlazione di Pearson.084? 1.514**.231* Sig. (2-c ode).409.000.021 N 100 100 100 100 a3 Correlazione di Pearson.154.514** 1?.588** Sig. (2-c ode).126.000.000 N 100 100 100 100 a4 Correlazione di Pearson.242*.231*.588** 1? Sig. (2-c ode).015.021.000 N 100 100 100 100 *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 27
Stima iniziale della comunalità Se la parte spiegabile di varianza di un item deve essere comune agli items e ai fattori, sicuramente non potrà essere più piccola della parte di varianza che l item condivide con gli altri items Varianza non condivisa con nessun item= unica Varianza condivisa con items e fattori= spiegata v1 v4 v5 Varianza condivisa con altri items Varianza condivisa non spiegata=varianza di errore 28
Stima iniziale della comunalità La varianza condivisa con tutti gli altri items è una buona stima della varianza spiegabile Dunque possiamo usare tale stima al posto degli 1 nella matrice di correlazione v4 v5 v1 Varianza condivisa con altri items 29
R 2 multiplo Quanto è tale varianza? Dallo studio della regressione sapremo che la varianza condivisa da un insieme di variabili indipendenti ed una dipendente è dato dall R 2 della regressione v1 v4 v5 R 2 ottenuto facendo una regressione con come dipendente, e tutti gli altri items come variabili indipendenti 30
R 2 come comunalità iniziale Ripetendo tale stima per tutti gli items, abbiamo una stima iniziale delle varianze spiegabili per ogni item Varianza spiegabile dell item= comunalità iniziale nella AFC Correlazi oni Matrice di correlazione a1 Correlazione di Pearson a1 a2 a3 a4 R 1 2 a1.084.154.242* Sig. (2-c ode).409.126.015 N 100 100 100 100 a2 Correlazione di Pearson.084 R? 1 2.514**.231* a2 Sig. (2-c ode).409.000.021 N 100 100 100 100 a3 Correlazione di Pearson.154.514** R 12.588** a3 Sig. (2-c ode).126.000.000 N 100 100 100 100 a4 Correlazione di Pearson.242*.231*.588** 1 R 2 a4 Sig. (2-c ode).015.021.000 N 100 100 100 100 *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 31
Passi successivi della AFC A questo punto i vari metodi di AFC: estraggono i fattori calcolano le nuove comunalità sulla base dei fattori estratti riestraggono i fattori sulla base della matrice con le nuove comunalità fin quando il criterio stabilito (ad es., minimo errore, massima verosimiglianza) è soddisfatto 32
Analisi delle componenti principali L ACP estrae inizialmente tanti fattori quante sono le variabili osservate L estrazione iniziale spiega il 100% della varianza degli items e di ogni item (diversamente dalla AFC ) Tale soluzione non è soddisfacente, in quanto non rappresenta una soluzione efficiente e parsimoniosa Useremo dei metodi per decidere quanti fattori tenere che bastano a rappresentare in maniera efficiente le relazioni fra variabili 33
Analisi delle componenti principali Nell analisi delle componenti principali (ACP) i fattori sono formati come combinazione lineare (somma pesata) degli items Il primo fattore estratto è la combinazione lineare degli items che massimizza la varianza spiegata F1 av 1 F1v1 af1... a i vjf1 vj I valori sono calcolati affinché siano massimizzati 34
Analisi delle componenti principali Nell analisi delle componenti principali (ACP) i fattori sono formati come combinazione lineare degli items Il secondo fattore estratto è la combinazione lineare degli items che massimizza la varianza non spiegata (ortogonale) dal primo F2 rf 2 Gialla rf 2 Blue F1 av 1 F1v1 af1... a F1 i vjf1 F2 av 1 F 2v1 af 2... a i vjf 3 vj vj I valori sono calcolati affinché siano massimizzati, sotto il vincolo che F1 e F2 siano ortogonali 35
Analisi delle componenti principali I valori degli items nella combinazione fattoriale sono le correlazioni tra fattori e items F2 rf 2 Gialla F1 av 1 F1v1 af1... a i vjf1 F2 av 1 F 2v1 af 2... a i vjf 3 vj vj rf 2 Blue F1 36
Numero di Fattori L algoritmo della ACP che estrae i fattori dalla matrice di correlazione di partenza, estrae tanti fattori quante sono le variabili (cioè tutti i fattori possibili) v1 a Matrice di componenti Componente 1 2 3.717 -.022 -.697.609 -. 659.441.592.705.390 Metodo estrazione: analisi componenti principali. a. 3 componenti estratti F1i av F1v1 af1 af1 1 v F2i av F 2v1 af 2 af 2 1 v F3i av F3v1 af 3 af 3 1 v 3 3 3 F i 1.717v1.609.592 F i 2.022v1.659.705 Esempio 3 items F i 3.697v1.441v 2.390 37
Estrazione iniziale Estraendo tanti fattori quanti items (variabili osservate), spieghiamo tutta la varianza v1 a Matrice di componenti Componente 1 2 3.717 -.022 -.697.609 -. 659.441.592.705.390 Met odo est razione: analisi component i principali. a. 3 componenti estratti 1 La comunalità è 1, cioè i tre fattori spiegano il 100% di ogni item Somma dei quadrati per riga Componente 1 2 3 Somma dei quadrati per colonna Autov alori iniziali Varianza totale spiegata Pesi dei f attori non ruotati Totale % di v arianza % cumulata Totale % di v arianza % cumulata 1.235 41.177 41.177 1.235 41.177 41.177.932 31.072 72.249.932 31.072 72.249.833 27.751 100.000.833 27.751 100.000 Metodo di estrazione: Analisi componenti principali. La varianza spiegata è il 100% 38
Estrazione iniziale Tutta la varianza di un item e di tutti i J items è rappresentata dai J fattori Quadrati delle saturazioni fattoriali Varianze condivise Autovalori var( F1 ).5140.370.350 1.23 i var( F2 i ).0004.434.497.93 var( F3 ).4850.194.152.83 i 39
Estrazione iniziale Tutta la varianza di un item e di tutti i J items è rappresentata dai J fattori Quadrati delle saturazioni fattoriali Varianze condivise Autovalori var( F1 ).5140.370.350 1.23 i var( F2 i ).0004.434.497.93 var( F3 i).4850.194.152.83 1 1 1 3 La varianza spiegata è il 100% La comunalità è 1, cioè i tre fattori spiegano il 100% di ogni item 40
Analisi delle componenti principali L ACP estrae inizialmente tanti fattori quante sono le variabili osservate L estrazione iniziale spiega il 100% della varianza degli items e di ogni item Tale soluzione non è soddisfacente, in quanto non rappresenta una soluzione efficiente e parsimoniosa Useremo dei metodi per decidere quanti fattori tenere che bastano a rappresentare in maniera efficiente le relazioni fra variabili 41
Modello Fattoriale dell ACP Variabilità catturata (spiegata) Fattore 1 Fattore 2 AF Variabilità osservata V1 V2 V3 V4 V5 V6 Variabilità non condivisa unicità unicità unicità unicità unicità unicità 42
Esempio con 2 fattori In questo esempio consideriamo due fattori Componente 1 2 3 4 5 6 7 8 9 10 Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianza % cumulata 2. 520 25. 197 25. 197 2. 520 25. 197 25. 197 1. 486 14. 859 40. 057 1. 486 14. 859 40. 057.959 9. 591 49. 648.894 8. 938 58. 586.804 8. 043 66. 629.768 7. 675 74. 304.741 7. 411 81. 715.696 6. 956 88. 670.575 5. 748 94. 418.558 5. 582 100.000 Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati Dunque il 60% di varianza è unico agli items Spieghiamo il 40% con due fattori, uno che spiega il 25 e l altro il 14 43
Esempio con 2 fattori Saturazioni sui due fattori v 11 v 12 v 13 v 14 v 15 v 16 v 17 v 18 v 19 v 20 a Matrice di componenti Componente 1 2.440.266.538.286.486.333.386.318.536.350.514.374.558 -.261.476 -.475.538 -.526.522 -.538 Met odo est razione: analisi component i principali. a. 2 componenti estratti Le saturazioni ci indicano le correlazioni tra items e fattori. 193. 070. 264. 272. 289. 561 La comunalità ci dice quanta parte dell item è condivisa con i fattori. Il resto sarà unicità degli items Unicità= 1 -.264 =.735 Unicità= 1 -.561 =.438 44
Modello Fattoriale dell ACP Variabilità catturata (spiegata) Fattore 1 Fattore 2 AF.440.266.522.538 Variabilità osservata V11 V12 V13 V14 V15 V20 Variabilità non condivisa.735 unicità unicità unicità unicità.438 45
Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegabile v 1 Scherzoso v 2 Estrov erso v 3 Espansiv o v 4 Div ertente v 5 Colorito v 13 Diligent e v 14 Prev idente v 15 Sereno v 17 Stabile Comunali tà Iniziale Estrazione 1. 000.431 1. 000.282 1. 000.269 1. 000.676 1. 000.432 1. 000.430 1. 000.469 1. 000.549 1. 000.735 Met odo di es trazione: Analisi componenti principali. Varianza spiegata Per ogni item 46
Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegabile v4 v5 v1 Per item (ad esempio) 47
Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegata v4 v1 Per item (ad esempio) 48
ACP vs AFC Modello teorico ACP Componente 1 Entrambi modelli riflessivi ma.. AFC Fattore 1 Funzionale Causale V1 V2 V3 V1 V2 V3 v1,, sono una funzione della (aggregati dalla) componente v1,, sono causate dal fattore 49
ACP vs AFC Decomposizione della varianza di ogni item ACP Comune AFC Unica Errore 50
ACP vs AFC Comunalità ACP AFC Iniziale Finale Errore 51
Esempio con 2 fattori (ACP vs. AFC) ACP AFC 52