Metodologie Quantitative. Analisi Fattoriale

Transcript

1 Metodologie Quantitative Analisi Fattoriale La soluzione fattoriale ed il modello ACP M Q Marco Perugini Milano-Bicocca 1

2 Correlazioni e Varianze Ricordate che la correlazione (al quadrato) indica la varianza condivisa Correlazioni Varianze x z 2 R x z x z v z Dunque il miglior fattore è quello che meglio cattura la varianza condivisa 2

3 Varianza spiegata dal fattore Quanto sarà questa varianza? Varianze La varianza spiegata dal fattore sarà la somma delle varianze che condivide con ogni singola variabile v1 v4 2 R Dunque sarà la somma dei quadrati delle correlazioni tra variabili e fattori var( F) r r r v1f F F... 3

4 Varianza delle variabili e dei fattori Il primo fattore massimizza la varianza comune delle variabili. Si ricalcola una nuova matrice parzializzando la varianza spiegata dal primo fattore. Si estrae un secondo fattore che massimizza la varianza residua e cosi via per gli altri fattori. Primo fattore Secondo fattore 4

5 Più di un fattore Consideriamo di aver estratto un fattore da questo insieme di variabili Varianze Il fattore che estraiamo sarà quello che massimizza la varianza spiegata v4 v1 F1 v7 v6 Ma non necessariamente cattura tutta la varianza condivisa 5

6 Più di un fattore Consideriamo di aver rimosso la varianza spiegata dal fattore Varianze Vi sarà un altra parte di varianza che possiamo spiegare mediante un altro fattore v4 v1 v6 Questa varianza può essere catturata dall estrazione di un secondo fattore 6

7 Più di un fattore Avremo così rappresentato le varianze osservate mediante due fattori Varianze v4 v1 F1 v6 Quale sarà la correlazione tra i due fattori estratti? 7

8 Più di un fattore Avremo così rappresentato le varianze osservate mediante due fattori Varianze F1 I fattori non condividono varianza, dunque non sono correlati 8

9 Estrazione di più fattori Dunque saranno ortogonali F2 Definiranno dunque degli assi fattoriali dove proiettare le variabili F1 9

10 Estrazione di più fattori Dunque saranno ortogonali F2 rf 2 Gialla E le proiezioni saranno le correlazioni tra fattori e variabili (come per il caso di un fattore): Saturazioni fattoriali rf 2 Blue F1 10

11 Fattore 2 Plot dei Fattori Comunemente si visualizza lo spazio fattoriale mediante gli assi fattoriali e le variabili rappresentate come punti con coordinate uguali alle correlazioni con i fattori Grafico Fattori v10 v7 v4 0.0 v1 v5-0.5 v8 v6 v Fattore 1 11

12 Plot K fattori L estrazione di K fattori definisce uno spazio a K dimensioni dove tutte le variabili sono rappresentate mediante coordinate uguali alle correlazioni con i fattori Grafico fattori 1.0 Fattore v10 v4 v7 v1 v5 v9 v8 v6 Per più di 3 fattori, si può visualizzare i fattori a 2 a Fattore Fattore

13 Fattore 2 Soluzione numerica La soluzione fattoriale rappresentata geometricamente può essere vista anche in una matrice numerica Proiezioni = correlazioni Fattori variabili Grafico Fattori v8 v6 v1 v Fattore 1 v10 v7 v4 v9 v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente Met odo est razione: analisi component i principali. a. 2 componenti estratti 13

14 Soluzione Fattoriale La soluzione fattoriale si compone di: Componente La matrice di correlazione tra fattori e variabili La varianza spiegate da ogni fattore Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianza % cumulata Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente Met odo est razione: analisi component i pr a. 2 componenti estratti 14

15 Terminologia La soluzione fattoriale si compone di: La matrice di correlazione tra fattori e variabili a Matrice di componenti Le correlazioni tra fattori e variabili si chiamano SATURAZIONI FATTORIALI v1 v4 v5 v6 v7 v8 v9 v 10 Componente Met odo est razione: analisi component i pr a. 2 componenti estratti 15

16 Terminologia La soluzione fattoriale si compone di: La varianza spiegate da ogni fattore Varianza total e spiegata Le varianze spiegate dai fattori sona una funzione degli AUTOVALORI Componente Autov alori iniziali Totale % di v arianza % cumulata Totale % di v arianza % cumulata Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati 16

17 Relazioni tra le informazioni SATURAZIONI FATTORIALI Autovalori v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente Met odo est razione: analisi component i principali. a. 2 componenti estratti Componente Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianz Met odo di es trazione: Analis i componenti princ ipali. La somma dei quadrati in colonna equivale alla varianza spiegata dal fattore corrispettivo Pesi dei f attori no 17

18 Comunalità SATURAZIONI FATTORIALI v1 v4 v5 v6 v7 v8 v9 v 10 a Matrice di componenti Componente Met odo est razione: analisi component i principali. a. 2 componenti estratti La somma dei quadrati in riga equivale alla varianza dell item spiegata da tutti i fattori estratti Tale quantità e denominata comunalità 18

19 Comunalità SATURAZIONI FATTORIALI v1 v4 a Matrice di componenti Componente I due fattori estratti spiegano il 21% della varianza dell item v v La comunalità indica quanto un item v partecipa alla costruzione dei fattori o v quanta della sua varianza è riprodotta v (catturata, spiegata) dalla soluzione v fattoriale Met odo est razione: analisi component i principali. a. 2 componenti estratti 19

20 I parametri fondamentali sono le saturazioni fattoriali, autovalori, comunalita, varianza spiegata (anche i punteggi 4 2 fattoriali). av I parametri fondamentali v 1 ( v % varianza v k v 2 2 v v v v v av k numero v 2 4 ) variabili F F p 1 ( F 2 1 F (ACP) o varianza comune (PAF) 4 v 1 a 2 p 2 p a 2 v ) 20

21 I passaggi fondamentali 1) Scelta del modello fattoriale 2) Scelta del numero di fattori 3) Rotazione della struttura fattoriale 4) Selezione delle variabili 5) Interpretazione dei fattori 6) Punteggi fattoriali 21 I

22 Forma del modello decisa dall algoritmo AF Modelli di estrazione dei fattori Esploratoria Analisi Componenti Principali Analisi Fattori Comuni Accorpamento di Variabili I differenti tipi di analisi fattoriale esploratoria si Confermatoria differenziano in base alla logica con Modelli cui estraggono LISREL i fattori Forma del modello decisa dai noi Verifica di un modello teorico 22

23 Analisi delle componenti principali La ACP (PCA) produce componenti, mentre la AFC produce fattori. I processi della ACP e della AFC sono simili, tranne che a) nella preparazione della matrice di correlazioni osservate per l estrazione b) nella teoria sottostante Matematicamente, la differenza tra ACP e AFC è nella varianza che viene analizzata: - nella ACP viene analizzata tutta la varianza osservata nelle variabili - nella AFC viene analizzata solo la varianza condivisa (stimata tramite regressione); Non si considera la varianza non condivisa (unica di ciascuna variabile). Teoricamente, la differenza tra ACP e AFC è nella ragione per cui le variabili sono associate in un fattore o in una componente: - Si ritiene che i fattori causino le variabili il costrutto sottostante (il fattore) è ciò che produce i punteggi nelle variabili. - Le componenti sono semplici aggregati di variabili correlate 23

24 ACP vs. AFC La ACP considera tutta la varianza delle variabili e la divide in varianza comune (spiegata dai fattori considerati) and varianza unica (errore o residua) La AFC prima stima la varianza condivisa e distingue tra varianza comune tra le variabili (covarianza) e varianza di errore. Analizza solo la prima e la divide in varianza comune (spiegata dai fattori considerati) e varianza specifica. Varianza Comune Varianza Comune ACP v1 AFC v1 Varianza Unica Varianza Specifica Varianza errore 24

25 Il problema della comunalità iniziale nella AFC Per calcolare la varianza spiegata e quella di errore, dobbiamo prima sapere quanto è la varianza spiegabile Ma per sapere quanto è la varianza spiegabile, dobbiamo sapere quanto è la varianza spiegata e quella di errore Ciò crea un circolo vizioso che va risolto stimando precedentemente una quantità plausibile di varianza spiegabile ed iterando il procedimento di calcolo dei fattori finché tale quantità soddisfa alcuni criteri Ogni algoritmo di calcolo (minimi quadrati, massima verosimiglianza, ecc.) usa un criterio diverso Noi vediamo la logica sottostante 25

26 Comunalità iniziale Ma se tutta la varianza di un item non è inclusa nell analisi, la matrice di correlazione iniziale non potrà avere 1 sulla diagonale Varianza totale item= comunalità iniziale nella ACP Correlazi oni Matrice di correlazione a1 a2 a3 a4 a1 Correlazione di Pearson * Sig. (2-c ode) N a2 Correlazione di Pearson **.231* Sig. (2-c ode) N a3 Correlazione di Pearson ** 1.588** Sig. (2-c ode) N a4 Correlazione di Pearson.242*.231*.588** 1 Sig. (2-c ode) N *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 26

27 Comunalità iniziale Dovremmo stimare la quantità di varianza spiegabile ( che sarà poi divisa in spiegata ed errore) Varianza spiegabile dell item= comunalità iniziale nella AFC Correlazi oni Matrice di correlazione a1 a2 a3 a4 a1 Correlazione di Pearson? * Sig. (2-c ode) N a2 Correlazione di Pearson.084? 1.514**.231* Sig. (2-c ode) N a3 Correlazione di Pearson ** 1?.588** Sig. (2-c ode) N a4 Correlazione di Pearson.242*.231*.588** 1? Sig. (2-c ode) N *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 27

28 Stima iniziale della comunalità Se la parte spiegabile di varianza di un item deve essere comune agli items e ai fattori, sicuramente non potrà essere più piccola della parte di varianza che l item condivide con gli altri items Varianza non condivisa con nessun item= unica Varianza condivisa con items e fattori= spiegata v1 v4 v5 Varianza condivisa con altri items Varianza condivisa non spiegata=varianza di errore 28

29 Stima iniziale della comunalità La varianza condivisa con tutti gli altri items è una buona stima della varianza spiegabile Dunque possiamo usare tale stima al posto degli 1 nella matrice di correlazione v4 v5 v1 Varianza condivisa con altri items 29

30 R 2 multiplo Quanto è tale varianza? Dallo studio della regressione sapremo che la varianza condivisa da un insieme di variabili indipendenti ed una dipendente è dato dall R 2 della regressione v1 v4 v5 R 2 ottenuto facendo una regressione con come dipendente, e tutti gli altri items come variabili indipendenti 30

31 R 2 come comunalità iniziale Ripetendo tale stima per tutti gli items, abbiamo una stima iniziale delle varianze spiegabili per ogni item Varianza spiegabile dell item= comunalità iniziale nella AFC Correlazi oni Matrice di correlazione a1 Correlazione di Pearson a1 a2 a3 a4 R 1 2 a * Sig. (2-c ode) N a2 Correlazione di Pearson.084 R? **.231* a2 Sig. (2-c ode) N a3 Correlazione di Pearson ** R ** a3 Sig. (2-c ode) N a4 Correlazione di Pearson.242*.231*.588** 1 R 2 a4 Sig. (2-c ode) N *. La correlazione è signif icativ a al livello 0,05 (2-code). **. La correlazione è signif icativ a al livello 0,01 (2-code). 31

32 Passi successivi della AFC A questo punto i vari metodi di AFC: estraggono i fattori calcolano le nuove comunalità sulla base dei fattori estratti riestraggono i fattori sulla base della matrice con le nuove comunalità fin quando il criterio stabilito (ad es., minimo errore, massima verosimiglianza) è soddisfatto 32

33 Analisi delle componenti principali L ACP estrae inizialmente tanti fattori quante sono le variabili osservate L estrazione iniziale spiega il 100% della varianza degli items e di ogni item (diversamente dalla AFC ) Tale soluzione non è soddisfacente, in quanto non rappresenta una soluzione efficiente e parsimoniosa Useremo dei metodi per decidere quanti fattori tenere che bastano a rappresentare in maniera efficiente le relazioni fra variabili 33

34 Analisi delle componenti principali Nell analisi delle componenti principali (ACP) i fattori sono formati come combinazione lineare (somma pesata) degli items Il primo fattore estratto è la combinazione lineare degli items che massimizza la varianza spiegata F1 av 1 F1v1 af1... a i vjf1 vj I valori sono calcolati affinché siano massimizzati 34

35 Analisi delle componenti principali Nell analisi delle componenti principali (ACP) i fattori sono formati come combinazione lineare degli items Il secondo fattore estratto è la combinazione lineare degli items che massimizza la varianza non spiegata (ortogonale) dal primo F2 rf 2 Gialla rf 2 Blue F1 av 1 F1v1 af1... a F1 i vjf1 F2 av 1 F 2v1 af 2... a i vjf 3 vj vj I valori sono calcolati affinché siano massimizzati, sotto il vincolo che F1 e F2 siano ortogonali 35

36 Analisi delle componenti principali I valori degli items nella combinazione fattoriale sono le correlazioni tra fattori e items F2 rf 2 Gialla F1 av 1 F1v1 af1... a i vjf1 F2 av 1 F 2v1 af 2... a i vjf 3 vj vj rf 2 Blue F1 36

37 Numero di Fattori L algoritmo della ACP che estrae i fattori dalla matrice di correlazione di partenza, estrae tanti fattori quante sono le variabili (cioè tutti i fattori possibili) v1 a Matrice di componenti Componente Metodo estrazione: analisi componenti principali. a. 3 componenti estratti F1i av F1v1 af1 af1 1 v F2i av F 2v1 af 2 af 2 1 v F3i av F3v1 af 3 af 3 1 v F i 1.717v F i 2.022v Esempio 3 items F i 3.697v1.441v

38 Estrazione iniziale Estraendo tanti fattori quanti items (variabili osservate), spieghiamo tutta la varianza v1 a Matrice di componenti Componente Met odo est razione: analisi component i principali. a. 3 componenti estratti 1 La comunalità è 1, cioè i tre fattori spiegano il 100% di ogni item Somma dei quadrati per riga Componente Somma dei quadrati per colonna Autov alori iniziali Varianza totale spiegata Pesi dei f attori non ruotati Totale % di v arianza % cumulata Totale % di v arianza % cumulata Metodo di estrazione: Analisi componenti principali. La varianza spiegata è il 100% 38

39 Estrazione iniziale Tutta la varianza di un item e di tutti i J items è rappresentata dai J fattori Quadrati delle saturazioni fattoriali Varianze condivise Autovalori var( F1 ) i var( F2 i ) var( F3 ) i 39

40 Estrazione iniziale Tutta la varianza di un item e di tutti i J items è rappresentata dai J fattori Quadrati delle saturazioni fattoriali Varianze condivise Autovalori var( F1 ) i var( F2 i ) var( F3 i) La varianza spiegata è il 100% La comunalità è 1, cioè i tre fattori spiegano il 100% di ogni item 40

41 Analisi delle componenti principali L ACP estrae inizialmente tanti fattori quante sono le variabili osservate L estrazione iniziale spiega il 100% della varianza degli items e di ogni item Tale soluzione non è soddisfacente, in quanto non rappresenta una soluzione efficiente e parsimoniosa Useremo dei metodi per decidere quanti fattori tenere che bastano a rappresentare in maniera efficiente le relazioni fra variabili 41

42 Modello Fattoriale dell ACP Variabilità catturata (spiegata) Fattore 1 Fattore 2 AF Variabilità osservata V1 V2 V3 V4 V5 V6 Variabilità non condivisa unicità unicità unicità unicità unicità unicità 42

43 Esempio con 2 fattori In questo esempio consideriamo due fattori Componente Autov alori iniziali Varianza total e spiegata Totale % di v arianza % cumulata Totale % di v arianza % cumulata Met odo di es trazione: Analis i componenti princ ipali. Pesi dei f attori non ruotati Dunque il 60% di varianza è unico agli items Spieghiamo il 40% con due fattori, uno che spiega il 25 e l altro il 14 43

44 Esempio con 2 fattori Saturazioni sui due fattori v 11 v 12 v 13 v 14 v 15 v 16 v 17 v 18 v 19 v 20 a Matrice di componenti Componente Met odo est razione: analisi component i principali. a. 2 componenti estratti Le saturazioni ci indicano le correlazioni tra items e fattori La comunalità ci dice quanta parte dell item è condivisa con i fattori. Il resto sarà unicità degli items Unicità= =.735 Unicità= =

45 Modello Fattoriale dell ACP Variabilità catturata (spiegata) Fattore 1 Fattore 2 AF Variabilità osservata V11 V12 V13 V14 V15 V20 Variabilità non condivisa.735 unicità unicità unicità unicità

46 Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegabile v 1 Scherzoso v 2 Estrov erso v 3 Espansiv o v 4 Div ertente v 5 Colorito v 13 Diligent e v 14 Prev idente v 15 Sereno v 17 Stabile Comunali tà Iniziale Estrazione Met odo di es trazione: Analisi componenti principali. Varianza spiegata Per ogni item 46

47 Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegabile v4 v5 v1 Per item (ad esempio) 47

48 Varianza e comunalità Nell ACP la comunalità iniziale è 1 (100%) Dunque si assume che tutta la varianza di ogni item può essere spiegata Anche se poi ne spiegheremo solo una parte Varianza spiegata v4 v1 Per item (ad esempio) 48

49 ACP vs AFC Modello teorico ACP Componente 1 Entrambi modelli riflessivi ma.. AFC Fattore 1 Funzionale Causale V1 V2 V3 V1 V2 V3 v1,, sono una funzione della (aggregati dalla) componente v1,, sono causate dal fattore 49

50 ACP vs AFC Decomposizione della varianza di ogni item ACP Comune AFC Unica Errore 50

51 ACP vs AFC Comunalità ACP AFC Iniziale Finale Errore 51

52 Esempio con 2 fattori (ACP vs. AFC) ACP AFC 52