Approfondimento 4.9. La gestione dei dati mancanti

Transcript

1 Approfondimento 4.9 La gestione dei dati mancanti Quando si eseguono ricerche sui test psicologici, ci si trova spesso nella situazione di dover somministrare molti item a molti soggetti. Ad esempio, immaginate di aver sviluppato una versione preliminare di un test composta da 50 item. aturalmente non vi aspettate che tutti gli item faranno parte della versione finale del test, ma almeno all inizio avete intenzione di somministrarli tutti. Se somministrate il test a 100 soggetti, considerando che, come minimo, chiederete ai soggetti di riferire anche genere, età e titolo di studio, la vostra matrice soggetti per variabili sarà composta da = 5300 celle. La probabilità che nessuna di queste celle sia vuota o presenti valori da scartare è davvero molto bassa, per quanto vi sforziate di evitare che questo accada con una corretta esposizione delle istruzioni e un accurata organizzazione della somministrazione. Vi troverete quindi una matrice con alcuni buchi, detti missing. Questo approfondimento si propone di introdurre il lettore ad una corretta gestione di questi dati mancanti riprendendo un recente articolo di Schlomer e collaboratori (2010). Chiariamo innanzitutto un punto: se un dato manca, non c è modo di sapere quale sarebbe stata la risposta del soggetto se l avesse fornita. Ogni operazione volta al riempire il buco nel dataset, quindi, comporta l inserimento e la successiva analisi di un dato non realmente osservato. Questo significa che maggiore è la percentuale di dati mancanti stimati (in inglese, imputed), maggiore sarà il grado di artificialità del dataset. In alcuni casi, quindi, non è consigliabile ricorrere alla procedura che verrà descritta per l imputation dei dati mancanti, perché qualunque sia la strategia che utilizzate, introdurrete sempre nel dataset dati che non avete osservato. Il fatto che la stima del valore sia stata eseguita da un software dedicato e con pubblicazioni che ne sostengono l attendibilità non cambia il fatto che quel valore non è stato effettivamente osservato. Spesso negli studi sui test non si fa menzione dei dati mancanti, né di come sono stati gestiti. In alcuni casi viene indicato che alcuni soggetti che non hanno completato tutte le risposte e sono

2 Approfondimento 4.9 La gestione dei dati mancanti 2 stati esclusi dalle analisi: tale questione riguarda il response rate, ossia il numero di questionari che sono stati effettivamente completati sul totale di quelli consegnati. In questi casi il problema è valutare se il fatto che il questionario sia stato o meno compilato è in relazione con alcune caratteristiche dei soggetti. Molto spesso potrebbe capitarvi, soprattutto nelle indagini online, che i soggetti completino la scheda socio-demografica, ma non il questionario o il test. La disponibilità delle informazioni socio-demografiche potrebbe permettervi di verificare se il fatto che il test sia stato completato è in relazione col genere (e lo verificate facilmente con un test del chi-quadrato su una tavola di contingenza genere completamento del test), o con l età (e lo verificate facilmente con un test t per campioni indipendenti, dove la variabile di raggruppamento è l aver o meno completato il test), o col titolo di studio (e lo verificate facilmente con un test di Mann-Whitney, dove la variabile di raggruppamento è l aver o meno completato il test). Alternativamente, potete verificare se le caratteristiche di coloro che hanno completato l indagine sono diverse da quelle di chi invece non l ha fatto. I risultati di queste analisi vi permetteranno di valutare il grado di generalizzabilità dei risultati, perché potrebbe risultare che sono più probabilmente gli uomini a non completare il questionario invece delle donne, oppure le persone più anziane, oppure quelle con un titolo di studio più basso. Se eravate riusciti a pianificare un campionamento che producesse un gruppo di soggetti rappresentativo della popolazione, inoltre, potrete verificare come si modifica la rappresentatività del campione in base al fatto di dover scartare quei soggetti che non hanno risposto al test. Al di là del response rate, però, che implica principalmente il fatto che le risposte al test manchino tutte o per la maggior parte, molto spesso si verificano situazioni in cui i dati mancanti sono pochi, come ad esempio la risposta ad un item o un informazione della scheda sociodemografica. In questi casi l imputation dei dati può avere senso, previa verifica che siano missing completamente casuali e in percentuale minima rispetto al totale dei dati, e che venga utilizzata una procedura adeguata di imputation. Innanzitutto occorre verificare la percentuale di dati mancanti, e, soprattutto, riportarla nell articolo, nella tesi o nel report che state scrivendo. In questo Approfondimento si considerano

3 Approfondimento 4.9 La gestione dei dati mancanti 3 principalmente i dati mancanti nelle risposte ad item su scala di tipo di Likert, e quindi relativi a test di prestazione tipica in cui i soggetti abbiano dimenticato di rispondere o si siano rifiutati di farlo per qualche motivo. el caso dei test di prestazione massima occorre considerare anche la possibilità che il soggetto non abbia risposto perché non conosceva la risposta corretta, per cui in molti casi il problema dei missing non si pone, in quanto il dato mancante è considerato una risposta errata. Per quanto questa assunzione non sia necessariamente sempre vera, questo procedimento deve essere assolutamente evitato quando il test sia un test di velocità, in cui la mancata risposta agli item finali potrebbe essere legata al fatto che il soggetto non è stato in grado di arrivare a leggere quegli item. La percentuale massima di dati mancanti che possono essere sottoposti ad imputation è indicata da alcuni autori al 5% (ad esempio, Schafer, 1999), da altri al 10% (ad esempio, Bennett, 2001), da altri ancora al 20% (ad esempio, Peng e collaboratori, 2006). Come fanno notare Schlomer e collaboratori (2010), però, il problema sembra essere legato più al fatto che il dataset produca una potenza statistica adeguata a verificare gli effetti di distorsione derivanti dai missing e dal pattern of missingness, ossia dal modo in cui i missing sono distribuiti all interno del dataset. 1. Analisi descrittive ed esplorative sui missing La valutazione del pattern of missingness corrisponde al verificare statisticamente a quale categoria di missing (MCAR, MAR o non ignorabili, come descritto nel manuale) appartengono i dati mancanti che abbiano osservato. Questo tipo di verifica è possibile grazie ad un particolare test statistico, detto test di Little per i dati MCAR (Little, 1988) e ad alcune procedure che è possibile realizzare mediante SPSS. Vediamo come fare nel caso del dataset MISSIG.sav scaricabile dal sito del testo. Questo dataset è stato appositamente preparato con alcuni missing, in modo da permettere le analisi descritte in questo approfondimento. Esso simula le caratteristiche socio-demografiche e le risposte a 8 item di tipo Likert a cinque punti (da 1=per niente d accordo, a 5=completamente d accordo) di un test per la valutazione dell estroversione.

4 Approfondimento 4.9 La gestione dei dati mancanti 4 Una volta aperto SPSS e caricato il file seguiamo Analyze Missing Value Analysis. ella finestra che si apre inseriamo le variabili metriche (età) e quelle che consideriamo metriche (item) nella finestra Quantitative Variables e quelle nominali (o che consideriamo tali: genere, titolo di studio, stato civile) nella finestra Categorical Variables (Figura 4.9.1). Figura Impostazione delle variabili per la missing value analysis in SPSS A questo punto clickiamo su Descriptives e nella nuova finestra spuntiamo t tests with groups formed by indicator variables, Include Probabilities in table e Crosstabulations of categorical and indicator variables. Inoltre, impostiamo all 1% il valore Omit variables missing less than [campo] % fo cases (Figura ). Il valore di default è del 5%. Tuttavia, nel caso del dataset che stiamo utilizzando, tale valore è inferiore al 5%, per cui, se lo lasciassimo selezionato, nell output comparirebbe un warning come quello in Figura

5 Approfondimento 4.9 La gestione dei dati mancanti 5 Figura Impostazione delle opzioni per la missing value analysis in SPSS Warnings There are no variables with 5% or more missing values. TTEST table is not produced. There are no variables with 5% or more missing values. CROSSTAB tables are not produced. Figura Warning di SPSS se la percentuale di missing è inferiore al limite minimo per le analisi Clickiamo su Continue, quindi OK. ell output otteniamo la tabella in Figura Univariate Statistics Missing o. of Extremes a Mean Std. Deviation Count Percent Low High età ext ext ext ext ext ext ext ext genere tit_stu st_civ a. umber of cases outside the range (Q1-1.5*IQR, Q *IQR). Figura Tabella di SPSS con le descrittive per i missing Tale tabella fornisce, variabile per variabile, le statistiche descrittive per ogni variabile, a cominciare da quelle metriche (in alto), per le quali viene fornita anche media e deviazione standard, per finire con quelle categoriali (in basso). Il numero (Count) e la percentuale (Percent) di dati mancanti sono riportati nella colonna Missing. ella colonna o. of Extremes viene riportato il numero di casi con punteggi che, come recita la nota a piè della tabella, sono al di fuori del range delimitato, come valore inferiore, da quel valore corrispondente al primo quartile (Q1) meno 1,5 volte la differenza interquartile (IQR), e come valore superiore da quel valore corrispondente al terzo quartile (Q3) più 1,5 volte la differenza interquartile. In pratica, il numero di outliers.

6 Approfondimento 4.9 La gestione dei dati mancanti 6 In Figura vengono invece riportati i test t a varianza separata (separate variance t tests), che servono per individuare quelle variabili il cui pattern of missingness può influenzare le variabili quantitative. Il test t viene realizzato utilizzando una variabile che specifica se la variabile è presente o mancante per un singolo caso. Si noti che questo test viene realizzato solo per quelle variabili che abbiano una percentuale di missing superiore al valore impostato nella finestra in Figura (nel nostro caso, l 1%).

7 Approfondimento 4.9 La gestione dei dati mancanti 7 Separate Variance t Tests a età ext01 ext02 ext03 ext04 ext05 genere ext08 ext06 ext05 ext02 ext01 età ext06 ext07 ext08 t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) tit_stu st_civ t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) t df P(2-tail) # Present # Missing Mean(Present) Mean(Missing) For each quantitative variable, pairs of groups are formed by indicator variables (present, missing). a. Indicator variables with less than 1% missing are not displayed. Figura Tabella di SPSS con i test t

8 Approfondimento 4.9 La gestione dei dati mancanti 8 Ad esempio, in base ai dati della seconda riga, che riguarda la variabile ext01, che ha quattro missing (Figura 4.9.4), notiamo come l età di coloro che hanno risposto (31,79) sia inferiore a quella di coloro che non hanno risposto (45,00), anche se questa differenza non è statisticamente significativa (P(2-tail) =,378). Possiamo presupporre che i missing in ext01 dipendano dall età dei soggetti? A livello probabilistico no, ma la differenza di età fra chi risponde e chi non risponde potrebbe anche far pensare di sì (per cui i missing in ext01 potrebbero non essere MCAR). Se la tavola di t viene riportata per le variabili metriche, per quelle categoriali vengono riportate tavole di contingenza (crosstabulations). La Figura riporta la tabella del genere, mentre quelle per titolo di studio e stato civile non sono riportate. genere Total Femmina Maschio Missing SysMis età ext01 ext02 ext05 ext06 ext08 tit_stu st_civ Present Missing Present Missing Present Missing Present Missing Present Missing Present Missing Present Missing Present Missing Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Count Percent % SysMis Indicator variables with less than 1% missing are not displayed.

9 Approfondimento 4.9 La gestione dei dati mancanti 9 Figura Tabella di SPSS con la tavola di contingenza per i missing di variabili categoriali In pratica, per ogni categoria della variabile in esame viene riportata la percentuale di dati mancanti (% SysMis) nelle variabili rappresentate sulle righe della tabella. Questo ci permette di valutare se i dati mancanti sono distribuiti in maniera uniforme, a livello percentuale, sulle altre variabili. Ad e- sempio, osserviamo come la percentuale di missing dell età appare la stessa per le femmine (3,7%) e per i maschi (4,5%), mentre la percentuale di missing per ext01 potrebbe apparire superiore per le femmine (5,6%) rispetto ai maschi (2,3%). on vengono forniti test statistici a supporto di queste ipotesi, per cui sta al ricercatore decidere quando la distribuzione di frequenza percentuale dei missing non è uniforme nelle varie categorie. Torniamo adesso alla finestra di Figura e clickiamo su Patterns. ella nuova finestra Spuntiamo Tabulated cases, grouped by missing value patterns, e inseriamo nel campo Additional Information for le variabili socio-demografiche (Figura 4.9.7). Figura Finestra di SPSS per i pattern di dati mancanti Clickiamo Continue, quindi OK. Questa analisi produrrà una tabella con i pattern di dati mancanti (Figura 4.9.8).

10 Approfondimento 4.9 La gestione dei dati mancanti 10 Tabulated Patterns Missing Patterns a genere d tit_stu d st_civ d umber of Cases ext03 ext04 ext07 Patterns with less than 1% cases (1 or fewer) are not displayed. a. Variables are sorted on missing patterns. ext05 ext06 ext08 b. umber of complete cases if variables missing in that pattern (marked with X) are not used. c. Means at each unique pattern d. Frequency distribution at each unique pattern genere tit_stu st_civ ext01 ext02 età Complete if.. ḅ età c Femmina X X X X X Maschio Licenza Media Diploma Scuola Media Superiore Laurea Triennale Laurea Specialistica Celibe/ubile Coniugato/Convivente Separato/Divorziato Vedovo Figura Tavola di SPSS con i pattern di dati mancanti Tale tavola consente di valutare se i dati tendono a mancare per più variabili nei singoli casi, ossia, se i missing si verificano congiuntamente su più variabili per gli stessi soggetti. Se questo avviene, si osservano due X sulla stessa riga, come però non è il caso della tabella in Figura La tabella, in sostanza, ci dice che in 81 casi non si verificano missing, in due casi vi sono missing nel titolo di studio, in quattro casi vi sono missing nell età, e così via. I pattern con meno dell 1% di casi non vengono mostrati, da cui l apparente incongruenza con quanto già osservato. Per ogni pattern viene riportata la media o la frequenza delle variabili che abbiamo inserito nel campo Additional Information in Figura 4.9.7, in modo da agevolare l indagine sulle possibili relazioni fra missing e variabili socio-demografiche. Ad esempio, notiamo che un certo pattern di missing, che riguarda coloro che non hanno risposto a ext01, ha un età molto superiore (53,67) a quello del pattern di chi non ha indicato il genere (29,50). Quanto detto finora è utile per individuare pattern particolari di dati mancanti che potrebbero far dubitare che, almeno per alcune variabili o incroci particolari di variabili i dati non siano

11 Approfondimento 4.9 La gestione dei dati mancanti 11 MCAR. In precedenza, però, abbiamo accennato alla possibilità di eseguire un test statistico, detto test di Little per i MCAR, che ci permette di verificare l ipotesi nulla che i dati mancanti siano MCAR. Per eseguire questo test torniamo alla finestra in Figura 4.9.1, spuntiamo l opzione EM e poi clickiamo OK (Figura 4.9.9). Figura Impostare SPSS per eseguire il test di Little per i MCAR Il test produce tre tabelle (EM Means, EM Covariances e EM Correlations), che corrispondo a medie, covarianze e correlazioni calcolate su un set di dati imputati, ossia in cui i buchi sono stati riempiti in base ad un particolare algoritmo, Expectation-Maximization (EM; si veda la sezione 2.3 per la spiegazione di questo metodo). Fra l altro, è anche possibile salvare il set di dati stimati clickando sul pulsante EM in Figura e impostando il file in cui salvare i dati (basta spuntare Save completed data, clickare su File e scegliere dove salvare il dataset: vedi sezione 2.3 per ulteriori dettagli della procedura). Il problema di questa procedura, però, è che permette la stima dei dati mancanti solo per le variabili metriche, e spesso abbiamo la necessità invece di stimare i valori mancanti anche per le variabili categoriali: occorre allora un altra procedura che vedremo fra poco.

12 Approfondimento 4.9 La gestione dei dati mancanti 12 Per ora concentriamoci sull output, perché a piè delle tabelle prodotte è riportato il risultato del test di Little (Figura ). EM Means a età ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext a. Little's MCAR test: Chi-Square = , DF = 48, Sig. =. 541 Figura Tabella di SPSS con il risultato est di Little per i MCAR La Figura mostra come, dato che la probabilità (Sig.) del test è superiore,05 (,541), non possiamo rifiutare l ipotesi nulla che i missing possano essere considerati MCAR. Questo significa che l eventuale dataset che è stato prodotto per riportare i dati riportati nella tabella può essere utilizzato per ulteriori analisi. In molti casi, però, il test è significativo, per cui i dati non sono MCAR. In questo caso occorre utilizzare un altra strategia, detta Multiple Imputation (MI; si veda la sezione 2.3). Le versioni più recenti di SPSS permettono di realizzarla, ma, fra breve, vedremo come esista una versione gratuita, scaricabile da internet, molto semplice e funzionale. Prima di passare a questo argomento, però, vediamo quali sono gli approcci tradizionalmente utilizzati nella gestione dei dati mancanti. 2. Strategie di gestione dei dati mancanti La migliore strategia di gestione dei dati mancanti non esiste, dato che dipende dal tipo di dati e dalle analisi che si intendono eseguire. 2.1 Metodi di cancellazione (deletion) I metodi di cancellazione sono stati fra i primi ad essere sviluppati, ma ben presto hanno mostrato una serie di limiti che ne sconsiglia l uso, per cui, per quanto possibile, dovrebbero essere evitati.

13 Approfondimento 4.9 La gestione dei dati mancanti 13 Pairwise deletion. Il metodo pairwise deletion, detto anche available case analysis (Pigott, 2001), considera in ogni singola analisi solo i casi che non presentano missing nelle specifiche variabili in esame. Poniamo il caso di voler calcolare una matrice di correlazione per i dati in Tabella 4.9.1, e contenuti nel file MISSIG2.sav. Tabella Dataset con dati mancanti Soggetto ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext08 ss ss ss ss ss ss ss ss ss ss ss ss ss ss ss el calcolare la correlazione fra ext01 e ext03, che non hanno dati mancanti, verranno utilizzati i dati di tutti e 15 i soggetti. Se però vogliamo calcolare la correlazione fra ext01 e ext02, il soggetto 13 ha un missing in ext02. Questo significa che l informazione su ext01 di questo soggetto non verrà considerata perché manca quella su ext02, differentemente dal caso precedente. Questo significa che a seconda del pattern dei missing nelle variabili, i soggetti che presentano missing possono o meno essere considerati nell analisi. La matrice di correlazione che si ottiene in questo modo, quindi, presenterà coefficienti che non sono calcolati sullo stesso di campione di soggetti, dato che di volta in volta mancheranno quei soggetti che hanno un missing su una delle due variabili su cui il coefficiente è stato calcolato. La Figura mostra la matrice di correlazione dei dati in Tabella

14 Approfondimento 4.9 La gestione dei dati mancanti 14 ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext08 **. Correlation is significant at the 0.01 level (2-tailed). Correlations ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext ** ** ** ** ** ** Figura Matrice di correlazione pairwise La Figura mostra come il valore di (numero di soggetti) per i singoli coefficienti di correlazione non sia sempre lo stesso, con un ampiezza variabile da 12 a 15. Questo tipo di matrice di correlazione, per quanto sfrutti al massimo le informazioni disponibili, è inutilizzabile per successive analisi, come ad esempio l analisi fattoriale. Listwise deletion Se la pairwise deletion cerca di utilizzare tutti i dati disponibili, a costo di calcolare le statistiche su campioni di fatto diversi di soggetti, la listwise deletion (o complete case analysis, Pigott, 2001) considera solo quei casi che hanno dati validi per tutte le variabili. In altre parole, se un soggetto ha anche un solo missing su 100 item, viene escluso dall analisi. Se questo tipo di strategia permette di calcolare le statistiche sempre sullo stesso campione di soggetti, dato che solo i casi che non presentano alcun missing sono considerati nell analisi, ha lo svantaggio, in molti casi, di assottigliare in maniera consistente il campione e di danneggiarne la rappresentatività, visto l alto numero di sog-

15 Approfondimento 4.9 La gestione dei dati mancanti 15 getti che potrebbero venire esclusi. La Figura presenta la matrice di correlazione per i dati in Tabella calcolata col metodo listwise deletion. ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext08 **. Correlation is significant at the 0.01 level (2-tailed). *. Correlation is significant at the 0.05 level (2-tailed). a. Listwise =11 Correlations a ext01 ext02 ext03 ext04 ext05 ext06 ext07 ext ** * ** ** * ** Figura Matrice di correlazione listwise In questo caso non viene riportato il numero di casi validi per ogni coefficiente, dato che è sempre lo stesso (=11), come riportato nella nota a piè della tabella. Questi casi sono quelli che non presentano nemmeno un missing. Il problema è che abbiamo perso 4 soggetti su 15, il che significa che rispetto al campione iniziale c è stata una diminuzione, assolutamente non trascurabile, del 26,7%. Si noti inoltre come la dimensione di alcune correlazioni possa variare in modo sostanziale rispetto alla pairwise deletion : ad esempio, la correlazione di ext01 con ext03 è,281 nel caso pairwise, ma solo,086 nel caso listwise. Al di là dei suoi limiti, questo tipo di analisi può essere utilizzato solo se i dati sono MCAR. Se non lo sono, come è spesso il caso, è assolutamente sconsigliato il suo impiego.

16 Approfondimento 4.9 La gestione dei dati mancanti Metodi di stima non stocastici (nonstochastic imputation methods) Lo scopo della imputation è quello di sostituire al dato mancante un valore plausibile, in modo da permettere l analisi su tutti i soggetti effettivamente osservati. I metodi di imputation non stocastici sono basati su comuni indici statistici come la media o su tecniche statistiche come la regressione. Sostituzione con la media Questo metodo prevede la sostituzione dei valori mancanti con il valore medio della variabile in e- same sulla base dei dati disponibili per quella variabile. Ad esempio, se prendiamo la variabile ext02 in Tabella 4.9.1, il dato mancante verrebbe sostituito con la media dei valori disponibili per ext02 (2,86, oppure, approssimato, 3). Perché questo metodo possa essere applicato occorre che i missing siano MCAR: se l assunzione non è rispettata, la stima della media risulta distorta. Inoltre, tale metodo tende a ridurre la variabilità della variabile, attenuando di conseguenza la covarianza di questa con le altre variabili. Come fanno notare Schlomer e collaboratori (2010), è un metodo fortemente sconsigliato dalla letteratura specializzata. Sostituzione attraverso la regressione I metodi di imputation basati sulla regressione si basano sulla possibilità di generare valori predetti (o attesi) in base ad un equazione di regressione. In pratica, si utilizzano i valori noti nelle altre variabili per specificare un modello di regressione in cui tali variabili sono i predittori e la variabile contenente i missing è il criterio. Questo metodo permette di stimare il dato mancante in base alla sua relazione con le altre variabili del dataset. A seconda del tipo di dato da predire possono essere utilizzate la regressione lineare (variabile da predire metrica), la regressione logistica (variabile da predire dicotomica)o la regressione multinomiale (variabile da predire politomica nominale). Ad e- sempio, potremmo usare un modello di regressione bivariata per predire il valore mancante di ext02 a partire dai dati di ext01: in questo semplice caso il calcolo può essere fatto anche a mano come descritto in Chiorri (2010), Capitolo 7, utilizzando tutti i dati tranne quelli del soggetto che presenta

17 Approfondimento 4.9 La gestione dei dati mancanti 17 il missing (ss13) 1. L equazione di regressione risultante in questo caso è Ŷ = 3,93 0,25X. Dato che il valore di X è quello di ext01, e tale valore per il soggetto 13 è 4, il valore stimato del missing è Ŷ = 3,93 0,25 4 = 2,95 3. aturalmente possono essere utilizzati più predittori in modello di regressione multipla. Questo metodo produce stime non distorte delle medie se i missing sono MCAR o MAR, ma è noto distorcere varianze e covarianze, per cui è anch esso sconsigliato (ad esempio, Graham e collaboratori, 2003). Pattern-matching imputation In letteratura sono descritti altri due metodi di imputation non stocastica che non richiedono software specializzati, e che sono basati sull individuare, per ogni soggetto che presenti dati mancanti, un soggetto simile rispetto a tutte le altre variabili (Roth, 1994). Tali metodi di imputation prendono il nome di hot-deck e cold-deck. el primo caso si cerca nel dataset almeno un altro soggetto che abbia lo stesso pattern di risposte di quello in questione, e il dato mancante viene sostituito, ad esempio, con un valore predetto a partire da quelli del soggetto di accoppiamento, come nel caso della sostituzione mediante regressione. Ad esempio, nel caso del dato mancante del soggetto ss13 in Tabella 4.9.1, dovremmo cercare un soggetto che ha fornito risposte simili agli altri item: per farlo basta calcolare la correlazione fra i punteggi di ss13 con tutti gli altri soggetti. La procedura in SPSS è molto semplice: si importa il dataset di Tabella (file MISSIG2.sav), e si chiede al software di invertire le righe con le colonne, e viceversa (in gergo si dice trasporre i dati). Per farlo, basta seguire Data Transpose, inserire tutte le variabili nel campovariable(s) e clickare su OK. La Figura riassume il procedimento. a. Importare i dati b. Trasporre i dati (1) 1 Per realizzare l analisi con SPSS si veda oltre.

18 Approfondimento 4.9 La gestione dei dati mancanti 18 c. Trasporre i dati (2) d. Risultato finale Figura Trasposizione del set di dati in SPSS La Figura d mostra come appare il database dopo la trasposizione: in pratica, abbiamo reso i soggetti variabili e le variabili soggetti. Adesso non dobbiamo far altro che calcolare le correlazioni (Analyze Correlate Bivariate, inserire tutte le variabili nel campo Variable(s) e poi OK) fra tutte le nuove variabili. Il risultato è riportato in Figura

19 Approfondimento 4.9 La gestione dei dati mancanti 19 var001 var002 var003 var004 var005 var006 var007 var008 var009 var010 var011 var012 var013 var014 var015 **. Correlation is significant at the 0.01 level (2-tailed). *. Correlation is significant at the 0.05 level (2-tailed). Correlations var001 var002 var003 var004 var005 var006 var007 var008 var009 var010 var011 var012 var013 var014 var ** -.868** * ** * ** * * ** * *.952** ** * ** * ** * ** * ** ** -.893** ** Figura Matrice di correlazione fra i punteggi dei soggetti di Tabella Il soggetto 13 (che corrisponde alla nuova variabile var013) ha la correlazione più alta col soggetto 06 (r =,913), per cui basta eseguire un analisi di regressione in cui i punteggi del soggetto 13 sono il criterio e quelli del soggetto 06 il predittore. Per farlo, seguiamo Analyze Regression Linear, inseriamo var013 nel campo Dependent e var006 nel campo Independent(s) e clickiamo su Save. ella nuova finestra spuntiamo nel riquadro Predicted Values la voce Unstandardized (Figura ).

20 Approfondimento 4.9 La gestione dei dati mancanti 20 Figura Predizione del punteggio mancante per il soggetto 13 a partire da quelli del soggetto 06 Questo ci permetterà di salvare in una nuova variabile i valori predetti di var013 in base alla sua relazione lineare con var006. Clickiamo su Continue, quindi OK. L output in questo caso non ci interessa, perché andiamo al file coi dati, dove, nell ultima colonna a destra, è stata aggiunta una nuova variabile, PRE_1, che contiene i valori stimati in base alla regressione (Figura ). Figura Variabile con i punteggi stimati per il soggetto 13 a partire da quelli del soggetto 06 Il fatto che due valori manchino è dovuto ai due missing che il soggetto 06 presenta nelle variabili ext04 e ext05. La cosa non ci crea alcun problema, perché quello che interessa è il valore predetto per la variabile ext02 (seconda riga), che è 2,83, approssimabile quindi a 3. La variante cold-deck del emtodo prevede l utilizzo di fonti di informazione esterne per produrre l accoppiamento fra i soggetti. Il metodo pattern-matching soffre degli stessi svantaggi degli

21 Approfondimento 4.9 La gestione dei dati mancanti 21 altri metodi non stocastici, dato che tende a ridurre la variabilità dei dati. Sebbene Bennett (2001) abbia notato come produca distorsioni minori rispetto alla listwise deletion o alla sostituzione con la media, non sono comunque state fornite prove sufficienti della sua adeguatezza. 2.3 Metodi di stima stocastici (stochastic imputation methods) I metodi di stima stocastici utilizzano un modello di imputation e un modello di analisi. Il modello di imputation è il modello utilizzato per stimare i dati mancanti e può utilizzare variabili che non sono comprese nel modello di analisi. Le variabili che sono comprese nel modello di imputation ma non nel modello di analisi sono dette variabili ausiliarie (auxiliary variables). Tale variabili sono utili nel processo di imputation perché, dato che devono essere correlate con la variabile dove compaiono i missing, migliorano la precisione della stima aumentando il numero di informazioni su cui questa è basata. Regressione stocastica Questo metodo è una variante del metodo delle regressione descritto nella sezione precedente: la differenza è che, dopo che il valore è stato stimato, viene aggiunto ad esso un valore stocastico (o casuale) selezionato casualmente da una popolazione di valori distribuiti normalmente con media uguale a zero e varianza uguale alla varianza residua dell equazione utilizzate per la imputation. In questo modo si evitano distorsioni nei dati sia nella media, sia nella varianza, come è invece il caso della variante non stocastica di questo metodo. Expectation maximization (EM) Abbiamo già accennato a questo metodo in precedenza. Esso si basa sulla maximum likelihood, o massima verosimiglianza: in pratica, vengono utilizzati i dati osservati per generare le stime dei parametri del modello statistico, che a loro volta vengono utilizzate per stimare i dati mancanti. el caso di distribuzioni normali multivariate, questo metodo è superiore a tutti gli altri metodi illustrati finora (Roth, 1994).

22 Approfondimento 4.9 La gestione dei dati mancanti 22 Il metodo EM è basato su un processo ricorsivo: i dati mancanti contengono informazioni che sono utili per la stima dei parametri del modello, e questi, a loro volta, contengono informazioni utili per stimare i dati mancanti. Il metodo prevede quindi due passi. In quello di expectation il processo è simile a quello dei metodi di regressione: vengono calcolati i parametri del modello statistico (ad esempio, medie e covarianze) coi dati disponibili e, in base a queste stime, vengono utilizzati metodi di regressione per stimare i valori dei dati mancanti. el passo successivo di maximization vengono calcolati nuovi valori dei parametri del modello statistico, a partire dai quali si procederà ad una nuova fase di expectation, e così via, finché le stime dei valori mancanti da un ciclo all altro non differiscono più in base ad un criterio minimo. Questa procedura è molto utilizzata per la stima dei missing nel caso dei dati dei test, dato che produce distorsioni minime nel caso dell analisi dell attendibilità come coerenza interna e dell analisi fattoriale. Ad esempio, i dati della Tabella potrebbero essere imputati in questo modo, trattandosi dei dati di un test. Per farlo con SPSS, seguiamo il percorso Analyze Missing Value Analysis, inseriamo tutti gli item nel campo Quantitative Variables, spuntiamo EM come nel caso della Figura e clickiamo sul pulsante EM. Lasciamo selezionato ormal nel riquadro superiore e spuntiamo Save completed data. (Figura ). Figura Impostazione SPSS per stimare i dati mancanti e salvarli in un file Clickiamo su File e scegliamo dove salvare il file coi dati completi. Una volta scelto il file, clickiamo su Continue e poi OK. Oltre all analisi verrà salvato un file col nome che abbiamo scelto e che

23 Approfondimento 4.9 La gestione dei dati mancanti 23 contiene il dataset completato. Se andiamo ad aprire questo file, notiamo come non compaiono più i missing, ma al loro posto vi sono valori con la virgola (Figura ). Figura Dataset senza missing Poiché i dati sono punti di una scala di tipo Likert, per approssimarli al valore intero seguiamo il percorso Transform Compute. Per approssimare all intero più vicino la variabile ext02 basta scrivere come nome della nuova variabile (Target variable) proprio ext02, e nel campo umeric E- xpression la dicitura rnd(ext02), come in Figura

24 Approfondimento 4.9 La gestione dei dati mancanti 24 Figura Arrotondamento dei valori di una variabile A questo punto clickiamo OK, rispondiamo OK anche alla domanda che ci chiede se vogliamo cambiare la variabile esistente, e nel dataset comparirà il valore arrotondato. A meno che non siate capaci di utilizzare la sintassi di SPSS, ad ogni modo, questa procedura vi costringe ad eseguire l operazione di arrotondamento una sola variabile alla volta. Inoltre, come detto in precedenza, spesso i missing non riguardano solo le risposte agli item, ma anche i dati delle variabili socio-demografiche, che se sono nominali non possono essere stimati con questa procedura. Full Information Maximum Likelihood (FIML) Questo metodo utilizza una funzione di verosimiglianza di tipo listwise in modo da calcolare le stime dei parametri sulla base dei dati completi osservati e dei valori dei dati mancanti stimabili a partire dai dati disponibili. In pratica, i dati mancanti vengono stimati a partire da quelli disponibili

25 Approfondimento 4.9 La gestione dei dati mancanti 25 come nel caso del metodo mediante regressione, ma a partire da tutte le variabili e ottenendo stime di massima verosimiglianza (e non di minimi quadrati, come nella regressione). Tale metodo permette una stima dei dati mancanti in un solo passo e rispetto a EM produce stime più precise degli errori standard mantenendo la stessa ampiezza campionaria. Questo tipo di imputation è disponibile solo in alcuni software come LISREL e MPLUS, ed è utilizzato principalmente nel contesto di analisi complesse come le regressioni multivariate. Multiple imputation (MI) Il metodo Multiple Imputation rappresenta un passo avanti rispetto ai modelli descritti in precedenza in quanto prende in considerazione, come informazione aggiuntiva per il calcolo degli errori standard delle stime dei parametri, anche il grado di similarità (o di differenza) di diversi dataset sottoposti ad imputation. In pratica, MI crea vari dataset con i dati mancanti stimati a partire da quello originale. Di solito si usano da 3 a 5 dataset, ma è possibile impostarne anche un numero superiore. Le analisi vengono realizzate su ognuno di questi daatset, e le stime dei parametri (medie, covarianze, etc.) e i loro errori standard vengono salvati. I risultati finali vengono ottenuti calcolando la media delle stime dei parametri dei vari dataset. Il vantaggio è che non solo queste stime non sono distorte, ma gli errori standard di queste stime sono basati sia sugli errori standard di ogni dataset, sia sulla dispersione delle stime dei parametri nei dataset. In pratica, si prendono in considerazione le fluttuazioni casuali delle stime da un dataset all altro. La MI consente anche la stima dei dati mancanti per le variabili categoriali. Per quanto implementata nelle ultime versioni di SPSS, per realizzarla è disponibile un software gratuito, chiamato AMELIA (Honaker, King, & Blackwell, 2009). Il nome deriva da Amelia Mary Earhart, la prima aviatrice americana a sorvolare l Oceano Atlantico in solitario. Diventata famosissima negli negli anni Trenta, scomparve misteriosamente nell Oceano Pacifico, nei pressi di Howland Island, durante un tentativo di giro del mondo in aereo. Il software gira sul package R, ma ha un interfaccia molto user-friendly. Per installarlo dovete prima installare R (si veda l Approfondimento 2.4) e poi dal sito

26 Approfondimento 4.9 La gestione dei dati mancanti 26 scaricare il file per l installazione dell interfaccia Windows nel punto indicato nella Figura Figura Dove clickare per scaricare la versione Windows di AMELIA Dopo aver scaricato il file eseguibile, basta fare click due volte sulla sua icona e seguire le procedure di installazione lasciando immutate le opzioni di default. Alla fine dell installazione sul vostro desktop dovrebbe quindi comparire l icona. Se avviate il programma comparirà la finestra iniziale, come in Figura Figura Finestra iniziale di AMELIA Clickiamo su Import SPSS e importiamo i dati del file MISSIG.sav. I dati verranno riassunti in una nuova finestra (Figura ).

27 Approfondimento 4.9 La gestione dei dati mancanti 27 Figura Finestra di AMELIA con i dati del file MISSIG.sav otiamo che i dati vengono importati di default come metrici, ma noi sappiamo come il genere e lo stato civile siano nominali, e il titolo di studio e i punteggi negli item ordinali. Per questo motivo, dobbiamo comunicare al programma la scala di misura delle variabili. Per farlo basta selezionare le variabili con un click del tasto sinistro mouse, poi clickare col tasto destro, scegliere Add Transformation e infine la scala di misura desiderata, come in Figura per il genere.

28 Approfondimento 4.9 La gestione dei dati mancanti 28 Figura Modificare la scala di misura delle variabili in AMELIA Si noti che se clickiamo su Add or Edit Bounds è possibile impostare anche i punteggi minimi e massimi per ogni variabile. Ad esempio, sappiamo che i valori delle risposte agli item sono compresi fra 1 e 5, che l età è per tutti i soggetti è compresa fa 18 e 80 anni, che il genere può avere valori compresi solo fra 0 e 1, che il titolo di studio va da 0 a 5, e lo stato civile da 1 a 4. Una volta impostati questi vincoli, la finestra appare come in Figura Figura Finestra delle variabili in AMELIA dopo aver impostato i valori massimi e minimi (Bounds) per ogni variabile Ora seguiamo Options Output File Options. ella finestra che si aprirà potremo impostare il nome che vogliamo per il dataset senza missing, ame of the Imputed Dataset (ad esempio, inserite il nome prova ), e il numero di dataset per la MI (lasciamo pure il valore di default, che è 5). Seguiamo poi Options Output File Type e scegliamo Tab delimited. Questo fa sì che il file con i dati stimati sia un file di testo che può essere aperto con Blocco ote o altro word processor. Clickiamo ora sull icona verde Impute! e attendiamo che il programma esegua le analisi. Una volta terminate le analisi, in basso nella finestra comparirà la scritta

29 Approfondimento 4.9 La gestione dei dati mancanti 29. Andiamo quindi nella directory da dove avevamo importato il file di SPSS. In questa directory troverete cinque file che si chiamano prova1, prova2, prova3, prova4 e prova5 con estensione txt. Aprite prova5.txt con Blocco ote o altro word processor. Sulla prima riga saranno contenuti i nomi delle variabili fra virgolette, e sotto, un po disordinati, i valori. oterete che fra i valori dell età ci sono dei valori coi decimali: questo è il risultato di aver indicato la variabile come continua. Sarebbe successo lo stesso anche coi valori degli item se non avessimo indicato che erano variabili ordinali. Se utilizzate un computer italiano, è molto probabile che il vostro separatore dei decimali sia la virgola, mentre nel file che stiamo esaminando c è il punto. Prima di importare il file in SPSS, quindi, dovete convertire i punti in virgole. Per farlo, seguite Modifica Sostituisci nel programma che avete utilizzato per aprire il file e indicate che volete trovare i punti e sostituirli con le virgole, come in Figura Figura Sostituzione dei punti con le virgole A questo punto salvate il file e chiudetelo. Avviate SPSS, seguire File Open Data e cambiate il Tipo di file in Text(.txt) e selezionate Prova.txt (Figura ).

30 Approfondimento 4.9 La gestione dei dati mancanti 30 Figura Importazione del file coi dati completi in SPSS Dopo aver premuto Apri, clickate Avanti nella prima finestra (Step 1 of 6), cambiate da o a Yes l opzione Are variable names included at the top of your file? (Step 2 of 6) e clickate sempre Avanti rispondendo OK al warning che vi avverte che è stato cambiato il formato del nome delle variabili. Alla fine della procedura avrete a disposizione il vostro dataset privo di missing. Se volete approssimare ad un valore intero i valori decimali dell età (e quelli dei punteggi negli item se li avete impostati come metrici, e non come ordinali), seguite la procedura illustrata in Figura Il prorating I metodi di gestione dei missing descritti nelle sezioni precedenti vengono applicati nei contesti di ricerca quando si eseguono indagini su larga scala, oppure quando si stanno realizzando gli studi i- niziali per lo sviluppo di un nuovo test psicologico. In tutte queste situazioni di solito non è nota la struttura fattoriale del test, ossia, non si sa ancora se il test misura effettivamente uno, due o più costrutti, dato che il suo processo di validazione non è ancora concluso. Quando però ci si trova in un contesto applicativo, come può essere l applicazione di test all interno di una struttura sanitaria o aziendale, si devono utilizzare test già validati, sui quali è già stata svolta tutta la ricerca necessaria per confermarne l attendibilità e la validità. In questi casi è nota la procedura di scoring, ossia come

31 Approfondimento 4.9 La gestione dei dati mancanti 31 calcolare il punteggio nel test o nelle varie scale del test, per cui eventuali dati mancanti possono essere gestiti in base a queste informazioni. Il problema, semmai, è sapere quale percentuale di dati mancanti è ammessa, dato che la procedura che stiamo per vedere è applicabile indipendentemente da quanti dati mancano. Di solito, però, questa percentuale è riportata nel manuale del test. Supponiamo di aver somministrato un test composto da 12 item che misura tre diverse componenti del locus of control, ossia i vari modi in cui un individuo identifica in se stesso o all esterno le cause di quello che gli/le succede. Il locus of control è tradizionalmente diviso in Locus Interno (IT; ad esempio, tutto dipende da me ), Destino (DES; ad esempio, tutto dipende dal caso/fortuna/destino ) e Altri Potenti (ALT; ad esempio, tutto dipende dagli altri ). Supponiamo che il test che abbiamo utilizzato preveda risposte su scala di tipo Likert a 5 punti, e che le tre dimensioni di locus of control siano misurate da quattro item ciascuna. ell esempio di Tabella abbiamo le risposte di dieci soggetti, che possono o meno presentare missing. Tabella Dataset di risposte ad una scala per la misura delle dimensioni del locus of control Soggetto int01 int02 int03 int04 des01 des02 des03 des04 alt01 alt02 alt03 alt04 ss ss ss ss ss ss ss ss ss ss Il soggetto 01 presenta un dato mancante nell item int03. Poiché questo item fa parte della scala Locus Interno, possiamo sfruttare l informazione sugli altri item della stessa scala a cui il soggetto ha risposto per stimare il punteggio mancante. Questa operazione, detta in gergo prorating, si basa sull assunzione che gli item di una stessa scala dovrebbero presentare un certo grado di coerenza interna in quanto operazionalizzazioni dello stesso costrutto. Questo significa che se il soggetto ha un livello alto nel costrutto dovrebbe indicare punteggi alti nella maggior parte degli item, così come dovrebbe indicare per lo più punteggi bassi se il suo livello nel costrutto è basso. In questo senso, la