Pre-elaborazione dei dati (Data pre-processing)

Transcript

1 Pre-elaborazione dei dati (Data pre-processing) I dati nel mondo reale sono sporchi incompleti: mancano valori per gli attributi, mancano attributi importanti, solo valori aggregati rumorosi: contengono errori e/o outliers inconsistenti: contengono codici o nomi diversi per gli stessi dati Senza dati di qualita` non c e` analisi di qualita` decisioni di qualita` debbono essere basate su dati di qualita` il data warehouse richiede una integrazione consistente di dati di qualita`

2 Una misura multi-dimensionale della qualita` dei dati accuratezza completezza consistenza tempestivita` credibilita` a valore aggiunto interpretabilita` accessibilita`

3 Attivita` principali nel data pre-processing pulizia dei dati (data cleaning) aggiunta di valori mancanti, aggiustamento dei dati rumorosi, identificazione e eliminazione degli outliers, soluzione delle inconsistenze Integrazione dei dati integrazione di database, cubi e files Trasformazione dei dati normalizzazione e aggregazione Riduzione dei dati riduzione del volume dei dati mantenendo la qualita` dell analisi Discretizzazione dei dati

4 Pulizia dei dati (data cleaning) attivita` di data cleaning: aggiunta dei dati mancanti identificazione degli outliers e riduzione dei dati rumorosi correzione dei dati inconsistenti

5 Dati mancanti I dati non sono sempre disponibili molte tuple non hanno valori registrati per alcuni attributi, p.e. il reddito dei clienti nei dati delle vendite La mancanza dei dati puo` essere dovuta a: malfunzionamento dei sistemi di acquisizione cancellazione dovuta a inconsistenza con dati gia` registrati dati non inseriti per incomprensione certi dati possono non essere considerati importanti al momento dell inserimento mancanza di registrazione dei cambiamenti nei dati Ci puo` essere necessita` di inferire i dati mancanti

6 Trattamento dei dati mancanti ingnorare la tupla; aggiungere il valore mancante manualmente usare globalmente una costante per i valori mancanti: p.e. non disponibile usare il valor medio dell attributo usare il valore piu` probabile dopo aver applicato una tecnica di inferenza (Bayesiana o albero di decisione) Uisare la correlazione con altri attributi se possibile

7 Esercitazione Usando i dati del file Catalogs.XLS sostituire il dato NA in history con un valore accettabile. Suggerimento: studiare separatamente le distribuzioni dei bassospendenti, medio-spendenti, alto-spendenti; eliminare gli outliers; calcolare le medie; classificare le history in base alle medie ottenute e ai dati di spesa dell anno in corso.

8 Dati rumorosi Rumore: errore o varianza random sui valori di una variabile Valori scorretti di un attributo possono essere dovuti a: strumenti difettosi di raccolta dati problemi di immissione dei dati problemi di trasmissione dei dati limitazioni tecnologiche inconsistenze nelle convenzioni di rappresentazione Ulteriori problemi che richiedono pulizia dei dati record duplicati dati incompleti dati inconsistenti

9 Trattamento dei dati rumorosi Binning (partizionamento): si ordinano i dati e si partizionano in bins (gruppi) di uguale dimensione) si riducono le differenze (smoothing) all interno dei bins o per valori medi, o per valori mediani, o per i valori min e max, ecc. Clustering con algoritmi di clustering si individuano e rimuovono gli outliers Combinazione di ispezione automatica e manuale determinare automaticamente i valori sospetti e farli controllare da un esperto Analisi di regressione determina gli outliers e consente di avvicinarli alla curva (fitting sulla curva)

10 Esempi di binning supponiamo di avere la seguente lista di prezzi: 4,8,9,15,21,21,24,25,26,28,29,34 Partizionamento in bins di uguale dimensione: Bin 1: 4,8,9,15 Bin 2: 21,21,24,25 Bin 3: 26,28,29,34 Smoothing usando la media: Bin 1: 9,9,9,9 Bin 2: 23,23,23,23 Bin 3: 29,29,29,29 Smoothing usando gli estremi dell intervallo Bin 1: 4,4,4,15 Bin 2: 21,21,25,25 Bin 3: 26,26,26,34

11 Esempio di scoperta di outliers Usando il file EXPENSES: Trovare gli outliers di Salary rispetto ad una distribuzione normale Trovare gli outliers di Dining rispetto a Salary mediante analisi di regressione.

12 Esempio di data cleaning in Excel Il file CLEANSING.XLS contiene i dati di 1500 clienti di una compagnia verificare che i Social Security Numbers siano tutti diversi verificare se le date di nascita contengono valori improbabili (possibili valori sconosciuti!!) verificare se i valori del campo eta` (age) contengono valori improbabili (problema anno 2000 ) verificare il campo region (possibili errori di digitazione!!) verificare il campo CredCardUser (possibile errore di formattazione) Verificare i campi Income e Purchases per missing values e outliers

13 Esercitazione Il file P04_03 contiene i dati di 500 abitazioni in un quartiere medio: Dimensione della famiglia Posizione dell abitazione nel quartiere Abitazione in affitto o di proprieta` Reddito lordo del residente col reddito piu` alto Reddito lordo del secondo residente col reddito piu` alto (se esiste) Affitto o mutuo mensile Spesa media mensile in acqua, gas ecc. Indebitamento totale (incluso il mutuo) Effettuare la pulizia dei dati

14 Filtraggio (interrogazione) di tabelle Excel: uso di AutoFilter Esempio: il file CATALOGS.XLS contiene i dati per i clienti di una compagnia di vendita per corrispondenza mediante l uso di AutoFilter ottenere le seguenti informazioni: selezionare i clienti con esattamente 2 figli selezionare i clienti maschi con esattamente 2 figli selezionare clienti con salario compreso tra e (custom query) copiare i risultati di una query per effettuare statistiche Nota bene (per quelli che sanno di database): autofilter consente di effettuare operazioni di selection e projection su una singola tabella relazionale.

15 Esercitazione Il file P04_01 contiene dati che rappresentano 30 risposte a un questionario sulle politiche ambientali del governo. Usando Autofilter: 1. Identificare tutte le risposte di donne, di mezza eta`, con 2 figli. Qual e` il loro salario medio? 2. Identificare tutte le risposte di anziani in forte disaccordo con le politiche governative. Qual e` il loro salario medio? 3. Identificare tutte le risposte in forte accordo con le politiche governative. Qual e` la percentuale di giovani tra questi ultimi?