La qualità delle informazioni:

Transcript

1 misurazione e controllo in Enterprise Data Warehouse FABIO BALDUZZI ICTEAM Torino / Direttore Tecnico 0

2 Dati strutturati INFORMAZIONI DMS Dati non strutturati DATI Contesto Esperienza Enterprise Knowledge Assets CONOSCENZA 1

3 Gestire informazioni di qualità trasformare i dati grezzi in knowledge assets. Come? o progettare Enterprise Knowledge Repository avvalendosi di un adeguato sistema di Information Quality Management (IQM) al fine di supportare in modo efficace il processo di creazione di assets aziendali La qualità è un requisito particolarmente critico: se le informazioni presenti nel repository non hanno un adeguata credibilità, i decision-makers ignoreranno (nel caso migliore!) gli inputs provenienti dai vari componenti di tipo DSS fallimento dei progetti di B.I. 2

4 Le decisioni devono poter essere prese sulla base di informazioni di qualità. Ma o la qualità è di natura prevalentemente soggettiva i vari stakeholders hanno una diversa percezione della qualità delle informazioni o la presenza di dati non accurati, non disponibili, non raggiungibili o che non quadrano è un fenomeno oggettivo e dipende dall attuale progettazione del EDW La valutazione della qualità delle informazioni da parte degli stakeholders deve basarsi su fattori computabili e comparabili con le loro aspettative 3

5 Information Quality non è sinonimo di Data Quality o ad esempio correttezza e consistenza sono solo due delle n variabili presenti nell equazione (complessa) della qualità Perchè Information Quality Management? Sostanzialmente per garantire o caratteristiche di qualità alle informazioni secondo la reale percezione degli stakeholders o non dispersione di energie da parte degli stakeholders nel capire se le informazioni che stanno trattando sono di qualità oppure no! 4

6 Osservazione diretta La qualità delle informazioni: Perché misurare? Senza una misurazione qualunque percezione resta esclusivamente soggettiva: non si capisce in quale direzione ci si sta muovendo! Una difetto presente nelle informazioni (che ne causa il degrado) è idealmente misurabile come differenza tra due osservazioni: Il sistema reale percepito dall utente Possibile discrepanza nei dati Percezione soggettiva del sistema reale Il sistema reale percepito dall utente attraverso l IS Rappresentazione Interpretazione 5

7 ESEMPIO: quale è il valore reale del numero totale di clienti? Osservazione diretta Sistema reale Rappresentazione informatica del sistema reale Interpretazione Percezione utente delle informazioni RISULTATO: una percezione di inconsistenza si traduce in una convinzione di scarsa qualità delle informazioni!!! 6

8 Misurare: come e che cosa? La qualità delle informazioni: Come misurare il valore di un report? Quale metrica utilizzare per quantificarne la bontà (es. accurato al 95% rispetto ad uno accurato al 90%)? Quali indicatori (di qualità) monitorare partendo dalla reale percezione degli stakeholders? Come correlare requisiti (utente) e indicatori di qualità? Quali metodi utilizzare per effettuare la misurazione degli indicatori? o Data Mining in reverse, Discriminant Function Analysis, Inductive Learning, etc. 7

9 Cosa propone il mercato? MOLTI offrono soluzioni di Data Quality Assessment o analisi dei sistemi sorgenti (dati di tipo anagrafico ) o pulizia dei sistemi operazionali (Data Cleansing) o matching, de-duplica, standardizzazione, etc POCHI offrono soluzioni di Information Quality Assessment & Management di tipo pro-attivo (NO scrap & rework!) o re-engineering delle informazioni tecniche che fanno uso estensivo di metadati o misurazione e monitoraggio di indicatori di qualità o Liveness Reporting Assessment, valutazione della freschezza delle informazioni (nei report) 8

10 Necessità di metadata per misurare la qualità delle informazioni Metadata Repository e Quality Meta Model o si rappresentano gli obiettivi di qualità degli stakeholders ed i risultati delle relative misurazioni Approccio alle misurazioni orientato agli obiettivi (di tipo Goal-Question-Metric esteso ): o oggetto misurabile: presente nel modello (concettuale, logico, fisico) del DW a cui sono associati obiettivi misurabili di qualità. o quality goal: è relativo ad un oggetto, ha uno stakeholder, una dimensione ed uno scopo. ES: aumentare l accuratezza delle informazioni di un report 9

11 o quality query: opera sulle misurazioni per verificare il soddisfacimento degli obiettivi di qualità. ES: l accuratezza delle informazioni di un report è nel range atteso del 97% o quality dimension: utilizzata per formulare obiettivi di qualità. Ciascun stakeholder può definire una propria gerarchia di quality dimension. ES: freschezza, consistenza, accuratezza, etc. o quality measurement: attività di misurazione della qualità degli oggetti misurabili. Definita da: una metrica di qualità, un intervallo di valori attesi, una quality dimension. ES: il valore corrente della disponibilità di una sorgente è 23.5 ore al giorno. 10

12 Il modello consente agli stakeholders di progettare Quality Goals (astratti) che vengono tradotti in query di analisi eseguibili sui Quality Measurements nel DW meta-database

13 Il modello di qualità è parte integrante del metadata repository: i quality goals degli stakeholder sono rappresentati in modo esplicito nel repository. L approccio di tipo GQM esteso consente: o distinzione tra Quality Goal soggettivi (richiesti dagli stakeholder) e Quality Factor oggettivi (uniti agli oggetti misurabili del DW) o risoluzione di Quality Goals mediante valutazione dei Quality Factor componenti, ciascuno associato ad una Quality Query o esecuzione delle Quality Query sul metadata repository (semanticamente arricchito) 12

14 Vista Vista concettuale concettuale del del DW DW Quality Quality Model Model La qualità delle informazioni: Requisito astratto Es; consistenza, disponibilità, etc. Riferito ai metaobject del livello 1 Rappresenta il valore della misurazione corrente 13

15 Esempio di processo di quantificazione di una Quality Dimension: la credibilità delle informazioni fornite all utente finale High-Level Quality Dimension espressa dallo stakeholder Insieme dei Quality Factor che misurano la relativa Quality Dimension Funzione analitica di valorizzazione del Quality Goal 14

16 La qualità delle informazioni: Determinare le funzioni che valorizzano lo scenario di un Quality Goal non sempre è un compito facile: occorre analizzare le peculiarità del problema in questione. Ad esempio per determinare la timeliness di una vista materializzata si possono utilizzare diagrammi di Pareto oppure funzioni analitiche f=f(disponibilità delle sorgenti, frequenza di aggiornamento, capacità dei propagatori, etc.) o in alcuni casi è possibile determinare queste funzioni in modo analitico o in altri si ricorre a formulazioni di tipo empirico (SQC Statistical Quality Control) o in altri ancora si ricorre a funzioni booleane che evidenziano solamente legami di interdipendenza 15

17 Design Choice: il size del dato propagato Il range di valori accettabili è il criterio di base per valutare in modo oggettivo i Quality Goal (soggettivi) 16

18 Anello di controllo (e miglioramento) della qualità delle informazioni o ES: l accuratezza misurata non cade all interno del range di valori accettabili. Come reagire a questa situazione? IQ IQ IQ IQ IQ IQ IQ IQ 17

19 I principali vantaggi dell approccio proposto sono i seguenti: o si dispone di uno strumento per comprendere il meccanismo che produce il problema legato alla qualità delle informazioni o possiamo attaccare il problema in modo diretto mediante l uso di funzioni di qualità inverse (Inverse Quality Function) o possiamo applicare tecniche di Analisi di Sensitività (analisi WHAT-IF) e tecniche di propagazione delle perturbazioni per controllare e ottimizzare il sistema 18

20 19