I Sistemi Esperti. L approccio probabilistico. Intelligenza Artificiale - Ragionamento 2

Transcript

1 I Sistemi Esperti L approccio probabilistico Intelligenza Artificiale - Ragionamento 2 1

2 SISTEMI ESPERTI (o Sistemi Basati Sulla Conoscenza) (1980) Un sistema basato sulla conoscenza è un sistema in grado di risolvere problemi in un dominio limitato ma con prestazioni simili a quelle di un esperto umano del dominio stesso. Generalmente esamina un largo numero di possibilità e costruisce dinamicamente una soluzione. Intelligenza Artificiale - Ragionamento 2 2

3 "La potenza di un programma intelligente nel risolvere un problema dipende primariamente dalla quantità e qualità di conoscenza che possiede su tale problema". (Feigenbaum) Il programma non è un insieme di istruzioni immutabili che rappresentano la soluzione del problema, ma un ambiente in cui: rappresentare; utilizzare; modificare; una base di conoscenza. Intelligenza Artificiale - Ragionamento 2 3

4 Caratterizzato dalle seguenti proprietà: Generalità. Rappresentazione esplicita della conoscenza. Meccanismi di ragionamento. Capacità di spiegazione. Capacità di operare in domini mal strutturati. Intelligenza Artificiale - Ragionamento 2 4

5 PRINCIPI ARCHITETTURALI Ogni sistema basato sulla conoscenza deveriuscire ad esprimere due tipi di conoscenza in modo separato e modulare: Conoscenza sul dominio dell applica-zione (COSA); Conoscenza su COME utilizzare la conoscenza sul dominio per risolvere problemi (CONTROLLO). Intelligenza Artificiale - Ragionamento 2 5

6 BASE DI CONOSCENZA MOTORE INFERENZI ALE Problemi: Come esprimere la conoscenza sul problema? Quale strategia di controllo utilizzare? Intelligenza Artificiale - Ragionamento 2 6

7 SISTEMI DI PRODUZIONE Un sistema a regole di produzione (production system) è costituito da tre componenti fondamentali: Base di conoscenza a regole (che prende spesso il nome di memoria a lungo termine ) in cui sono contenute le regole di produzione; Memoria di lavoro (memoria a breve termine) in cui sono contenuti i dati e in cui vengono mantenute le conclusioni raggiunte dal sistema; Intelligenza Artificiale - Ragionamento 2 7

8 Motore inferenziale. Ogni regola di produzione ha la seguente forma: if <condizione> then <conclusione/azione> Intelligenza Artificiale - Ragionamento 2 8

9 STRATEGIE DI CONTROLLO Strategia forward (in avanti) o controllo guidato dai dati; while <obiettivo non raggiunto> do begin <MATCH:determina l'insieme delle regole applicabili (cioè le regole il cui antecedente è soddisfatto dai fatti contenuti nella memoria di lavoro)>; <CONFLICT_RESOLUTION: seleziona la regola da applicare>; <FIRE: esegui l'azione associata alla regola> end. Intelligenza Artificiale - Ragionamento 2 9

10 Strategia "backward" (all indietro) o controllo guidato dal goal G. if <G è un fatto nella memoria di lavoro> then <G è dimostrato> else begin <MATCH:seleziona le regole il cui conseguente può essere unificato con G>; <CONFLICT_RESOLUTION: seleziona la regola da applicare>; <l'antecedente della regola selezionata diventa il nuovo obiettivo (congiunzione di obiettivi) da verificare> end. Intelligenza Artificiale - Ragionamento 2 10

11 SISTEMI BASATI SULLA CONOSCENZA ARCHITETTURA Esperto del dominio (INGEGNERE DELLA CONOSCENZA) INTERFACCIA per l acquisizione DELLA CONOSCENZA CONOSCENZA DEL DOMINIO MOTORE INFERENZIALE CONOSCENZA SUL CONTROLLO MEMORIA DEL LAVORO INTERFACCIA con l utente finale UTENTE FINALE Intelligenza Artificiale - Ragionamento 2 11

12 Rappresentazione della Conoscenza: Regole; Frames; Proposizioni Logiche; Vincoli; Procedure; Demoni; Oggetti; Fattori di Certezza, Variabili Fuzzy Intelligenza Artificiale - Ragionamento 2 12

13 Modalità di Inferenza: Ragionamento forward; Ragionamento backward; Risoluzione; Propagazione di vincoli; Strategie di ricerca euristiche; Ragionamento Ipotetico ed Abduttivo... Intelligenza Artificiale - Ragionamento 2 13

14 AMBIENTI SVILUPPO DI UN SISTEMA ESPERTO (ingegneria della conoscenza): a) Skeletal systems (SHELL) Ottenuti togliendo da Sistemi Esperti già costruiti la conoscenza propria del dominio e lasciando solo il motore inferenziale e le facilities di supporto. EMYCIN (Empty MYCIN) deriva da MYCIN; KAS deriva da PROSPECTOR; EXPERT deriva da CASNET. Intelligenza Artificiale - Ragionamento 2 14

15 b) Sistemi general-purpose (TOOLS); KEE, ART, Knowledge-Craft, Nexpert, KAPPA non sono strettamente legati a una particolare classe di problemi: essi permettono una più ampia varietà di rappresentazione della conoscenza e strutture di controllo. c) Linguaggi simbolici (Prolog, Lisp) e non (C, C++). Intelligenza Artificiale - Ragionamento 2 15

16 PASSI DI PROGETTAZIONE IDENTIFICAZIONE delle caratteristiche del problema. CONCETTUALIZZAZIONE. FORMALIZZAZIONE : progetto della struttura in cui organizzare la conoscenza. IMPLEMENTAZIONE : scrittura effettiva della conoscenza sul dominio. VALIDAZIONE. Intelligenza Artificiale - Ragionamento 2 16

17 SCELTA DI UN TOOL: 1. non bisogna utilizzare un Tool più generale del necessario; 2. bisogna testare il Tool costruendo un piccolo prototipo del sistema; 3. bisogna scegliere un Tool che sia affidabile ed mantenuto da chi lo ha sviluppato; 4. quando il tempo di sviluppo è critico, è bene scegliere un Tool con facilities di spiegazioni/interazione incorporate; 5. bisogna considerare le caratteristiche del problema per determinare le caratteristiche che deve avere il Tool. Intelligenza Artificiale - Ragionamento 2 17

18 APPLICAZIONI Migliaia di Sistemi Esperti nei settori più svariati. Interpretazione: Si analizzano dati complessi e potenzialmente rumorosi per la determinazione del loro significato (Dendral, Hearsay-II). Diagnosi: Si analizzano dati potenzialmente rumorosi per la determinazione di malattie o errori (Mycin,...). Intelligenza Artificiale - Ragionamento 2 18

19 Monitoring: I dati si interpretano continuamente per la generazione di allarmi in situazioni critiche. Al sistema è richiesta una risposta in tempo reale soddisfacente (VM). Planning e Scheduling: Si determina una sequenza intelligente di azioni per raggiungere un determinato obiettivo (Molgen). Intelligenza Artificiale - Ragionamento 2 19

20 OBIETTIVO DELLE CATEGORIE GENERALI DI APPLICAZIONI Interpretazione: Inferire descrizioni di situazioni da dati rilevati da sensori. Predizione: Inferire conseguenze future da una data situazione. Diagnosi: Inferire malfunzionamenti da osservazioni. Progetto: Configurare oggetti rispettando vincoli. Intelligenza Artificiale - Ragionamento 2 20

21 Pianificazione: Progettare sequenze di azioni. Monitoring: Confrontare osservazioni in tempo reale per identificare situazioni di allarme. Debugging: Prescrivere rimedi per malfunzionamenti. Riparazione: Eseguire un piano per ottenere il rimedio necessario Intelligenza Artificiale - Ragionamento 2 21

22 Insegnamento: Diagnosi, Debugging e Riparazione del comportamento di uno studente. Controllo: Interpretare, Predire, Riparare, a Monitorare il comportamento di un sistema. Alcune applicazioni ne includono altre. Intelligenza Artificiale - Ragionamento 2 22

23 CLASSIFICAZIONE: SISTEMI DI SINTESI E DI ANALISI Si possono raggruppare le operazioni in termini di quelli che costruiscono un sistema (sintesi) e quelli che interpretano un sistema (analisi). Intelligenza Artificiale - Ragionamento 2 23

24 COSTRUZION E (SINTESI) PROGETT O CONFIGURAZIONE STRUTTURA PIANIFICAZIONE PROCESSO INTERPRETAZIONE (ANALISI) IDENTIFICAZIONE PROGETTO MONITORING DIAGNOSI Intelligenza Artificiale - Ragionamento 2 24

25 CLASSIFICAZIONE E DIAGNOSI (1) Il più semplice tipo di classificazione consiste nell identificare alcuni oggetti sconosciuti o fenomeni come appartenenti a una classe conosciuta di oggetti, eventi o processi. Tipicamente queste classi sono tipi organizzati gerarchicamente e il procedimento di identificazione corrisponde al matching delle osservazioni di entità sconosciute con caratteristiche note delle classi. Intelligenza Artificiale - Ragionamento 2 25

26 Un esempio: Mycin Sviluppato da E.M. Shortliffe a partire dal 1972; Obiettivi: decidere se il paziente ha un infezione che deve essere curata; determinare, se sì, quale è probabilmente l'organismo infettivo; scegliere fra le medicine adatte per combattere l infezione quella più appropriata in rapporto alle condizioni del paziente. Intelligenza Artificiale - Ragionamento 2 26

27 Mycin risolve il problema di identificare un oggetto sconosciuto dalle culture di laboratorio, mediante un matching dei risultati di laboratorio con la gerarchia di batteri. ( 1 ) W. J. Clancey, Heuristic Classification, Artificial Intelligence 27, North Holland, 1985 pp Intelligenza Artificiale - Ragionamento 2 27

28 CARATTERISTICA ESSENZIALE DELLA CLASSIFICAZIONE Il motore di inferenza seleziona partendo da un insieme di soluzioni pre-enumerate. Quindi non costruisce una nuova soluzione. Le evidenze (osservazioni) possono essere incerte per cui il sistema può dare come risposta una lista di possibili ipotesi numerate in ordine di plausibilità. Esistono anche regole di inferenza oltre al matching. Intelligenza Artificiale - Ragionamento 2 28

29 In molti problemi le caratteristiche di una soluzione non sono date direttamente come dati, ma sono inferite mediante regole di inferenza che esprimono: 1.Astrazione definizionale: basata sulle caratteristiche necessarie di un concetto: Se è un mammifero allora allatta i figli. Intelligenza Artificiale - Ragionamento 2 29

30 2. Astrazione qualitativa: coinvolge dati quantitativi e li confronta con valori normali: Se il paziente è adulto e il valore dei globuli bianchi è minore di 2500 allora il valore è basso 3. Generalizzazione in una gerarchia di sottotipi Se il cliente è un giudice, allora è una persona educata Intelligenza Artificiale - Ragionamento 2 30

31 Classificazione Classificare un oggetto significa riconoscerlo come appartenente ad una determinata classe. Una caratteristica essenziale della classificazione è che seleziona da un insieme predefinito di soluzioni. Intelligenza Artificiale - Ragionamento 2 31

32 Le classi identificano delle regolarità e tutti i membri di una classe le condividono (condizioni necessarie). Di solito escludiamo il caso, denominato configurazione, in cui le soluzioni sono un insieme finito, ma molto ampio e quindi determinato dinamicamente come insieme potenza di elementi più semplici (componenti). Intelligenza Artificiale - Ragionamento 2 32

33 CLASSIFICAZIONE SEMPLICE ED EURISTICA Nella classificazione semplice i dati hanno un match diretto con le caratteristiche delle soluzioni (eventualmente dopo un passo di astrazione). Intelligenza Artificiale - Ragionamento 2 33

34 Nella classificazione euristica le soluzioni possono anche essere trovate usando un matching euristico mediante un associazione diretta e euristica con la gerarchia delle soluzioni. Normalmente l associazione euristica è di tipo empirico. Intelligenza Artificiale - Ragionamento 2 34

35 FISICO DEBILITATO EURISTICA INFEZIONE GRAM-NEGATIVA IMMUNODEFICIENZA GENERALIZZAZIONE GENERALIZZAZIONE SOTTOTIPO INFEZIONE DA E.COLI LEUCEMIA DEFINIZIONALE NGB BASSO QUALITATIVA NGB < 2.5 Intelligenza Artificiale - Ragionamento 2 35

36 ASTRAZIONE DEL PAZIENTE MACTH EURISTICO CLASSE DELLE MALATTIE GENERALIZZAZIONE RAFFINAMENTO DELLE IPOTESI DATI DEL PAZIENTE MALATTI E In pratica, nella classificazione euristica i dati del problema opportunamente astratti sono associati con classi di soluzioni di problemi. Intelligenza Artificiale - Ragionamento 2 36

37 Esempi: Mycin, Grundy che seleziona i libri che una persona può preferire mediante una classificazione della personalità e poi del libro che può essere più adatto, Sophie che classifica un circuito elettronico in termini dei componenti che causano un malfunzionamento. Intelligenza Artificiale - Ragionamento 2 37

38 FATTORI DI CERTEZZA Compromesso rispetto a un sistema bayesiano puro. Introdotti per la prima volta nel Sistema Esperto Mycin. Regole non certe (l implicazione corretta sarebbe invertita) mediate da un fattore di certezza. Un fattore di certezza è un numero reale ad hoc che varia fra +1 e -1. Permette l'inserimento di fatti apparentemente contraddittori, ambedue plausibili con differenti valori di certezza. Intelligenza Artificiale - Ragionamento 2 38

39 Fatti: (<attributo> <entità> <valore> <fattore di certezza>. Esempi di fatti espressi in Mycin sono (Lisp): (SITE CULTURE-1 BLOOD 1.0) (IDENT ORGANISM-2 KLEBSIELLA.25) (IDENT ORGANISM-2 E.COLI 0.73) (SENSITIVS ORGANISM-1 PENICILLIN - 1.0) Intelligenza Artificiale - Ragionamento 2 39

40 REGOLE: PREMISE <premessa> ACTION <azione> PREMISE ($AND (SAME CNTXT INFECT PRIMARY- BACTEREMIA) (MEMBF CNTXT SITE STERILESITES) (SAME CNTXT PORTAL G1)) ACTION (CNTXT IDENT BACTEROIDES 0.7) Intelligenza Artificiale - Ragionamento 2 40

41 Significato della regola IF 1)the infection is primary-bacteremia, 2)the site of the culture is one of sterilesites, and 3)the suspected portal of entry of the organism is the gastro-intestinal tract, THEN there is a suggestive evidence (0.7) that the identity of the organism is bacteroides. Intelligenza Artificiale - Ragionamento 2 41

42 OSSERVAZIONI I fattori di certezza iniziali sono forniti dagli esperti. Ogni CF in una regola di Mycin rappresenta il contributo della regola al fattore di confidenza di un ipotesi. Rappresenta in un certo senso una probabilità condizionale P(H E). Intelligenza Artificiale - Ragionamento 2 42

43 In un sistema Bayesiano puro però si deve assumereche la sola evidenza rilevante per H sia E, altrimenti dobbiamo tenere conto delle probabilità congiunte. Dunque Mycin assume che tutte le regole siano indipendenti ed è colui che scrive le regole che deve garantire ciò. Intelligenza Artificiale - Ragionamento 2 43

44 R1: Sviluppato all'università Carnegie-Mellon da John Mc Dermott per conto della Digital a partire dal COMPITO PRINCIPALE: configurare il calcolatore VAX-11 /780 automaticamente. Intelligenza Artificiale - Ragionamento 2 44

45 In base all ordine del cliente, R1 è in grado di: assicurare che l'ordine sia completo; determinare le relazioni spaziali fra le componenti. Un tipico sistema ha più di 100 componenti con varie possibilità di interazione. Intelligenza Artificiale - Ragionamento 2 45

46 Esperti: technical editors * Nato con un nucleo di 250 regole ora ne possiede circa Dal 1980 è un prodotto funzionante Digital. R1 è implementato in OPS-5. Intelligenza Artificiale - Ragionamento 2 46

47 TIPI DI CONOSCENZA IN R1 a) Informazione sui componenti: in memoria di massa sono raccolte informazioni su circa 400 componenti della Digital che il Sistema va a recuperare quando necessario. (RK711-EA!class bundle,!type disk drive!supported yes!component-list RK07-EA* 1 RK611) Intelligenza Artificiale - Ragionamento 2 47

48 b) Conoscenza sui vincoli: è la conoscenza di come associare determinati componenti per formare configurazioni parziali corrette e di come associare fra di loro le configurazioni parziali Distributed-mb-devices-3 IF: current active context is distributing massbus devices AND there is a single port disk drive that has not been assigned to a massbus AND there are no unassigned dual port disk drives AND THEN: assign the disk drive to the massbus Intelligenza Artificiale - Ragionamento 2 48

49 c) MEMORIA DI LAVORO: tiene traccia della conoscenza che viene accumulata dinamicamente durante il processo di configurazione. Intelligenza Artificiale - Ragionamento 2 49

50 CONTROLLO IN R1 Forward Strategia Irrevocabile Tasks non interagenti sistema di produzione decomponibile Nessuna strategia di controllo esplicita Ambiente povero Intelligenza Artificiale - Ragionamento 2 50

51 Regole per il cambio di contesto Check-voltage-and-frequency-1 IF: the MOST CURRENT ACTIVE CONTEXT is checking voltage and frequency AND there is a component that requires one voltage or frequency AND there is another component that requires a different voltage or frequency THEN: ENTER THE CONTEXT of fixing voltage or frequency mismatches. Intelligenza Artificiale - Ragionamento 2 51

52 PROSPETTIVE Verso gruppi di agenti intelligenti cooperanti (ingegneria del software). Cooperazione con un essere umano interfacce grafiche. Integrazione con vari sistemi informatici (interfacce grafiche, database ecc ), tecnologie tradizionali e non (reti neurali, sistemi fuzzy) sistemi ibridi. Intelligenza Artificiale - Ragionamento 2 52

53 Da costose workstations special-purpose (LISP-Machine) verso sistemi Unix o PC con l utilizzo di Tools scritti in linguaggi più tradizionali (C, C++). Sistemi basati sulla conoscenza in aree più semplici : costruzione di libri e manuali non più passivi ma attivi. In fondo, i linguaggi Object-Oriented sono nati nel 1967 e i Database Relazionali negli anni 70 Intelligenza Artificiale - Ragionamento 2 53

54 L approccio probabilistico Teoria della probabilità (richiami) P(A): probabilità incondizionata (o probabilità a priori): quella che si ha in mancanza di qualsiasi altra informazione. Esempio: P(Carie) = 0.1 (In una popolazione, il 10% degli individui ha la carie). Intelligenza Artificiale - Ragionamento 2 54

55 Le proposizioni possono includere uguaglianze che comprendono le cosiddette variabili casuali. Esempio: P(Tempo = Soleggiato) = 0.7 P(Tempo = Piovoso) = 0.2 P(Tempo = Nuvoloso) = 0.08 P(Tempo = Nevoso) = 0.02 Intelligenza Artificiale - Ragionamento 2 55

56 Ogni variabile casuale X ha un dominio di possibili valori (x 1,, x n ). Si possono vedere i simboli proposizionali come variabili causali se si assume che abbiano dominio (vero, falso). Quindi P(Carie) è un abbreviazione di P(Carie = vero) e P( Carie) sta per P(Carie = falso). Intelligenza Artificiale - Ragionamento 2 56

57 Per denotare tutti i valori che può assumere una variabile (discreta) si utilizza una forma vettoriale P(A). Per l esempio precedente: P(Tempo) = 0.7, 0.2, 0.08, 0.02 Questo enunciato definisce una distribuzione di probabilità della variabile Tempo. Intelligenza Artificiale - Ragionamento 2 57

58 L espressione P(Tempo, Carie) denota le probabilità di tutte le combinazioni di valori dell insieme di variabili casuali. Nell esempio, è una tavola di 4 x 2 probabilità. P(A B): probabilità condizionata o a posteriori: probabilità di A dato che tutto ciò che sappiamo è B. Esempio: P(Carie MalDiDenti) = 0.8 (se il paziente ha mal di denti e non c è altra informazione, la probabilità che abbia la carie è dell 80%). La notazione P(X Y) corrisponde ad una tabella bidimensionale con i valori di P(X=x i Y=y j ) per ogni possibile i, j. Intelligenza Artificiale - Ragionamento 2 58

59 Vale la regola del prodotto: P(A B) = P(A B) P(B) (affinché A e B siano veri, occorre che sia vero B e quindi che A sia vero dato B). Dalla precedente: P( A B) = P( A B) P( B) Vale anche: P(A B) = P(B A) P(A) Intelligenza Artificiale - Ragionamento 2 59

60 Assiomi della teoria della probabilità 1) 0 P(A) 1 2) Le proposizioni necessariamente vere (cioè valide) hanno probabilità 1, quelle necessariamente false (cioè insoddisfacibili) hanno probabilità 0; in formule: P(Vero) = 1 e P(Falso) = 0. 3) P(A B) = P(A) + P(B) P(A B) (si desume dal diagramma di Venn). Intelligenza Artificiale - Ragionamento 2 60

61 Dagli assiomi si può dedurre, ad esempio, che P(A A) = P(A) + P( A) P(A A) P(Vero) = P(A) + P( A) P(Falso) 1 = P(A) + P( A) P( A) = 1 P(A) Intelligenza Artificiale - Ragionamento 2 61

62 NOTA: la probabilità delle proposizioni può esprimere, più che una mera statistica, il grado di credenza su un fatto da parte di un agente: deve comunque conformarsi agli assiomi della probabilità (tesi di Bruno De Finetti, gioco delle scommesse tra due agenti). Intelligenza Artificiale - Ragionamento 2 62

63 Probabilità soggettiva Esempio: Qual è la probabilità che l'inter vinca il campionato? Approccio classico: P(I) = 1/18 (insoddisfacente) Approccio frequentista: impraticabile: non si può ripetere il campionato N volte. Intelligenza Artificiale - Ragionamento 2 63

64 De Finetti propone questo approccio: "La probabilità P(E) di un evento E è la frazione di una somma m che un agente ritiene equo sia pagato per la promessa di ricevere in cambio la somma m nel caso E si verifichi" (definizione). In pratica: Lo scommettitore (agente) entra in gioco pagando m P(E) euro. Il bookmaker pagherà m euro se E si verifica, altrimenti niente. Intelligenza Artificiale - Ragionamento 2 64

65 La probabilità così definita corrisponde al grado soggettivo di aspettativa (degree of belief) del verificarsi dell'evento incerto E. Si possono avere due situazioni: esiste una modalità di scommettere tale che l'agente perde sicuramente (Dutch book); non esiste tale modalità: in questo caso l'insieme di beliefs è coerente. De Finetti dimostra che se un insieme di beliefs è coerente (ossia evita un Dutch book) allora tali beliefs devono necessariamente soddisfare gli assiomi della probabilità. Intelligenza Artificiale - Ragionamento 2 65

66 Distribuzione di probabilità congiunta Siano X 1 X n variabili casuali che assumono valori determinati in un dominio, ciascuna con una certa probabilità. Un evento atomico è un'assegnazione di valori particolari a tutte le variabili. Intelligenza Artificiale - Ragionamento 2 66

67 La distribuzione di probabilità congiunta P(X 1 X n ) assegna probabilità a tutti gli eventi atomici (è una tabella n-dimensionale). Esempio: MalDiDenti MalDiDenti Carie Carie Dalla distribuzione di probabilità si desume, ad esempio: P(Carie MalDiDenti) = = 0.11 Intelligenza Artificiale - Ragionamento 2 67

68 oppure P( Carie MalDiDenti) = P( Carie MalDiDenti) P( MalDiDenti) = = 0.80 In generale, per n variabili booleane, occorre specificare 2 n valori per la distribuzione di probabilità. Intelligenza Artificiale - Ragionamento 2 68

69 Regola di Bayes Da: P(A B) = P(A B) P(B) P(A B) = P(B A) P(A) uguagliando le parti a destra, si ha: P ( B A) = P( A B) P( B) P( A) che è detta regola di Bayes. Intelligenza Artificiale - Ragionamento 2 69

70 Per variabili multivalori si ha: P(Y X) = P(X Y) P(Y) / P(X) (da intendere come insieme di equazioni che legano elementi corrispondenti delle tabelle). Vale anche: P(Y X,E) = P(X Y,E) P(Y E) / P(X E) (dove E rappresentano le prove di fondo). Intelligenza Artificiale - Ragionamento 2 70

71 Esempio: Un dottore sa che la meningite induce nel paziente, nel 50% dei casi, un irrigidimento del collo. Sa anche che la probabilità a priori che un paziente abbia la meningite è 1/50.000, quella che un paziente abbia un irrigidimento del collo è 1/20. Sia S = paziente ha irrigidimento del collo, M = paziente ha meningite. Intelligenza Artificiale - Ragionamento 2 71

72 Allora: P(S M) = 0.5 P(M) = 1/50000 P(S) = 1/20 Pertanto: P( S M ) P( M ) P( M S) = = = P( S) Intelligenza Artificiale - Ragionamento 2 72

73 Si osservi che P(S M) riflette il funzionamento della meningite, mentre P(M S) può variare, se ad esempio c è un epidemia di meningite (in qual caso P(M) cresce). Intelligenza Artificiale - Ragionamento 2 73

74 Normalizzazione Si è visto che: La possibilità che un paziente abbia un irrigidimento del collo per un colpo di frusta è: Intelligenza Artificiale - Ragionamento 2 74 ) ( ) ( ) ( ) ( S P M P M S P S M P = ) ( ) ( ) ( ) ( S P W P W S P S W P =

75 La verosimiglianza relativa della meningite e del colpo di frusta, dato un irrigidimento del collo, non richiede la probabilità a priori di un irrigidimento del collo: Intelligenza Artificiale - Ragionamento 2 75 ) ( ) ( ) ( ) ( ) ( ) ( P W W S P M P M S P S P W S M P =

76 Un altro caso in cui non si deve valutare direttamente la probabilità a priori dei sintomi si ha quando si considera un insieme esaustivo di casi. Nell esempio precedente, si considera il caso M e il caso M: Intelligenza Artificiale - Ragionamento 2 76 ) ( ) ( ) ( ) ( S P M P M S P S M P = ) ( ) ( ) ( ) ( S P M P M S P S M P =

77 Ora è anche P(M S) + P( M S) = 1, quindi: P(S) = P(S M) P(M) + P(S M) P( M) e sostituendo sopra: Intelligenza Artificiale - Ragionamento 2 77 ) ( ) ( ) ( ) ( ) ( ) ( ) ( M P M S P M P M S P M P M S P S M P + =

78 Questo processo è detto normalizzazione, poiché tratta 1/P(S) come costante di normalizzazione che permette ai termini condizionali di dare 1 come somma (in altri termini, si preferisce calcolare P(S M) piuttosto che P(S)). Nel caso generale multivalore, la regola di Bayes diventa P(Y X) = αp(x Y) P(Y) dove α è la costante di normalizzazione necessaria per rendere la somma dei valori della tabella P(Y X) pari a 1. Intelligenza Artificiale - Ragionamento 2 78

79 La combinazione delle prove Si suppongano note le due probabilità condizionate: P(Carie MalDiDenti) = 0.8 P(Carie Colpire) = 0.95 e si voglia concludere la probabilità che il sondino colpisca il dente dolorante del paziente. Intelligenza Artificiale - Ragionamento 2 79

80 Per calcolare P(Carie MalDiDenti Colpire) occorerebbe conoscere la probabilità congiunta. Anche l applicazione diretta della regola di Bayes: P( Carie MalDiDenti Colpire = P( Carie) P( MalDiDenti Colpire Carie) P( MalDiDenti Carie) Intelligenza Artificiale - Ragionamento 2 80

81 non aiuta, poiché richiede la conoscenza della probabilità condizionata (in generale, date n variabili individuali differenti, occorre calcolare n 2 valori differenti, e una diagnosi potrebbe dipendere da dozzine di variabili, non solo due!). Intelligenza Artificiale - Ragionamento 2 81

82 In molti domini è possibile semplificare l applicazione della regola di Bayes mediante un processo detto aggionamento bayesiano, il quale incorpora prove un pezzo per volta, modificando la credenza precedente nella variabile ignota. Nel caso in esame, si parte dal considerare il solo MalDiDenti: P( Carie MalDiDenti) = P( Carie) P( MalDiDenti Carie) P( MalDiDenti) Intelligenza Artificiale - Ragionamento 2 82

83 Quando si considera Colpire, si applica la regola di Bayes con MalDiDenti come contesto costante condizionante : P( Carie P( Carie MalDiDenti Colpire) = P( Colpire MalDiDenti Carie) MalDiDenti) = P( Colpire MalDiDenti) P( MalDiDenti Carie) P( Carie) P( MalDiDenti) P( Colpire MalDiDenti Carie) P( Colpire MalDiDenti) Intelligenza Artificiale - Ragionamento 2 83

84 Per calcolare P(Colpire MalDiDenti Carie) occorre un assunzione sostanziale, che parte dalla considerazione che la carie è la causa diretta sia del mal di denti che del colpire la carie con il sondino: pertanto, se si sa che il paziente ha la carie, la probabilità del sondino di colpire la carie non dipende dalla presenza del mal di denti; così, il sondino che finisce nella carie non cambia la probabilità che la carie sia causa del mal di denti. Intelligenza Artificiale - Ragionamento 2 84

85 In formule: P(Colpire Carie MalDiDenti) = P(Colpire Carie) e P(MalDiDenti Carie Colpire) = P(MalDiDenti Carie) equazioni che esprimono l indipen-denza condizionale di MalDiDenti e Colpire dato Carie. Intelligenza Artificiale - Ragionamento 2 85

86 L espressione di prima diventa: P( Carie MalDiDenti Colpire) = P( MalDiDenti Carie) P( Carie) P( MalDiDenti) Si noti che il termine P( Colpire Carie) P( Colpire MalDiDenti) P(Colpire MalDiDenti) che coinvolge le coppie (in generale, triple, ecc.) di sintomi, può essere eliminato: infatti al denominatore c è il prodotto P(Colpire MalDiDenti) P(MalDiDenti) Intelligenza Artificiale - Ragionamento 2 86

87 che è uguale a P(MalDiDenti Colpire) e, come prima, può essere eliminato con la normalizzazione, dato che si può disporre di P(MalDiDenti Carie) e P(Colpire Carie). Concludendo, occorre solo valutare la probabilità a priori per la causa e le probabilità condizionali per ognuno degli effetti. Intelligenza Artificiale - Ragionamento 2 87

88 Nel caso multivalore, per dire che X e Y sono indipendenti dato Z, si scrive: P(X Y,Z) = P(X Z) che rappresenta un insieme di enunciati condizionali indipendenti individuali. La corrispondente semplificazione della regola di Bayes per le prove multiple è P(Z X,Y) = α P(Z) P(X Z) P(Y Z) dove α è una costante di normalizzazione tale che i valori in P(Z X,Y) sommati diano 1. Intelligenza Artificiale - Ragionamento 2 88

89 In pratica, se e n = e 1, e 2,,e n è una sequenza di dati osservati in passato (contesto) e se e è una nuova informazione, il risultato precedente ci dice che: P( H e, en ) P( e H, en ) P( H en ) cioè il nuovo belief è proporzionale ( ) al prodotto del vecchio belief per la verosimiglianza che la nuova informazione possa materializzarsi data l'ipotesi e l'esperienza passata. Intelligenza Artificiale - Ragionamento 2 89

90 Se, come succede spesso, l'esperienza passata è irrilevante a determinare la verosimiglianza, ovverosia si verifica che e e n H, allora la formula precedente si semplifica: P( H e, en ) P( e H ) P( H en ). Intelligenza Artificiale - Ragionamento 2 90

91 Esempio: L'epidemia E può aver causato il morbillo M nel paziente; Il morbillo può aver causato macchie rosse R o febbre F. Effetti di una stessa causa diventano indipendenti una volta nota la causa. Dunque F E M. Intelligenza Artificiale - Ragionamento 2 91

92 Inoltre se E causa M e M causa R, allora conoscere E diventa irrilevante per R una volta che M è noto. Dunque E R M e E F M. L'approccio naturale è modellare gli effetti date le cause, non viceversa: P(e H) piuttosto che P(H e). Intelligenza Artificiale - Ragionamento 2 92

93 Nel nostro esempio: P(M E) P(R M) P(F M) P(E) (a priori, dato che non ha cause) che somigliano a regole del tipo: if M then R, con una certa confidenza (nota: il significato è "if M and tutto il resto è irrilevante then R, con una certa confidenza") Intelligenza Artificiale - Ragionamento 2 93

94 Ora: Il teorema di Bayes ci serve per invertire i legami condizionali nella direzione di interesse. L'indipendenza condizionale ci serve a semplificare eliminando l'informazione irrilevante: Intelligenza Artificiale - Ragionamento 2 94 ), ( ) ( ), ( ),, ( ),, ( E F M P M R P E F M P E F M R P E F R M P =

95 e, a sua volta, quindi che usa le "regole" probabilistiche codificate nel modello. Intelligenza Artificiale - Ragionamento 2 95 ) ( ) ( ) ( ), ( ), ( E M P M F P E M P E M F P E F M P = ) ( ) ( ) ( ),, ( E M P M F P M R P E F R M P

96 Si osservi che il procedimento precedente poteva essere sostituito da un approccio di "bruta forza": L'utilizzo dell'indipendenza condi-zionale riduce la complessità dell'inferenza. Intelligenza Artificiale - Ragionamento 2 96 = = M E F R M P E F R M P E F R P E F R M P E F R M P ),,, ( ),,, ( ),, ( ),,, ( ),, (