RAGIONARE COME UN ESPERTO

Transcript

1 FILOSOFIA UMANA ED INTELLIGENZA ARTIFICIALE PROF. MAURO DI GIANDOMENICO

2 Indice 1 RAGIONARE COME UN ESPERTO RAGIONARE COME UN FILOSOFO: HUBERT DREYFUS RAGIONARE COME UN FILOSOFO: JOHN SEARLE NED BLOCK E L INVASIONE DEI CINESI di 16

3 1 Ragionare come un esperto La ricerca sulle applicazioni specifiche in intelligenza artificiale ha avuto un grande impulso negli ultimi due decenni del secolo scorso su impulso prevalentemente del mercato, che richiedeva prodotti utilizzabili nei settori della produzione industriale e dei servizi. Si è messa la sordina, così, alla via sostanzialmente prototipale e di ricerca percorsa precedentemente e si è imboccata quella tipicamente applicativa. E sorta così la categoria teorico/pratica che va sotto il nome di sistemi esperti. Bisogna riconoscere che le ricerche nell ambito del problem solving, insieme a quelle sulla rappresentazione delle conoscenze, sono alla base della creazione dei sistemi esperti. I sistemi esperti rappresentano la più importante (e forse la sola vera) applicazione dell intelligenza artificiale che ha avuto una ricaduta pratica (anche e soprattutto a livello commerciale). Sintetizzando, con il termine sistema esperto si intende un programma che è in grado di risolvere problemi complessi che rientrano in un particolare dominio, con una efficienza paragonabile a quella di uno specialista umano di quel settore. Ad esempio, un sistema esperto potrebbe essere capace di fare diagnosi mediche esaminando le cartelle cliniche (opportunamente formalizzate) di un paziente; o potrebbe valutare tutti fattori di rischio e le prospettive di guadagno di un determinato investimento finanziario. Un programma del genere deve possedere i seguenti componenti: una base di conoscenza specialistica su un determinato dominio, che rappresenta il sapere necessario ad affrontare e risolvere problemi in quel campo. Ovviamente essa dovrà essere 3 di 16

4 opportunamente codificata nella memoria del calcolatore mediante un formalismo (ad esempio, un grafo ad albero); un motore inferenziale, che sia in grado di dedurre (o inferire), a partire dalla base di conoscenza, le conclusioni che costituiscono la soluzione ad un dato problema che rientra nel dominio. Il motore inferenziale, che è il vero cuore del programma, funziona applicando alla base di conoscenze una serie di procedure euristiche simili a quelle sviluppate nell ambito del problem solving. una interfaccia utente che è costituita da un insieme di moduli informatici grazie ai quali un essere umano è in grado di interagire con il programma ponendo domande e leggendo le risposte. Il primo sistema esperto ad essere realizzato è stato DENDRAL, sviluppato dall informatico statunitense Edward Feigenbaum nel 1965 ed in grado di identificare la struttura chimica di molecole organiche sconosciute analizzando i loro spettri di massa. Ma il vero punto di svolta nella storia di questi programmi è rappresentato dalla creazione, sempre da parte di Feigenbaum, di MYCIN, che risale al MYCIN è un sistema specializzato nella diagnosi di malattie infettive, ed è sorprendentemente abile. Per lavorare fa ricorso ad una base di conoscenza molto dettagliata sulla sintomatologia di tutte le sindromi infettive conosciute, che confronta con la cartella clinica e con 4 di 16

5 dati sulla storia clinica del singolo paziente sotto esame. Inoltre le euristiche di cui è dotato gli permettono non solo di ipotizzare una diagnosi, ma anche di dare una valutazione sul grado di esattezza delle diagnosi (o delle possibili diagnosi) proposte. Le tecniche impiegate per realizzare MYCIN hanno dato origine ad una vera e propria famiglia di sistemi esperti: CASNET, ad esempio, è un sistema esperto per la diagnosi del glaucoma; PUFF si occupa delle malattie polmonari (le sue diagnosi si sono rivelate giuste nel 95% dei casi); un altro medico artificiale, questa volta generico, è CADUCEUS. Invece PROSPECTOR, è un sistema esperto in grado di individuare la posizione di possibili giacimenti minerari sulla base di dati geologici, ed è riuscito ad individuare miniere e giacimenti per un valore di miliardi di dollari. Oltre che nell ambito medico e in quello industriale, questo genere di programmi si è rivelato molto utile anche nel campo dell insegnamento e della didattica. Insomma i sistemi esperti costituiscono nel loro insieme una delle applicazioni pratiche più interessanti dell intelligenza artificiale. Tuttavia, in un certo senso, il successo di queste applicazioni rappresenta una misura delle difficoltà incontrate dall intelligenza artificiale forte. Un sistema esperto infatti, pur essendo molto abile nel suo campo, non sarebbe mai in grado di applicare la sua abilità ad altri domini: il suo è una specie di micromondo, solo un po più ricco di quello in cui operava SHRDLU. E, soprattutto, un sistema, per quanto possa essere esperto in medicina o geologia, non riuscirebbe mai a trovare la soluzione ad un qualsiasi banale problema quotidiano che ciascun essere umano risolverebbe con il solo buon senso. 5 di 16

6 2 Ragionare come un filosofo: Hubert Dreyfus Il progetto dell'intelligenza Artificiale ha subito critiche provenienti da diverse direzioni e fondate su differenti presupposti: in alcuni casi queste critiche sono state condotte prendendo in considerazione dati di natura più tecnica, mentre altre volte si sono basate su argomentazioni fondate su una visione generale della vita mentale umana. In relazione a questo secondo tipo di approccio, è significativo quanto sostenuto da Hubert Dreyfus, filosofo americano di formazione fenomenologica, tra gli oppositori delle pretese poste dal piano di sviluppo dell'intelligenza artificiale e della scienza cognitiva. Nel suo fortunato volume Che cosa non possono fare i computer? (1979) egli sostiene che l Intelligenza Artificiale sarebbe andata incontro a fallimenti tali da rendere opportuna un'attenta riflessione sulla sua plausibilità. Dreyfus indica innanzitutto il settore della traduzione automatica quale esempio paradigmatico di simili fallimenti. Nonostante l elaborazione di un dizionario traduttivo automatico la traduzione si rivelava spesso inadeguata in relazione al contesto ed in presenza delle frequenti ambiguità che caratterizzano il linguaggio naturale. Una situazione analoga, contraddistinta da un iniziale fase di successo, seguita dal sorgere di notevoli difficoltà, si era presentata nel caso dei programmi per la risoluzione di problemi: dopo un promettente inizio, testimoniato dalla creazione di Logic Theorist e di General Problem Solver (che abbiamo trattato nella precedente lezione), la ricerca informatica si era mostrata incapace di dotare questi programmi di un organizzazione interna che permettesse loro l esecuzione di processi assimilabili a quelli che caratterizzano la capacità di giudicare propria degli esseri umani. Lo stesso andamento aveva contraddistinto anche altri tipi di programmi, quali quelli per il riconoscimento 6 di 16

7 delle forme: ognuno dei programmi realizzati era infatti in grado di risolvere un tipo di problema specifico senza mostrarsi tuttavia generalizzabile. Dreyfus suggerisce quindi la presenza in Intelligenza Artificiale di uno sviluppo caratterizzato da iniziali successi e speranze seguiti però da risultati sempre minori fino al presentarsi di una certa disillusione. La causa di una tale situazione può essere identificata, secondo lui, nell'esistenza di una forma globale di trattamento dell'informazione che caratterizza gli esseri umani, ma manca alle macchine. Gli uomini sarebbero dotati, in effetti, di una sorta di coscienza marginale che ci permette, per esempio, che ci permette di riconoscere il volto di un amico che ricerchiamo tra la folla: qui l informazione non viene analizzata esplicitamente ma giace ai margini della coscienza e viene esaminata solamente in modo implicito. Ancora: gli esseri umani sono capaci di comprendere espressioni linguistiche ambigue proprio in virtù della coscienza marginale. Le frasi utilizzate durante la reciproca comunicazione, infatti, sono percepite nel modo adeguato perché la loro percezione viene organizzata nel contesto globale, i cui stimoli sono colti ai margini della coscienza. I problemi incontrati dai programmi per il trattamento delle informazioni possono essere spiegati, secondo Dreyfus, rifacendosi alla mancanza della capacità di trattare globalmente l'informazione. Una delle cause del loro insuccesso potrebbe essere identificata con il metodo per prove ed errori, il quale presenta il grave difetto di escludere l'aspetto più importante dell'abilità umana di risoluzione dei problemi, cioè la capacità di cogliere la struttura globale di base del problema da risolvere. La fondamentale distinzione tra elementi accessori ed elementi essenziali, all'interno di un compito specifico, è attuata dagli esseri umani grazie alle loro doti intuitive: elementi essenziali ed elementi accessori non sono costituiti da entità delimitate e distinte, tra le quali scegliere qualora se 7 di 16

8 ne presenti la necessità, e neppure possono essere presi in considerazione in modo indipendente dal contesto pragmatico all'interno del quale si trovano. Considerazioni analoghe possono essere condotte a proposito dei programmi per il riconoscimento delle forme: nelle ricerche sviluppate in Intelligenza Artificiale si è tentato di ricondurre le forme da riconoscere a norme prestabilite per poterle confrontare con una serie di modelli. Gli esseri umani, invece, sono capaci di riconoscere le forme a prescindere dalle variazioni di dimensione, di orientamento, o da interruzioni e lacune che possono essere presenti in una figura. Una fondamentale mancanza di reali successi caratterizza infine quella parte della ricerca che si occupa del trattamento semantico dell'informazione. Secondo Dreyfus, a dover essere posta in dubbio è la stessa convinzione che i comportamenti intelligenti propri degli esseri umani siano il risultato di un trattamento dell'informazione analogo a quello che viene attuato dai calcolatori elettronici. L'idea che gli uomini agiscano attraverso processi di manipolazione di simboli si fonda su una serie di postulati di dubbia validità, che portano a notevoli difficoltà quando vengono posti come punto di partenza della spiegazione del comportamento intelligente. Alla base di una simile idea si trovano i seguenti presupposti: a. un presupposto biologico, secondo il quale ad un certo livello (solitamente identificato con il livello dei neuroni) il cervello tratterebbe le informazioni per mezzo di operazioni distinte ed attuate attraverso l'equivalente biologico di un interruttore; b. un presupposto psicologico, secondo il quale la mente dovrebbe poter essere considerata come un congegno operante su piccole parti di informazione, in base a regole formali precise e rigorose; 8 di 16

9 c. un presupposto epistemologico, secondo il quale l'intera conoscenza dovrebbe risultare formalizzabile. L immagine che gli esseri umani siano in fondo dei dispositivi di calcolo, operanti su dati costituiti da fatti atomici e in base a precise regole, può tuttavia essere messa in discussione sulla base di una spiegazione alternativa, che è, secondo Dreyfus, quella veicolata dalla interpretazione fenomenologica dei comportamenti umani. Riflettiamo sul fatto che la direzione assunta dalle ricerche condotte in Intelligenza Artificiale esige che il comportamento umano sia formalizzabile nei termini di un programma euristico valido per un computer digitale. Ciò significa implicare una teoria del comportamento intelligente nella quale il possesso di un corpo non rappresenta un presupposto fondamentale per lo sviluppo e lo svolgimento delle capacità cognitive. Invece il possesso di un corpo, così e così strutturato, risulta indispensabile per la realizzazione del comportamento intelligente umano: forme di intelligenza quali quella logica o quella astratta possono dipendere, in realtà, da forme di intelligenza globali di livello inferiore. Non c è dubbio che alcuni dei compiti che hanno rappresentato gli ostacoli maggiori per l'intelligenza Artificiale sembrano richiedere il possesso di un corpo: il riconoscimento di forme presuppone, ad esempio, quell anticipazione globale ed indeterminata che rappresenta una delle caratteristiche del corpo che gli esseri umani sperimentano nelle loro sensazioni soggettive. Però, si potrebbe opporre, anche l A.I. ha il suo corpo, che è l hardware. Già. risponderebbe con sufficienza Husserl, ma si tratta di Körper (corpo inerte) e non di Leib (corpo vivo)! 9 di 16

10 3 Ragionare come un filosofo: John Searle L altro filosofo statunitense che ha catturato l attenzione del mondo filosofico-informatico è John Searle, coetaneo di Dreyfus e, come lui, studioso di filosofia del linguaggio e della mente. Anche Searle a più riprese ha cercato di confutare l idea che il pensiero umano sia riducibile ad una semplice elaborazione di simboli. La sua argomentazione propone, fra l altro un esperimento mentale, il gioco della stanza cinese, nell'articolo Minds, Brains and Programs (Menti, cervelli e programmi) pubblicato nel Da allora, è stato un pilastro del dibattito sull'ipotesi dell Intelligenza Artificiale forte. Immaginiamo egli scrive - di prendere una persona qualsiasi che non sappia una parola di cinese. Ora, supponiamo che la persona in questione venga messa una stanza nella quale sono collocate moltissime piccole scatole che contengono dei foglietti di carta, su cui sono disegnati tutti i possibili ideogrammi della scrittura cinese che. per lei non sono che scarabocchi privi di significato. A questo punto immaginiamo che insieme ai fogli con gli ideogrammi le venga fornito un manuale in inglese che contiene un insieme di istruzioni come questa: se ricevi il simbolo che ha la stessa forma di quello nella scatola X allora restituisci il simbolo nella scatola Y. Anche senza capire nulla del cinese, il soggetto potrebbe eseguire queste istruzioni, basandosi esclusivamente sulla forma dei simboli. Ora, immaginiamo che le vengano forniti dei fogli con frasi perfettamente sensate. Ad esempio: che colore preferisci? La persona dentro alla stanza, naturalmente, non capisce questi messaggi, ma, sulla base delle regole scritte sul manuale, fornisce una risposta in base alla loro 10 di 16

11 forma grafica, cioè in quanto insiemi di simboli formali. Ad esempio: Il colore che preferisco è l azzurro. Ebbene in questo caso la persona fuori dalla stanza sarebbe convinta di parlare con qualcuno che conosce perfettamente il cinese, anche se in realtà la persona dentro la stanza non sa una sola parola di quella lingua! Se riflettiamo sul gioco proposto da Searle ci rendiamo conto che esso assomiglia alla descrizione funzionale di un computer. Infatti: 1) la persona nella stanza è assimilabile al computer; 2) il manuale è il programma eseguito dal processore è scritto nel suo linguaggio macchina; 3) i simboli nelle scatole sono i dati usati dal programma per rispondere alle domande in cinese. L argomentazione proposta da Searle voleva appunto dimostrare che, nonostante tutte le regole formali, i computer non potrebbero mai capire veramente quello che fanno, perché essi manipolano i simboli esclusivamente in base alla loro forma o sintassi, ma non al loro significato, o semantica. È importante sottolineare che il suo bersaglio polemico diretto non è rappresentato dalla possibilità di una macchina pensante (lo stesso corpo umano e il suo sistema nervoso sono macchine) quanto piuttosto dall'ipotesi che una macchina sia in grado di pensare in quanto implementazione di un programma formale: non possono essere processi di calcolo operanti su elementi definiti per via formale a fornire a una macchina il possesso di stati cognitivi. Se ci chiediamo se una macchina possa pensare, la risposta non è necessariamente negativa. Se fosse possibile riprodurre in una macchina una struttura simile al nostro sistema nervoso non vi sarebbe alcun motivo per ritenere impossibile il possesso da parte della stessa delle nostre capacità cognitive. Searle ritiene però impossibile che una qualunque entità possa pensare unicamente in virtù del fatto di essere la realizzazione di un programma, essendo i processi di elaborazione di simboli formali in quanto tali privi di intenzionalità e di senso. La capacità degli esseri umani di comprendere storie, così come gli altri fenomeni intenzionali, è dovuta al fatto che gli uomini sono 11 di 16

12 organismi dotati di una determinata struttura biologica: l'intenzionalità è, secondo Searle, un fenomeno biologico probabilmente dipendente da specifiche proprietà biochimiche. E allora, per rispondere a questa obiezione (cioè che il computer è privo di corpo), basta semplicemente dotare la macchina di strumenti di percezione e di effettori, in grado di agire sul mondo circostante, per risolvere il problema. Non a caso le recenti tendenze nel campo dell intelligenza artificiale hanno ripreso la sperimentazione nel campo della robotica, cercando di realizzare agenti artificiali dotati di corpi meccanici strutturalmente simili a quelli degli organismi naturali. Bisogna fare ancora un altra considerazione. C è da dire che molta della fiducia nella possibilità di riprodurre, attraverso calcolatori elettronici, le facoltà mentali sarebbe dovuta a una certa confusione a proposito della nozione di elaborazione dell'informazione. E infatti diffusa l opinione che il cervello esegua compiti che potremmo indicare con tale termine e che lo stesso faccia un calcolatore. In questo modo, qualora un calcolatore venisse opportunamente programmato (se fosse cioè programmato con lo stesso programma che governa il cervello), l elaborazione dell informazione eseguita dal calcolatore e quella eseguita dal cervello potrebbero coincidere. La nozione di elaborazione dell informazione su cui si basa una simile opinione è, però, alquanto ambigua: i calcolatori manipolano simboli formali e non elaborano, quindi, informazione nello stesso senso in cui lo fanno gli esseri umani quando riflettono. Se interpretiamo invece la nozione di elaborazione dell'informazione in modo tale che essa implichi intenzionalità, come 12 di 16

13 avviene negli esseri umani, un calcolatore programmato non possiede in alcun modo la capacità di dare luogo a questo tipo di elaborazione dell informazione. A questa considerazione di Searle, però, si obietta in maniera ancora più radicale. Il problema messo in evidenza dal filosofo americano è la mancanza di semantica o di intenzionalità dei sistemi formali. Ma ci si può domandare: che cos è questa semantica? Esiste un fenomeno naturale spiegabile scientificamente che risponde alla definizione di semantica? In effetti sia la critica di Searle, sia quelle simili di altri studiosi come Richard Dreyfus, fanno appello ad una facoltà primaria irriducibile e, dunque, non spiegabile scientificamente, se non mediante petizione di principio: le semantica esiste, e siccome un computer non ha semantica allora un computer non può essere intelligente. Ma se la semantica non esistesse come fenomeno primario? In fondo, moltissimi fenomeni fisici che sembravano determinati da proprietà irriducibili sono stati spiegati o ridotti a fenomeni fisici più semplici (si pensi alla natura della luce o del magnetismo). Dunque nulla ci vieta di immaginare che in realtà la semantica non sia altro che il prodotto osservabile di una complessa serie di interrelazioni tra processi puramente sintattici posti su vari livelli gerarchici. 13 di 16

14 4 Ned Block e l invasione dei Cinesi Il filosofo della mente Ned Block non parla di un invasione territoriale o economica dei cittadini del Celeste Impero, ma solo li cita in un suo esperimento mentale proposto in un suo articolo del 1978 dal titolo Troubles with functionalism, (Problemi con il funzionalismo) pubblicato nel Minnesota Studies in the Phylosophy of Science. In questo saggio l autore intende mettere in luce alcuni problemi connessi alla posizione funzionalista. In particolare il suo intento è quello di criticare l idea funzionalista secondo la quale gli eventi mentali non sono altro che algoritmi eseguiti in modo del tutto inconscio da particelle, quali i neuroni, che ammettono solo due valori: 0 e 1. Essendo algoritmi, quindi, le funzioni mentali possono essere eseguite da qualsiasi macchina che sia in grado di eseguire i passi necessari alla loro esecuzione. Al fine di dimostrare l'implausibilità della posizione funzionalista, Block prende in considerazione la seguente situazione immaginaria: supponiamo di utilizzare gli abitanti della Cina per realizzare una mente secondo quelli che sono i principi propri del funzionalismo. A tale scopo potremmo immaginare di avere connesso via radio ogni abitante della Cina con gli altri abitanti, con un satellite che comunica loro le operazioni da eseguire e con un corpo artificiale che agisce in base a tali operazioni. Gli abitanti della Cina potrebbero essere qui paragonati ai neuroni del sistema nervoso umano ed il modo di procedere di un simile sistema potrebbe essere equiparato al funzionamento di un computer, essendo entrambi analizzabili in termini di input, output e programmi che ne specificano il comportamento. In questo sistema ogni individuo della popolosa Cina tratterebbe, tuttavia, una parte minima dell'informazione globalmente manipolata dal sistema costituito da tutti i 14 di 16

15 suoi abitanti. Il singolo individuo, quindi, non potrebbe essere in grado di valutare il lavoro complessivamente svolto dal sistema. Di conseguenza, la richiesta di considerare il sistema costituito dall'insieme degli abitanti della Cina realmente dotato di stati mentali, cioè dotato di stati mentali caratterizzati da aspetti qualitativi, appare d'altra parte implausibile. Per quanto una descrizione funzionale del sistema cinese ipotizzato da Block possa porlo in analogia col cervello, sembrerebbe pertanto che da nessuna parte nel sistema (né nei suoi costituenti, che sono i singoli individui, né nel sistema nel suo complesso) sia rintracciabile qualcosa di paragonabile allo svolgimento delle facoltà cognitive proprie degli esseri umani. In altri termini, gli abitanti della Cina, sarebbero impegnati in una serie di complesse interrelazioni che realizzano una computazione simile, sul piano funzionale, a quella di un cervello umano in azione. Ogni abitante agirebbe, per così dire, come un neurone, e gli ordini del governo rappresenterebbero il programma implementato. Dovremmo allora dire che gli abitanti della Cina danno vita ad una mente cosciente? No, risponde l abile filosofo. Anche l'esperimento mentale ideato da Block pone, quindi, in discussione la validità dell'ipotesi di rendere conto degli stati mentali degli esseri umani in termini di stati funzionali riproducibili attraverso calcolatori elettronici. Critiche quali quelle condotte da Searle e Block contro la posizione funzionalista sembrano rifarsi in qualche modo all'importanza della dimensione fisica della vita mentale umana. Il rifiuto della posizione funzionalista si basa, infatti, sull'idea che il nucleo dei processi cognitivi non debba essere cercato nelle loro caratteristiche astratte e formali: al contrario, la dimensione fisica del sistema nervoso e in generale del corpo ed il loro inserimento nel mondo fisico potrebbero costituire caratteristiche fondamentali per la comprensione delle proprietà dei processi cognitivi. Searle 15 di 16

16 sottolinea esplicitamente questa possibilità nel rilevare l'importanza delle proprietà biologiche del cervello. Un tentativo di risposta all'esperimento mentale ideato da Searle (anche se da Searle rifiutato) è così costituito dalla proposta di sostituire il calcolatore elettronico, che rappresenta il sistema addetto alla manipolazione formale di simboli, con un robot che, oltre a manipolare formalmente simboli, possa comunicare ed interagire fisicamente con l'ambiente esterno: questo nuovo sistema potrebbe non cadere nelle limitazioni in cui incorre il modello analizzato da Searle. In questo modo il contributo della manipolazione formale di simboli nello svolgimento dei processi cognitivi verrebbe mantenuto ma, nello stesso tempo, integrato con altri elementi. Naturalmente si tratta di ipotizzare nuovi modelli sia di hardware che di software: è questa la strada problematicamente aperta, come vedremo, dal connessionismo. 16 di 16