Modellizzazione neurale di fenomeni cognitivi complessi: L'Effetto Stroop

Transcript

1 Modellizzazione neurale di fenomeni cognitivi complessi: L'Effetto Stroop Il simulatore PDP++ John Ridley Stroop nato il 21 Marzo del Muore all età di 76 anni il 1 Settembre del Architettura neurale del modello di Cohen et al. (1990). 1

2 Sentiti ringraziamenti al professore Alessandro Londei e alla mia famiglia, che mi ha sempre sostenuto nei momenti di difficoltà, durante questo iter accademico triennale. 2

3 Indice Presentazione... 6 Capitolo 1. Introduzione: la scienza cognitiva neurale 1.1 La psicologia cognitiva e i modelli computazionali... 9 Premessa La scienza cognitiva computazionale La scienza cognitiva neurale e il connessionismo Gli aspetti principali che differenziano i due approcci teorici I modelli connessionistici Il Contesto storico che ha permesso lo sviluppo dei modelli di tipo PDP I modelli connessionistici di tipo PDP Il perché dell utilizzo dei modelli connessionistici Il software per la simulazione dei modelli connessionistici di tipo PDP Introduzione al software PDP Breve descrizione del funzionamento del software PDP Il funzionamento biologico neuronale modellizzato per mezzo dell algoritmo LEABRA Capitolo 2. L elaborazione automatica e controllata delle informazioni e l effetto Stroop 2.1 L elaborazione automatica e volontaria delle informazioni Il ruolo dell attenzione nei processi di elaborazione e selezione della risposta La prova di interferenza colore-parola di Stroop Le origini storiche e strutturali del test dei colori di Stroop Evidenze sperimentali dell effetto Stroop L attenzione per la spiegazione dell effetto Stroop Applicazione dell effetto Stroop La prova di interferenza colore parola di Stroop, è uno dei compiti più frequentemente utilizzati per studiare l attenzione selettiva nell elaborazione visiva Utilizzare l effetto Stroop per lo studio della distinzione tra processi automatici e processi volontari. 38 3

4 2.5 Studi di frmi durante lo svolgimento della prova di interferenza colore parola di Stroop.40 Capitolo 3. La modellizzazione neurale della prova di interferenza colore parola di Stroop 3.1 Le diverse interpretazioni per la spiegazione dell effetto Stroop Il modello L architettura, i processi e la rappresentazione dell informazione I Meccanismi di apprendimento e l andamento temporale dell elaborazione La variabilità e il meccanismo di selezione delle risposte La simulazione La fase di apprendimento La fase di test La simulazione dell effetto Stroop di base La simulazione degli effetti SOA: la velocità di elaborazione e la forza delle vie neurali Gli effetti della pratica e la legge della potenza L attenzione e l elaborazione Discussione dei risultati Riconsiderazione dei processi volontari e automatici L attenzione intesa come meccanismo di controllo dell elaborazione La natura continua dell elaborazione.69 Capitolo 4. La critica principale mossa al modello dell effetto Stroop 4.1 Introduzione La modellizzazione di Spieler et al L asimmetria tra le architetture neurali Il numero delle unità della rete influisce sulla performance del compito Conseguenze sperimentali della debolezza del modello Discussione dei risultati...79 Capitolo 5. La risposta degli autori alla critica di Spider et al. 5.1 Introduzione Gli effetti della dimensione strutturale del compito nel modello originale Assunzioni teoriche diverse, risultati sperimentali diversi. 85 4

5 5.2.2 La modellizzazione del sistema attenzionale Riconsiderazione delle simulazioni di Spieler et al I molteplici fattori che influenzano la performance della modellizzazione neurale dell effetto Stroop La condizione di lettura della parola e di denominazione del colore Il problema della dimensione strutturale del compito Gli effetti causati dalla dimensione della struttura neurale e i meccanismi di inibizione La lettura della parola versus la denominazione del colore Discussione dei risultati 98 Conclusioni 100 Riferimenti bibliografici

6 Presentazione. Il seguente lavoro ha come obiettivo quello di analizzare e descrivere un approccio teorico e sperimentale nuovo e avvincente, che sta fornendo alla psicologia sperimentale, ai ricercatori e alla comunità scientifica in genere, contesti sperimentali alternativi per descrivere e spiegare fenomeni di tipo cognitivo. Il concetto di elaborazione distribuita in parallelo (PDP), in particolare, e l approccio connessionista in generale, sono riusciti ad affermarsi e a contribuire nella ricerca psicologica con validi strumenti metodologici, alternativi ai classici strumenti utilizzati sinora per lo studio dei processi cognitivi normali e patologici. Uno degli strumenti metodologici più completi e più ambiziosi è il software di simulazione PDP++, progettato e sviluppato da O Reilly e Munakata nel 2000, sulla base dei principi dell approccio teorico PDP di McClelland e Rumelhart. Il PDP++ è uno strumento metodologico alternativo di ricerca sperimentale, per l implementazione e l applicazione di processi percettivi e/o cognitivi. I risultati del simulatore possono essere facilmente confrontati con i risultati di altre ricerche sperimentali, che adottano metodologie di ricerca diverse da quella qui considerata. In ambito psicologico sono state proposte varie modellizzazioni di processi cognitivo - percettivi, fra cui la modellizzazione fatta da Cohen et a., sulla distinzione tra i processi volontari e automatici, usando il modello dell effetto Stroop. Per fornire al lettore una conoscenza generale dell approccio teorico PDP, e per introdurre il software PDP++ è stato necessario dedicare ad essi un intero capitolo introduttivo, ovvero il primo capitolo. Il secondo capitolo è focalizzato sulla descrizione del sistema cognitivo complesso, dell attenzione e dell elaborazione automatica e volontaria delle informazioni, necessario agli esseri umani per interagire con il mondo e per gestire la grande quantità di informazioni che ne derivano. Questa seconda parte del lavoro si conclude con la spiegazione della prova di interferenza colore parola di Stroop, e con i possibili ambiti di applicazione del compito. Il terzo capitolo è stato dedicato alla proposta sperimentale di Cohen et. al. di modellizzare il compito di Stroop, simulando l andamento temporale di elaborazione delle informazioni e gli effetti di apprendimento coinvolti. Questa simulazione è stata realizzata integrando la teoria dei meccanismi distribuiti in cascata di McClelland, con l algoritmo di 6

7 apprendimento backpropagation di Rumelhart et al. Il modello permette di simulare le performance classiche, riscontrate durante lo svolgimento del compito Stroop dai soggetti umani; inoltre, per mezzo della variazioni della struttura del compito Stroop, è stato possibile simulare alcuni aspetti della performance grazie alla manipolazione della presentazione temporale degli stimoli, in risposta al tipo di informazione e alla pratica sostenuta. Il quarto capitolo è la critica di Spieler et al., alla modellizzazione e ai dati sperimentali riportati da Cohen et al. Gli autori della critica sostengono che il modello di Cohen et al. non riesce a cogliere le differenze dei tempi di latenza intercorrenti tra la lettura della parola e la denominazione del colore, quando le alternative di risposta sono superiori a due. Inoltre, la critica continua sostenendo che gli studi empirici suggeriscono che l influenza prodotta dall incremento della dimensione strutturale delle risposte, causa un aumento della differenza dei tempi di reazione delle performance, tra la denominazione del colore e la lettura della parola, durante lo svolgimento del compito Stroop. Pertanto, questa evidenza sperimentale, riscontrata in contesti di ricerca reali, è in diretta contrapposizione alla diminuzione della differenza dei tempi di reazione, prodotta e rilevata per mezzo dell architettura neurale di Cohen et al. La quinta parte del lavoro sintetizza la risposta di Cohen et al. alla critica di Spieler et al., sostenendo che le simulazioni utilizzate per criticare il modello originale non implementavano meccanismi validi per spiegare gli effetti causati dalla dimensione strutturale del compito. Gli autori, quindi, propongono una nuova simulazione che implementa questi meccanismi, rilevando e presentando dei risultati migliori rispetto alle simulazioni di Spieler et al. Inoltre, gli autori continuano proponendo la modellizzazione di ulteriori fattori: questi fattori sono in grado di migliorare sensibilmente la qualità dell adattamento del modello al contesto sperimentale reale. Gli autori del modello originale sono consapevoli del fatto che l utilizzazione del feed forward è stata una delle limitazioni più significative del modello originale. Gli autori, inoltre, discutono dei possibili aspetti che differenziano il processo di lettura della parola dal processo di denominazione del colore durante lo svolgimento del compito di Stroop. Sebbene sia possibile ipotizzare delle differenze tra le elaborazioni, gli autori sostengono che le differenze concettualizzate nel modello originale, non facevano riferimento ad una semplice dicotomizzazione dell elaborazione automatica controllata. 7

8 Il lavoro si conclude con delle riflessioni e delle critiche sulle varie modellizzazioni presentate, sostenendo comunque la necessità di continuare a produrre nuove modellizzazioni in ambienti computazionali artificiali, e confrontare i risultati ricavati in questi innovativi ambienti di ricerca con i dati sperimentali reali. 8

9 Capitolo 1. Introduzione: la scienza cognitiva neurale 1.1 La psicologia cognitiva e i modelli computazionali. Premessa. «Negli ultimi anni in Italia scrive Parisi - l uso dell espressione scienza cognitiva, e in particolare dell aggettivo cognitivo, sembrava fare riferimento a una molteplicità di aspetti del settore, (processi cognitivi, psicologia cognitiva, neuropsicologia cognitiva, tecniche cognitive), che inevitabilmente hanno causato, nel significato di questi termini, un progressivo diventare più vago e indefinito. Quindi, tutta questa ambiguità nei termini, non era coerente con la parola che la precedeva, scienza, che contrariamente fa riferimento alla precisione e all univocità dei concetti.» 1 Per chiarire questa ambiguità e incoerenza, è necessario analizzare l espressione scienza cognitiva, facendo riferimento a due cose molto diverse tra loro. Le due scienze cognitive, che più evidenziano l aspetto artificiale nei loro lavori di ricerca, sono meglio conosciute con il nome di scienza cognitiva computazionale e scienza cognitiva neurale. 2 Queste due scienze cognitive, come indica il medesimo autore, 3 «non sono soltanto due cose molto diverse tra loro, ma addirittura opposte l una all altra. Quando si parla di scienza cognitiva è necessario innanzitutto indicare quale tra le due si intende considerare.» Prima di trattare esplicitamente la discussione sulle due scienze cognitive, è necessario introdurre le seguenti caratteristiche, che descrivono e identificano le scienze medesime, in particolare, scrive Parisi: A) l approccio è interdisciplinare, ossia coinvolge oltre alla psicologia anche altre discipline; B) l approccio, per diverse ragioni, chiama in causa il computer; C) l approccio è in contrapposizione al comportamentismo, ossia a quella scuola di pensiero che sosteneva la seguente assunzione: il comportamento degli organismi deve essere studiato limitandosi a ciò che è osservabile e misurabile, cioè agli stimoli e alle risposte. Invece, la scienza cognitiva, in contrapposizione, sostiene di dover studiare proprio quello che sta in 1 Parisi, D. (1997). Scienza cognitiva oggi. Giornale Italiano di Psicologia, 24, pp Cf. Ivi. 3 Id. (1992). Contro cognitivo. Sistemi Intelligenti, 4, pp

10 mezzo tra gli stimoli e le risposte, spiegando il perché determinati stimoli provochino un certo tipo di risposte. Per mezzo di queste tre caratteristiche è possibile identificare il tipo di scienza cognitiva e risolvere il problema dell ambiguità e dell incoerenza. E necessario, comunque, riformulare i tre punti sopradescritti in termini di domande: A) Quali discipline sono coinvolte nelle scienze cognitive? B) In che modo e perché il computer è chiamato in causa dalla scienza cognitiva? C) Come si deve studiare, secondo la scienza cognitiva, quello che sta in mezzo tra gli stimoli e le risposte?. Rispondere a queste domande significa identificare e diversificare le due scienze cognitive, e quindi rendersi conto che le due scienze cognitive sono molto diverse tra loro La scienza cognitiva computazionale. La scienza cognitiva computazionale è nata con la rivoluzione cognitiva anticomportamentista, cominciata negli Stati Uniti alla fine degli anni cinquanta del secolo scorso. La scienza cognitiva computazionale è nata con le innovazioni tecnologiche dell informatica, e in particolare con il computer, nel senso che essa è emersa sulla base dell analogia tra la mente umana e il computer: la mente che corrisponde al software del computer, e il cervello e il corpo di un essere umano sono come l hardware di un computer. Il software di un computer è un insieme di simboli e di regole (istruzioni), per manipolare i simboli in modo formale, considerando la forma e non il loro significato. Allo stesso modo, la mente umana è un insieme di simboli, rappresentazioni simboliche e regole. Quando la scienza cognitiva computazionale si occupa di significati, interpreta anche i significati come altri simboli. Agire su simboli in modo formale è definito computare. Quindi l approccio computazionale ipotizza l esistenza di una parziale analogia tra la mente umana e un sistema computazionale, come il computer. L analogia tra la mente e il computer, come indica Parisi nel medesimo articolo, ha permesso alla scienza cognitiva computazionale di raggiungere due obiettivi. Il primo è stato quello di screditare il comportamentismo, criticando la scelta di non considerare la mente come oggetto di studio. Quindi è possibile occuparsi della mente senza perdere di scientificità, considerando l analogia con il software del computer, che può essere studiato con precisione e oggettività; allo stesso modo, 10

11 anche la mente può essere studiata con lo stesso rigore. Un secondo obiettivo, è stato quello di tenere la scienza della mente ben separata dalle neuroscienze. Le neuroscienze si occupano del cervello, cioè dell hardware del computer, la psicologia si occupa della mente, cioè del software. Allo stesso modo, la scienza del software del computer è concettualmente del tutto indipendente e autonoma dalla fisica, la quale si occupa dell hardware del computer, così la psicologia è del tutto indipendente e autonoma dalle neuroscienze. Sulla base dell analogia mente computer, è nata la scienza cognitiva computazionale, in quanto approccio interdisciplinare, che si avvale dell informatica in particolare. Il settore dell informatica ha tentato di fornire al computer capacità e comportamenti tipici della mente umana, (produrre il linguaggio parlato, riconoscimento di oggetti, traduzione di testi da una lingua all altra, fare piani di azione ed eseguirli, controllare e gestire un robot nell orientamento spaziale fisico reale). Con questo interessamento da parte del settore dell informatica, è nata l Intelligenza Artificiale. Dall altro lato, gli psicologi hanno cominciato a usare i concetti dell informatica per analizzare, modellare e spiegare la mente. La modellizzazione era intesa in termini di modelli di elaborazione dell informazione, la mente cioè veniva concettualizzata come un contenitore di rappresentazioni e regole, e il funzionamento della mente in termini di esecuzione di algoritmi. Inoltre, in quegli stessi anni è nata la linguistica generativa di Chomsky: una linguistica formale che considera il linguaggio come una capacità di combinare e manipolare simboli secondo regole o principi, che non tiene conto del significato dei simboli stessi - come fa il computer con i suoi simboli. Quindi, alla domanda di quali discipline sono coinvolte nella scienza cognitiva, si può rispondere indicando la psicologia cognitivista, che concepisce la mente come un sistema di elaborazione dell informazione, in stretta relazione con l informatica, l intelligenza artificiale, la linguistica formale di Chomsky con la filosofia della mente e del linguaggio. Il collante che tiene insieme tutte queste discipline è l idea di base secondo cui la mente sia, come il computer, un sistema computazionale. Alla domanda, come viene chiamato in causa il computer?, è possibile rispondere che il computer viene considerato come modello della mente. Infine, alla domanda: come può essere studiato quello che sta in mezzo tra gli stimoli e le risposte?, si può rispondere asserendo che la scienza cognitiva computazionale lo studia 11

12 costruendo modelli, che sono come gli algoritmi di elaborazione che vengono eseguiti dal computer, ignorando la macchina fisica che fa loro da supporto materiale. La scienza cognitiva computazionale, è stata il paradigma dominante fino alla metà degli anni ottanta. Poi le basi della scienza cognitiva computazionale iniziarono a scricchiolare, con la nascita di una nuova scienza cognitiva, quella neurale La scienza cognitiva neurale e il connessionismo. Negli ultimi anni, la scienza cognitiva computazionale è stata messa in crisi per tre diverse ragioni. La prima è che le scienze biologiche, in particolare le neuroscienze, con le loro scoperte e con il loro rapido avanzamento, sostengono che non è accettabile studiare la mente, ignorando il cervello, e più in generale il corpo. La seconda ragione è che l analogia tra mente e computer ha perso molta della sua credibilità, perché la mente umana non somiglia molto a un computer; la mente umana non è solo cognizione, intelletto, capacità, ma anche motivazioni, percezioni interne del corpo ed esterne. La terza ragione è che negli ultimi decenni è emerso un nuovo approccio per lo studio del comportamento, diametralmente opposto a quello della scienza cognitiva computazionale, quello del connessionismo. Il connessionismo, indica ancora Parisi, 5 usa le reti neurali come modelli per analizzare e spiegare il comportamento. Le reti neurali sono modelli teorici, strettamente quantitativi, direttamente ispirati alla struttura fisica del sistema nervoso e al suo modo di funzionare. Inoltre, sono modelli simulativi, cioè modelli che non sono espressi verbalmente oppure per mezzo di formule matematiche, ma sono modelli espressi come programmi per computer. Le reti neurali rimangono comunque un aspetto di un approccio scientifico più esteso e più ambizioso, che è quello della Vita Artificiale. Gli studiosi della Vita Artificiale simulano non solo il sistema nervoso dell organismo, ma anche il suo corpo, il suo ambiente fisico e sociale, il suo materiale genetico ereditato, e la popolazione di cui l organismo come individuo è un membro, una popolazione che evolve biologicamente e, nel caso degli esseri umani, anche culturalmente. Il connessionismo è alla base della nuova scienza cognitiva, quella neurale. Anch essa è un approccio interdisciplinare, diverso da quello della scienza 4 Ibid. 5 Parisi, D. (1997). Op. e pp. cit. 12

13 cognitiva computazionale: psicologia non cognitivista, neuoscienze, biologia in generale e, per gli aspetti quantitativi delle reti neurali, anche fisica e matematica. Il collante che tiene insieme tutte queste discipline è l idea che il comportamento deve essere studiato usando lo stesso quadro di riferimento concettuale delle scienze naturali: le spiegazioni che propone sono basate sul fatto che gli effetti fisici sono causati da cause fisiche, e sono caratterizzate inevitabilmente da aspetti intrinsecamente quantitativi. Per quanto riguarda il computer, il suo ruolo si è spostato dall essere il modello della mente, all essere semplicemente uno strumento pratico per compiere delle simulazioni. Infine la scienza cognitiva neurale, tra gli stimoli e le risposte, pone come tramite il cervello e il resto del corpo, anziché considerare una mente fatta di puri simboli, come sosteneva invece la scienza cognitiva computazionale Gli aspetti principali che differenziano i due approcci teorici. Anche se tra il connessionismo e le neuroscienze è presente una relazione molto stretta, questo non significa che la psicologia sia riducibile alle neuroscienze. Le neuroscienze tendono a studiare il sistema nervoso dal livello neuronale in giù, invece la psicologia lo studia dal neurone in su, interpretando il comportamento e la vita mentale come proprietà globali, di un sistema complesso come quello nervoso. Trattandosi di un sistema complesso, si tratta di un sistema le cui proprietà globali sono determinate dalle molte interazioni locali tra i suoi elementi, i neuroni. Anche conoscendo alla perfezione gli elementi e le loro interazioni locali, queste proprietà globali non sono né deducibili e né predicibili. Inoltre, il connessionismo propone di superare i modelli mentalistici del cognitivismo, e di interpretare direttamente i dati empirici del comportamento, e anche quelli della vita soggettiva interiore, per mezzo di modelli ispirati alla struttura fisica e al funzionamento del sistema nervoso. Quindi la scienza cognitiva neurale completa la rivoluzione scientifica nello studio del comportamento, facendo rientrare questo studio nell ambito delle scienze naturali, sia dal punto di vista dei metodi che dei concetti. 7 Nella seconda metà del novecento, il cognitivismo aveva discreditato ed escluso dalla comunità scientifica internazionale le scuole psicologiche che avevano 6 Ivi. 7 Ibid. 13

14 dominato in Europa nella prima metà del novecento: gestaltisti, Piaget, Freud, Vygotsky. La scienza cognitiva neurale, invece, ripropone molti aspetti interessanti e importanti di queste scuole: la mente come sistema dinamico, nel senso della fisica, che caratterizza la psicologia della Gestalt, in quanto le reti neurali sono sistemi dinamici; l epistemologia di Piaget: è possibile capire qualcosa solo se ne ricostruiamo la genesi, e in questo modo nelle simulazioni della Vita Artificiale, tutto emerge per evoluzione, sviluppo e apprendimento; la psicoanalisi con il primato del dinamico, nel senso delle motivazioni, sul cognitivo, considerando quindi l ipotesi che la mente esiste indipendentemente e prima del linguaggio e dei simboli. Inoltre, con le simulazioni che hanno sempre come sfondo popolazioni di organismi che evolvono biologicamente, la Vita Artificiale, vede nelle esigenze della sopravvivenza/riproduzione, e nelle motivazioni che ne risultano, la base del comportamento degli organismi, e concorda con Vygotsky sull importanza dell ambiente esterno nello spiegare la mente. La diversità della scienza cognitiva computazionale con quella neurale è rintracciabile anche nell ideologia sottostante ai due approcci. Nel primo caso è presente uno stretto legame con la modernità e con la razionalità; viene preferito e privilegiato l intelletto sulle emozioni e la mente sul corpo, con una concezione della realtà come un sistema semplice e una visione della scienza come capacità di prevedere e di controllare. Nel secondo caso, invece, sono presenti della caratteristiche opposte in termini di post modernismo: la razionalità è considerata come la punta dell iceberg degli esseri umani, e non viene riconosciuto alcun primato dell intelletto sulle emozioni e della mente sul corpo. La realtà è considerata, nel medesimo orientamento, un sistema complesso, e si riconoscono i limiti della capacità della scienza di prevedere e di controllare. Al livello internazionale, nel periodo di maggiore consenso alla scienza cognitiva computazionale, la ricerca era concentrata e aveva acquisito molto rapidamente interesse e prestigio nello studio del comportamento, perché era concomitante con le innovazioni tecnologiche del computer, da essa considerato come modello della mente, e inoltre per i tentativi precedenti, di mantenere la mente ben distinta dal cervello. La scienza cognitiva neurale sta facendo molta più fatica ad affermarsi, perché essa richiede che gli psicologi e gli altri studiosi del comportamento adottino un nuovo e poco famigliare metodo di ricerca, la simulazione al computer, e soprattutto perché fonde mente e cervello. 14

15 1.2 I modelli connessionistici Il contesto storico che ha permesso lo sviluppo dei modelli di tipo PDP. La psicologia cognitiva è nata tra il 1950 e il 1960, in seguito e in contrapposizione alla scuola di pensiero comportamentista. Il concetto chiave di questo nuovo approccio era quello di considerare ed enfatizzare i meccanismi interni, che caratterizzano le capacità cognitive degli esseri umani, e in particolare l utilizzo di modelli computazionali espliciti, per simulare per mezzo del computer gli aspetti che la caratterizzano, come per esempio la risoluzione dei problemi e il ragionamento matematico. Inizialmente, l idea dominante della scienza cognitiva era basata sulla analogia uomo computer: le capacità cognitive umane erano considerate simili se non del tutto uguali alle elaborazioni svolte dai computer. In questi sistemi di elaborazione, le operazioni di base erano caratterizzate dalla manipolazione di simboli, e le elaborazioni erano sequenziali e governate da regole, e organizzavano il tipo di elaborazione da svolgere. In questo contesto, i sistemi di produzione diventavano la cornice di lavoro dominante dei modelli cognitivi. I sistemi di produzione, erano delle elaborazioni caratterizzate da espressioni del tipo se.. allora, attivate quando la condizione se veniva soddisfatta e conseguentemente a questa attivazione, venivano attivate ulteriori elaborazioni sottostanti, che caratterizzavano delle sottosequenze di produzione alla produzione principale. Queste produzioni gestiscono e controllano il flusso sequenziale di elaborazione. 8 Nello stesso periodo in cui era dominante l approccio teorico della analogia uomo computer, era presente anche un considerevole interessamento per l elaborazione in termini di funzionamento neuronale, in particolare con le seguenti trattazioni: a) McCulloch e Pitts, modelli di elaborazione neuronale in termini di operazioni logiche di base 9 ; b) la teoria di Hebb, l apprendimento Hebbiano e le assemblee cellulari: le connessioni tra i neuroni vengono mantenute dall attivazione 8 Randall C.O Reilly e Yuko Munakata, (2000). Computational Explorations in Cognitive Neuroscience, A Bredford Book, Cambridge, MA: MIT Press, p McCulloch, W. S., & Pitts, W. (1943). A logical calculus of the ideas immanent in nervous activity. Bullettin of Mathematical Biophysics, 5,

16 sincronizzata dei neuroni, e le cellule che scaricano contemporaneamente si possono considerare connesse tra loro 10 ; c) le ricerche di Rosenblatt, sugli algoritmi di apprendimento per mezzo di percettroni, utilizzando i segnali di errore 11. «Questi approcci computazionali contribuirono allo sviluppo del settore della neurobiologia, e in particolare l idea che il neurone possa essere considerato come un unità di elaborazione di informazioni; inoltre queste teorizzazioni, fornirono le basi dei principi di comunicazione e di elaborazione neuronale (potenziali di azione, sinapsi, neurotrasmettitori, canali ionici, ecc.)». 12 Il periodo che vede predominante l analogia del computer, si conclude con la pubblicazione del libro Percettroni di Minsky e Papert, nel 1969, 13 in cui veniva sostenuto e dimostrato che questi tipi di modelli neuronali, avevano delle limitazioni computazionali significative, ossia non riuscivano ad apprendere le tecniche di risoluzione di molte classi di problemi. Nel frattempo, erano ancora pochi i gruppi di ricerca che nel 70 studiavano questi tipi di modelli di reti neurali, finché nell 80 alcune innovazioni di tipo psicologico 14 e computazionale 15, produssero un ritrovato interessamento delle reti neurali, in particolare per quanto riguarda le caratteristiche di dinamicità delle attivazioni. Rumelhart, Hinton, e Williams riscoprono l algoritmo di apprendimento backpropagation 16, ( riscoprono perché era stato precedentemente scoperto da Bryson & Ho, 1969; Werbos, 1974; Parker, nel ). Successivamente, Rumelhart e McClelland et al., nel 1986, con la pubblicazione del libro L elaborazione distribuita in parallelo, 18 PDP, fornirono alle modellizzazioni neurali delle basi solide su cui appoggiarsi. L algoritmo backpropagation risolveva le limitazioni dei modelli precedenti, fornendo alle reti neurali la capacità di apprendere qualsiasi tipo di funzione. Un ulteriore importante aspetto descritto e 10 Hebb, D.O. (1949). The Organization of behavior. New York: Wiley. 11 Rosenblatt, F. (1958). The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 65, Randall C.O Reilly e Yuko Munakata, (2000). Op. cit., p Minsky, M. L., & Papert, S. A. (1969). Perceptrons. Cambridge, MA: MIT Press. 14 McClelland, J. L., & Rumelhart, D. E. (1981). An interactive activation model of context effects in letter perception: Part 1. An account of basic findings. Psychological Review, 88(5), Hopfield, J. J. (1984). Neurons with graded response have collective computational properties like those of two state neurons. Proceedings of the National Academy of Sciences, 81, Rumelhart, D.E., Hinton, G. E., & Williams, R. J. (1986b). Learning representations by back propagating errors. Nature, 323, Bryson, A. E., & Ho, Y. C. (1969). Applied optimal control. New York: Blaisdel. 18 McClelland, J. L., & Rumelhart, D. E. (1986). A distributed model of human learning and memory. In J. L. McClelland, D. E. Rumelhart, & PDP Research Group (Eds.), Parallel distributed processing. Volume 2: Psychological and biological models. Cambridge, MA: MIT Press, pp

17 sostenuto nei libri orientati all approccio di tipo PDP è quello di riconoscere l importanza delle rappresentazioni distribuite 19, perché questo tipo di rappresentazioni ha un consistente numero di vantaggi computazionali enorme rispetto alle rappresentazioni locali e simboliche. Con la teorizzazione della backpropagation sono state ipotizzate svariate modellizzazioni cognitive, raccolte e sostenute dal nuovo approccio teorico del connessionismo. Sebbene «il backpropagation sembrava rappresentare un passo in avanti, per molti sembrava essere un passo indietro perché non era chiaro come questa logica poteva essere implementata dai meccanismi biologici.» 20 Quindi queste modellizzazioni cognitive neurali, basate sulla logica del backpropagation, senza avere delle chiare basi biologiche, hanno stimolato la motivazione di molti ricercatori dell approccio computazionale a continuare a sostenere l analogia del computer, giustificando allo stesso modo le limitazioni e le incoerenze che caratterizzano questo tipo di approccio. Con l influenza dei modelli della rete neurale, per comprendere le capacità cognitive degli esseri umani, stava crescendo l interessamento da parte dei ricercatori di modellizzare direttamente la realtà biologica. Per proseguire con questa discussione è necessario identificare e definire alcune categorie di aspetti che hanno caratterizzato questo tipo di ricerche. Innanzitutto, è possibile fare una distinzione tra quei modelli biologici che enfatizzano l apprendimento, e quelli invece che non lo considerano affatto. I modelli che ignorano il concetto di apprendimento sono dei modelli biofisici che considerano i singoli neuroni approcci teorici informazionali, per rappresentare l elaborazione nei neuroni e nella rete neurale e ridefiniscono ed estendono il modello originale di Hopfield. Con questi tipi di modelli, la direzione intrapresa è quella di allontanarsi, erroneamente, dagli argomenti che riguardano le capacità cognitive umane. I modelli biologici che enfatizzano l apprendimento, invece, considerano l apprendimento precedente e più importante dei sistemi cognitivi, con un particolare accento sull apprendimento di tipo Hebbiano. Infatti, una grande 19 Hinton, G. E., McClelland, J. L., & Rumelhart, D. E. (1986). Distributed representation. In D. E. Rumelhart, J. L. McClelland, & PDP Research Group (Eds.), Parallel distributed processing. Volume 1: Foundations. Cambridge, MA: MIT Press, Chap. 3, pp Crick, F. H. C. (1989). The recent excitement about neural network. Nature, 337, Vedi anche: Zipser, D., & Andersen, R. A. (1988). A backpropagation programmed network that simulates response properties of a subset of posterior parietal neurons. Nature, 331,

18 quantità di ricerche di stampo neuroscientifico, sostengono l idea che la legge di Hebbian tra i neuroni, considerata come meccanismo, sia presente nelle più importanti aree cognitive del cervello. Tuttavia l apprendimento Hebbiano a livello computazionale risulta essere caratterizzato da grosse limitazioni: per esempio, non è stato molto utilizzato nella logica backpropagation per le modellizzazioni cognitive, perché in generale non riesce ad apprendere lo svolgimento di molti tipi di compiti. In aggiunta alle ricerche connessioniste e alle ricerche di tipo biologico delle reti neurali è possibile evidenziare che le basi matematiche in questo tipo di ricerche, possono essere considerate in termini statistici, ossia implementare alcune inferenze statistiche per sviluppare nuovi algoritmi di apprendimento 21. Quindi, riassumendo quanto detto precedentemente, con la prospettiva delle neuroscienze cognitive computazionali l interesse è stato quello di comprendere il funzionamento delle capacità cognitive umane, per mezzo di una modellizzazione di tipo psicologico, cognitivo e computazionale, senza occuparsi troppo delle sottostanti componenti neurobiologiche; le modellizzazioni biologiche sono orientate alla costruzione di meccanismi di apprendimento computazionale, considerando poco l aspetto cognitivo. Inoltre, questo tipo di approccio è interessato a sviluppare teorie dell apprendimento caratterizzate da livelli di analisi computazionale di tipo statistico, senza avere troppo a che fare con il cognitivo e con la biologia. Concludendo, a livello internazionale, i ricercatori di questi diversi approcci sono consapevoli del fatto che per lo studio delle capacità cognitive umane è necessario consolidare e integrare questi principi di tipo biologico e computazionale. 21 Randall C.O Reilly e Yuko Munakata, (2000). Op. e pp. cit. 18

19 1.2.2 I modelli connessionistici di tipo PDP. L entusiasmo iniziale per le rete neurali, viene di solito attribuito alla pubblicazione, nel 1986, di un opera in due volumi: L elaborazione distribuita in parallelo: Studio delle mictrostrutture della cognizione. 22 Il successo di queste nuove teorie e metodi di ricerca, è stato anche dovuto alla diffusione delle tecnologie di tipo computazionale, che hanno permesso alla modellizzazione in generale, di raggiungere validità e credibilità nel severo e complesso settore della ricerca psicologica. Sebbene ci siano stati forti oppositori, a sfavore dell applicazione nella psicologia di approcci di tipo PDP, 23 il concetto di elaborazione distribuita in parallelo in particolare, e il connessionismo in generale, sono riusciti ad affermarsi e a contribuire nella ricerca psicologica, con validi strumenti metodologici, alternativi ai classici strumenti utilizzati sinora per lo studio dei processi cognitivi normali e patologici. La modellizzazione di tipo PDP, è stata spesso considerata come una modellizzazione di semplici unità che riescono a trasportare in uscita una elaborazione, in un modo simile al funzionamento del cervello. «Questo approccio è fortemente criticato dal fatto che spesso la modellizzazione, non riesce a considerare molti aspetti biologici del cervello, perché caratterizzato da una plausibilità biologica insufficiente». 24 Quindi, una delle critiche principali indirizzate a quei ricercatori che desiderano modellizzare i processi cognitivi per mezzo di questo tipo approccio, è quella di non fare spesso riferimento ai sottostrati biologici che la caratterizzano. Appare così necessario riempire queste insufficienze di plausibilità biologica, includendo ulteriori livelli biologici, che considerano maggiormente il reale funzionamento neuronale del cervello. I vari livelli di aspetti biologici che riesce a includere una modellizzazione sono strettamente connessi alla natura della rappresentazione dei processi cognitivi. I tipi di rappresentazione principali che sono stati discussi maggiormente durante gli anni sono quelli di tipo simbolico e subsimbolico. Il primo riconosce la modellizzazione connessionista, ma preferisce il modello di tipo localizzazionista. In contrapposizione, il secondo 22 Rumelhart, D. E. McClelland, J. L., & the PDP Research Group. (1986). Parallel Distributed Processing: Explorations in the microstructure of cognition, Cambridge, MA: The MIT Press. 23 Cf. Crick, F. (1989). Op. e pp. cit. 24 Crick, F. & Asanuma, C. (1986). Certain Aspects of the Anatomy and Physiology of the Cerebral Cortex. In D. E. Rumelhart, J. L. McClelland, & the PDP Research Group, op. cit., Vol. 2,pp

20 sostiene le rappresentazioni di tipo subsimbolico, che utilizzano modelli caratterizzati da rappresentazioni distribuite, e ipotizza che i vari livelli psicologici sono prodotti e possono essere spiegati per mezzo dei meccanismi biologici sottostanti. Questo secondo tipo di rappresentazione caratterizza le modellizzazioni di tipo PDP. Quindi, l idea alla base di questo approccio è che la specie umana è in grado di elaborare efficientemente l informazione, grazie alla capacità di svolgere contemporaneamente un numero elevato di operazioni cognitive, per mezzo di una rete distribuita, di incalcolabile dimensione, di processi neuronali localizzati nel cervello. Secondo i modelli PDP, la distribuzione dei processi in parallelo, riesce a spiegare nel modo migliore la velocità e la precisione dell elaborazione umana dell informazione. Uno dei principi di questa modellizzazioni è che nella struttura mentale degli individui, avvengano delle elaborazioni di processi in parallelo, per mezzo di strutture neurali complesse. Quindi nelle reti connessioniste (reti neurali), tutte le forme di conoscenza sono rappresentate all interno della struttura neurale. Le assunzioni principali dei modelli connessionistici sostengono che l elemento di base è rappresentato dal nodo, ciascuno connesso a molti altri nodi; le svariate configurazioni o patterns che emergono da queste interconnessioni di nodi, permettono all individuo di organizzare in modo significativo la conoscenza. «Nel modello PDP proposto da James McClelland e David Rumelhart, la rete comprende unità simili ai neuroni, che non rappresentano di per sé concetti, proposizioni o altri tipi di informazione. L idea fondamentale è che la conoscenza è rappresentata da configurazioni di connessioni, e non da specifiche unità [ ]. Il modello PDP [ ] è un modello ispirato al cervello, e si differenzia considerevolmente da un modello ispirato al computer: i differenti processi cognitivi sono espressione di differenti configurazioni di attivazione [ ]. In modo simile al funzionamento neuronale del cervello, nel modello PDP le singole unità possono essere inattive oppure possono inviare segnali, eccitatori o inibitori ad altre unità [ ]: il modello utilizza i processi fisiologici del cervello come una metafora per comprendere la cognizione. Secondo il modello, le connessioni fra le unità possono essere caratterizzate da un grado variabile di eccitazione o di inibizione potenziali, anche quando le connessioni sono in stato inattivo. Più una particolare connessione è attivata di frequente, maggiore sarà la forza della connessione, indipendentemente dal fatto che essa sia di natura eccitatoria o inibitoria [ ].» 20

21 Per quanto riguarda la rappresentazione della conoscenza, il modello ipotizza che «non è in realtà un prodotto finale, ma piuttosto un processo o persino un processo potenziale [ ]»: l immagazzinamento «non è considerato come una particolare configurazione di connessioni, ma piuttosto una configurazione di pesi delle connessioni eccitatorie o inibitorie, che la mente, (cervello), utilizza per ricreare determinate configurazioni quando viene stimolata a farlo [ ]. Inoltre, secondo il modello PDP, le menti umane sono flessibili e non richiedono che tutti gli aspetti di una configurazione in input, corrispondano con precisione ad un certo pattern per poterlo attivare [ ]. Questa flessibilità cognitiva permette agli esseri umani di aumentare considerevolmente la capacità di apprendere nuove informazione» Il perché dell utilizzo dei modelli connessionistici. Vi sono ancora molte dispute nel mondo scientifico, per quanto riguarda l utilizzo nella psicologia di modelli connessionistici. E evidente comunque che la modellizzazione computazionale in generale, e la modellizzazione connessionista in particolare, sia un potenziale e innovativo strumento, per contribuire alla spiegazione del funzionamento dei fenomeni cognitivi complessi della specie umana. Nella seguente trattazione, saranno esposte le ragioni e i vantaggi dell utilizzo dei modelli computazionali. Una delle prime ragioni è riconducibile al problema dell elaborazione, perché un modello deve essere in grado di fornire una descrizione completa e sistematica, di come sono state ottenute in risposta alcune particolari configurazioni di risultati. Essere in grado di fornire queste descrizioni significa rivelare l esatta natura del problema che deve essere risolta dal processo. Quindi, la caratteristica di una completa specificazione del problema è fondamentale per la modellizzazione, ed è uno degli aspetti principali dei modelli connessionistici. Il secondo vantaggio è quello di valutare direttamente la validità di una teoria, e di riuscire ad evidenziare e a descrivere esplicitamente tutti gli aspetti che caratterizzano una struttura sperimentale. Questa caratteristica è una proprietà intrinseca di questo tipo di modellizzazioni, perché sono caratterizzate da una forma 25 Robert J. Sternberg. (2000). L elaborazione in parallelo: il modello connessionista. Psicologia Cognitiva, trad. da Cognitive Psychology (1996). Rinehart & Winston. Piccin. Nuova Libraria s.p.a. Padova, pp

22 matematica di tipo esplicito, che fornisce risultati quantitativi e obbliga i ricercatori a considerare tutti gli aspetti che articolano una proposta teorica di riferimento 26. Il terzo vantaggio riguarda il tipo di spiegazione che riesce a fornire questo tipo di approccio. Questi modelli sono in grado di confrontarsi direttamente con i risultati empirici riscontrati nella realtà, permettendo ai ricercatori di avere una maggiore comprensione dei processi coinvolti, così come di comprendere maggiormente i comportamenti esibiti dai soggetti sperimentali. Quindi, l utilizzo di questo tipo di modelli permette di produrre nuove ipotesi computazionali sulle funzioni cognitive e sui sistemi neurali coinvolti 27. Queste ipotesi possono essere considerate come parte di un ciclo di un processo di costruzione e valutazione di una teoria. Le ipotesi computazionali sono inoltre necessarie per dare un senso e una struttura logica alla grande quantità di dati neurobiologici e cognitivi riscontrati nella realtà. Infine, la quarta ragione che giustifica l impiego dei modelli connessionistici è quella di utilizzare le potenzialità che caratterizzano una metafora, per considerare e studiare i problemi di ordine cognitivo. Le metafore computazionali possono essere considerate come parte del contesto della scoperta che ha caratterizzato le modellizzazioni connessioniste Il software per la simulazione dei modelli connessionistici di tipo PDP Introduzione al software PDP++. Con la crescente complessità delle modellizzazioni connessioniste è stato necessario progettare un ambiente interattivo di simulazione, per sviluppare e valutare i vari modelli connessionistici. L obiettivo principale raggiunto dai ricercatori che hanno sviluppato il software PDP++ è stato quello di integrare le potenzialità di modellizzazione offerte dal software, con un interfaccia facile e comprensibile per l utente. L interfaccia grafica del software permette di accedere facilmente alla 26 Di Paolo, E. A., Noble, J., & Bullock, S. (2000). Simulation model as opaque thought experiments, Artificial Life Vii. Cambridge, MA: MIT Press, pp Cleeremans, A., & French, R. M. (1996). From chicken squawking to cognition: Levels of description and the computational approach of psychology. Psychologica Belgica, 36(1 2), pp Vallacher, R. R., & Nowak, A. (1997). The emergence of dynamical social psychology. Psychological Inquiry, 8(2), pp

23 struttura di dati e ai moduli di elaborazione che caratterizzano la simulazione. Inoltre, i ricercatori hanno sviluppato moduli grafici, per facilitare l interazione con la struttura e con i contenuti delle reti neurali. Il software PDP++ è stato sviluppato sulla base dei principi della logica orientata agli oggetti, in cui ogni cosa nel software è un oggetto: le unità, le connessioni, gli strati della rete neurale, la rete neurale stessa, ecc.; quindi, il software PDP++ è una grande collezione di oggetti, che lavorano insieme per elaborare delle informazioni e produrre dei risultati. Il vantaggio principale di una logica orientata agli oggetti è il livello di flessibilità raggiungibile. L alto livello di flessibilità è reso possibile grazie alla semplicità della logica sottostante: ogni operazione svolta dal software viene eseguita per mezzo dell interazione di molteplici oggetti che costituiscono il software stesso. Quindi, per implementare nella simulazione una procedura di svolgimento di un compito è necessario sapere quali oggetti devono essere usati e come devono essere configurati 29. Per concludere, PDP++ nasce dall esperienza di esperti nell ambito delle neuroscienze. Si tratta di un architettura specializzata e include librerie software per la gestione delle entità e dei processi coinvolti in una rete neurale, ed inoltre è dotato di un ambiente di scripting simile a MatLab. Il codice è aperto, scritto interamente in C++, consentendo così l estendibilità. In realtà il PDP++ è pensato più per un utente finale che non per colui che ne dovesse sviluppare gli ambiti d applicazione. Consente l automazione dei processi e varie applicazioni di supporto per l analisi e la visualizzazione dei dati. Lo sforzo fatto in questa direzione è andato tuttavia a discapito della indipendenza dei moduli di base, risultando ciò in una architettura non perfettamente stratificata. La complessità è inoltre aumentata dallo sforzo compiuto nel tentativo di realizzare un interfaccia grafica, i cui oggetti sono, per ragioni di efficienza, strettamente legati alle entità coinvolte nella simulazione. Tale struttura offre un notevole aiuto all utente finale. 29 Chadley K. Dawson, Randall C.O Reilly, and James L. McClelland. (2003). Introduction to the PDP++ Software. The PDP++ Software Users Manual, Carnagie Mellon University, p

24 1.3.2 Breve descrizione del funzionamento del software PDP++. Le componenti principali che caratterizzano il software PDP++ per la simulazione di una rete neurale sono: la rete neurale stessa, caratterizzata da strati, unità, connessioni, ecc.; l Environment, una sezione dedicata alla fase di apprendimento e di valutazione delle performance della rete; il Processing, per l elaborazione dei processi di apprendimento e di valutazione delle performance della rete; il Logging, per la registrazione dei risultati dell apprendimento e della valutazione delle performance riscontrate durante lo svolgimento di un compito. Inoltre l utente può impostare diverse modalità di visualizzazione dei risultati: in grafici, tabelle di numeri o in griglie colorate, che rappresentano i valori riportati graficamente nella sezione relativa alla visualizzazione della rete neurale. Come è stato discusso precedentemente, tutti gli elementi del software sono degli oggetti, quindi la rete neurale è un insieme di oggetti che rappresentano gli strati, le unità e le connessioni della rete. Inoltre, vi è un ulteriore tipo di oggetto che rappresenta la configurazione delle connessioni tra le unità dei diversi strati della rete. Il pattern di connessioni tra i diversi strati della rete, è identificato con il nome di Projection. Questo tipo di oggetto, è necessario per interfacciare l utente con le connessioni della rete neurale, a un livello generico ed esplicito. La fase di apprendimento e di valutazione dei dati è stata implementata nell oggetto Environment, ambiente. Il nome dell oggetto ambiente, fa riferimento all idea che sia possibile considerare una rete neurale come un organismo, che esiste e interagisce con un particolare ambiente circostante. L oggetto ambiente descrive un piccolo mondo che gira intorno alla rete neurale. L ambiente è caratterizzato da eventi, Events, che rappresentano una collezione di stimoli o patterns; per esempio in una rete backpropagation, un evento consiste in un pattern di ingresso e un pattern che rappresenta l obiettivo che deve essere raggiunto dalla rete nella fase di apprendimento, per il corretto svolgimento di un compito. I patterns contengono una lista di valori che vengono impostati nelle unità di uno specifico strato della rete. La seconda componente di fondamentale importanza per la flessibilità che caratterizza il simulatore è costituita da una classe di oggetti, in grado di organizzare e gestire la struttura di un compito nella fase di apprendimento e di valutazione delle performance della rete neurale. 24