NOTE SUL CORSO UN INTRODUZIONE DI MOLTE PAROLE DALLA LINGU(ISTIC)A ALLA COMPUTAZIONE LINGUISTICA DI COSA PARLEREMO OGGI

Transcript

1 NOTE SUL CORSO UN INTRODUZIONE DI MOLTE PAROLE DALLA LINGU(ISTIC)A ALLA COMPUTAZIONE LINGUISTICA MACCHINE PARLANTI A.A. 2018/19 Cristiano Chesi (NETS, IUSS Center for Neurocognition, Epistemology and theoretical Syntax) Non un corso universitario: Temi di ricerca «avanzata» Approccio «investigativo» a lingua... e computazione linguistica Temi caldi: Come si caratterizza una lingua (livelli descrittivi, tipologia e struttura) Approcci quantitativi (corpus linguistics) Come [si / un computer] capisce e parla una lingua Valutazione: Partecipazione in classe (20% voto finale) Discussione di un (potenziale) progetto di «macchina parlante» (40% voto finale) Colloquio individuale sui temi del corso (40% voto finale) RIFERIMENTI BIBLIOGRAFICI ESSENZIALI DI COSA PARLEREMO OGGI Lenci, Montemagni & Pirrelli (2005) Testo e Computer: Elementi di Linguistica Computazionale. Carocci Lazzari, Bianchi, Cadei, Chesi & Maffei (2010) Informatica umanistica. McGraw-Hill (Cap. 4) Oniga & Giusti (2011) Formal Linguistics and the Teaching of Latin: Theoretical and Applied Perspectives in Comparative Grammar. Cambridge Scholar Publishing. (Cap. 1) Schreibman, Siemens & Unsworth (2004) A Companion to Digital Humanities, ed.. Oxford: Blackwell Hutchins & Somers (1992) An introduction to machine translation. Introduzione all Intelligenza Artificiale L arte della simulazione L importanza del linguaggio nell AI La prima «macchina parlante» Eliza e il test di Turing Espressioni Regolari e l operazione di sostituzione

2 THE IMITATION GAME AN ARTIFICIAL INTELLIGENCE STORY HI, MY NAME IS ELIZA LA GUERRA, IL DOPOGUERRA E LA TEORIA MATEMATICA DELLA COMUNICAZIONE Eliza, un programma del 1966 scritto da Joseph Weizenbaum. Il programma simula il comportamento di uno psicoterapeuta Rogeriano che intraprende una conversazione con un paziente: paziente: eliza: paziente: eliza: paziente: eliza: paziente: eliza: gli uomini sono tutti uguali in che senso? ci fregano sempre in qualche modo puoi fare un esempio specifico? un mio amico mi ha fatto venire qui un tuo amico ti ha fatto venire qui dice che sono quasi sempre depressa mi dispiace sentire che sei depressa Claude Shannon, John McCarthy, Ed Fredkin, Joe Weizenbaum (Aprile 1968)

3 FERDINAND DE SAUSSURE : ARBITRARIETÀ E SISTEMATICITÀ DELLA LINGUA UMANA FERDINAND DE SAUSSURE : ARBITRARIETÀ E SISTEMATICITÀ DELLA LINGUA UMANA Cours de Linguistique Générale ed. C. Bally and A. Sechehaye, with the collaboration of A. Riedlinger, Lausanne and Paris: Payot. Arbitrarietà del segno linguistico Faculté du langage: Langue Vs. Parole Langue lingua, rappresentazione mentale, intesa come convenzione sociale Parole atto linguistico di un singolo parlante Faculté du langage la langue demeure comme l'outil necessaire à la faculté du langage CHARLES DARWIN: L ISTINTO LINGUISTICO NOAM CHOMSKY: LA «RIVOLUZIONE COGNITIVA» The Descent of Man Pag It [language] certainly is not a true instinct, for every language has to be learned. It differs, however, widely from all ordinary arts, for man has an instinctive tendency to speak, as we see in the babble of our young children; while no child has an instinctive tendency to brew, bake, or write. [ ] [Language is] an instinctive tendency to acquire an art Syntactic structures Review of Verbal Behavior, by B.F. Skinner Lectures on government and binding: The Pisa lectures The Minimalist Program

4 NOAM CHOMSKY: LA «RIVOLUZIONE COGNITIVA» NOAM CHOMSKY: LA SISTEMATICITÀ DELLE RELAZIONI STRUTTURALI Any scientific theory is based on a finite number of observations, and it seeks to relate the observed phenomena and to predict new phenomena by constructing general laws in terms of hypothetical constructs such as (in physics, for example) mass and electron. Similarly, a grammar of English is based on a finite corpus of utterances (observations), and it will contain certain grammatical rules (laws) stated in terms of the particular phonemes, phrases, etc., of English (hypothetical constructs). The rules express structural relations among the sentences of the corpus and the indefinite number of sentences generated by the grammar beyond the corpus (predictions). Chomsky (1957:49) I-language = Lingua interna(lizzata), competence, insieme di regole/principi mentali astratti che permettono di descrivere la costruzione/ riconoscimento di frasi ben formate E-language = Lingua esterna(lizzata), performance, reali produzioni dei parlanti frutto (anche) di convenzioni e limitazioni fisiche Interfaccia fonoarticolatoria lessico SINTASSI Interfaccia semanticoconcettuale OGGETTO DI STUDIO DELLA LINGUISTICA (FORMALE) LA NECESSITÀ DI MECCANISMO RICORSIVO Come si genera (e, potenzialmente, riconosce) un insieme infinito di espressioni ben formate partendo da un insieme finito di elementi Insieme infinito (le frasi grammaticali): Gianni mangia una mela *mela Gianni mangia una idee verdi senza colore dormono furiosamente cosa mangia Gianni? Gianni mangia una mela che sua sorella ha comprato al mercato dove ha incontrato Laura che Insieme finito (lessico/tratti + regole di combinazione) Es. A = la, B = casa, C = [A, B] Es. [ C [ A la], [ B casa] ], *[ C [ B casa], [ A la] ] Aritmetica di Peano e il passo induttivo (i.e. ricorsivo): 0 (0 è il primo numero naturale, l insieme vuoto) 1 (l unità è un numero naturale) n : n, n+1 (ogni numero a cui si aggiunge 1 è un numero naturale) L operazione di concatenazione {w 1,w 2 w n } V(ocabolario) w i : w i V, w i L(ingua) x, y : x, y L, <xy> L

5 LA RICORSIVITÀ NELLA LINGUE LA NECESSITÀ DI UN MECCANISMO INTERPRETATIVO Relativizzazione Hai letto [il libro [che è stato scritto [dal signore [che ha frequentato [la scuola estiva [che è stata finanziata [dal gruppo [che ]]]]]]]] Coordinazione Ho invitato alla festa Gianni, Mario, Susanna, Roberta Specificazione Il figlio [del dottore [della moglie [di un avvocato [di ]]]] Complementazione Non penso [che Gianni abbia sostenuto [che sua moglie pensi [che tutti credano [che ]]]] Gianni ha lasciato Maria Maria ha lasciato Gianni Il ragazzo ha lasciato Maria Il ragazzo che è uscito con Luisa ha lasciato Maria Il ragazzo che è uscito con Luisa ha lasciato Maria ieri sera LA NECESSITÀ DI MECCANISMO INTERPRETATIVO COMPOSIZIONALE DOMANDE LEGITTIME Aldo dorme [[Aldo]] = A. (λx. dorme(x)) (Aldo) Aldo è professore (λx. professore(x)) (Aldo) Aldo non è professore Ogni professore è disponibile Qualche professore è disponibile Nessun professore è disponibile Come si può descrivere esplicitamente la conoscenza della lingua? (Competence) Come si spiegano gli errori e le difficoltà che i parlanti incontrano nel produrre atti linguistici? (Performance) Come si rende conto della possibilità di acquisire una lingua? (Language Acquisition Device) Come è rappresentata fisicamente nel cervello la competenza linguistica? (Bio/Neuro-linguistics) Come si è evoluta la facoltà di linguaggio nella storia biologica della nostra specie? (Language Evolution) Come si può implementare computazionalmente la competenza linguistica (Computational Linguistics)

6 DOMANDE «ILLEGITTIME»? FONTI DI DATI EMPIRICI Oralità e struttura linguistica in che rapporto stanno? Esistono lingue più semplici o più complesse? Perché le lingue si estinguono? Come si può decifrare una lingua sconosciuta? La si può «riascoltare»? Quale lingua potrebbero parlare gli alieni? Perché un bambino apprende il linguaggio e un gatto no? E un computer? Corpora di produzioni spontanee (scritti, di produzioni spontanee... L1, L2, patologici ) Giudizi di grammaticalità (diretti: intuizioni dei parlanti nativi; indirette: evidenze scritte) Esperimenti psicolinguistici (e.g. esperimenti di comprensione/produzione controllati) Studio delle patologie (e.g. SLI, afasici, sordi ) Tecniche di neuroimmagine (risonanza magnetica, PET, potenziali evento-correlati.) LIVELLI DI ADEGUATEZZA DI UNA TEORIA (GRAMMATICALE) TEORIE DELLA PERCEZIONE Adeguatezza: una teoria (grammaticale) deve fornire una descrizione adeguata rispetto alla realtà empirica (espressioni linguistiche) che tenta di rappresentare. In particolare si può parlare di adeguatezza a tre livelli: osservativa: la realtà empirica (lingua) definita dalla teoria (grammatica) coincide con quella che si intende descrivere descrittiva: l analisi (grammaticale) proposta è in linea con le intuizioni (linguistiche) dei soggetti che producono la realtà empirica (frasi), fornendo descrizioni strutturali adeguate delle espressioni producibili e accettabili esplicativa: i dispositivi generativi utilizzati soddisfano criteri di plausibilità (e.g. psicolinguistica) e riproducono realmente i meccanismi operanti nei reali processi di produzione. Una teoria si dice esplicativa quando rende conto anche dell apprendibilità dei dati generabili (i.e. apprendibilità della lingua). Muensterberg figure (

7 TEORIE DELLA PERCEZIONE TEORIE DELLA PERCEZIONE Adelson figure ( Adelson figure ( APPROCCIO «STRUTTURALE» ALLA VISIONE APPROCCIO «STRUTTURALE» ALLA VISIONE a. b. c.* d.* e.* face Il bambino Il bambino *Bambino il *I bambino *Il bambino chiude la porta apre la porta porta chiude la chiudono le porta chiude eyes nose cheekbones pupils

8 GRAMMATICALE NON SIGNIFICA «SEMANTICAMENTE CONSISTENTE» idee verdi senza colore dormono furiosamente (Chomsky 1957) GRAMMATICALE NON SIGNIFICA «STATISTICAMENTE FREQUENTE» I camaleonti si nascondono dietro al muro Il gulco gianigeva le brale (A. Moro et al, 2001) *Gulco il le gianigeva brale Il Lonfo (Fosco Maraini) Il Lonfo non vaterca né gluisce / e molto raramente barigatta, ma quando soffia il bego a bisce bisce / sdilenca un poco e gnagio s'archipatta. E' frusco il Lonfo! E' pieno di lupigna /arrafferia malversa e sofolenta! Se cionfi ti sbiduglia e ti arrupigna / se lugri ti botalla e ti criventa. Eppure il vecchio Lonfo ammargelluto / che bete e zugghia e fonca nei trombazzi / fa lègica busìa, fa gisbuto; /e quasi quasi in segno di sberdazzi gli affarferesti un gniffo. Ma lui zuto / t' alloppa, ti sbernecchia; e tu l'accazzi. I camaleonti [che i gatti rincorrono,] si nascondono dietro al muro *Il camaleonte [che i gatti rincorrono,] si nascondono *Il camaleonte [che mio padre ha visto in giardino dove mio nonno aveva seminato la lattuga che aveva portato mia sorella ], si nascondono A noi gli aerei non piacciono affatto A lui gli piace il pesce *A noi gli piace il pesce LA NECESSITÀ DI UNA RAPPRESENTAZIONE GERARCHICA Ambiguità ho visto la nave con il cannocchiale Equivalenze interpretative 1) Gianni ha baciato Maria 2) Maria ha baciato Gianni (diverso significato!) 3) Maria è stata baciata da Gianni Restrizioni interpretative 1) Gianni i pensa che _ i arriverà domani 2) *_ i pensa che Gianni i arriverà domani 3) Gianni ha convinto Maria i che la i potremo aiutare a vincere 4) *Gianni la i ha convinta che potremmo aiutare Maria i a vincere 5) Quelli che la i conoscono, dicono che Maria i è molto intelligente LA NECESSITÀ DI UNA RAPPRESENTAZIONE GERARCHICA NP S VP NP Pro aux V Art N P Art N (io) ho visto la nave con il cannocchiale PP

9 LA NECESSITÀ DI UNA RAPPRESENTAZIONE GERARCHICA UN EQUIVALENTE RAPPRESENTAZIONE PER DIPENDENZE S VP NP NP PP Pro aux V Art N P Art N (io) ho visto la nave con il cannocchiale (io) ho visto la nave con il cannocchiale UN EQUIVALENTE RAPPRESENTAZIONE PER DIPENDENZE ALCUNE NOZIONI (FORMALI) DI BASE Insiemi definiti estensivamente (finiti): A = {a, b, c} Insiemi definiti induttivamente (infiniti): A = {x: x ha la proprietà p} Insiemi ordinati (n-uple): A = (a, b, c) Operazioni Unione: A B = {x: x A oppure x B} (io) ho visto la nave con il cannocchiale Concatenazione: A B = {xy: x A e y B} (Kleene) Star: A* = {x 1 x 2 x n : n 0 e ogni x i A}

10 LE ESPRESSIONI REGOLARI ESPRESSIONI REGOLARI ED ELIZA Le Espressioni Regolari sono notazioni algebriche per definire insiemi di stringhe di testo. Il cuore dell espressione regolare è il pattern di identificazione composto da caratteri alfanumerici (compresi segni di spaziatura e di interpunzione) e da segni speciali volti a stabilire le relazioni tra i caratteri del pattern. Espressione Regolare Corrispondenza Es. pattern identificato [Dd]uomo Duomo oppure duomo Il duomo è nella piazza [^a-z] tutto fuorché lettere minuscole Il duomo è... sali?ta salita oppure salta Marco deve saltare sal.ta accetta ogni carattere tra le i e la t Marco saluta bu* b seguito da un numero imprecisato (anche nullo) di u buuuuuu! oppure b! ^L Vs. a$ ^ = inizio stringa; $ = fine stringa La casa cas(a e) è equivalente alla disgiunzione logica Marco vive in un casale \* il backslash è il simbolo di escape A* Eliza, un programma del 1966 scritto da Joseph Weizenbaum. Eliza simula il comportamento di uno psicoterapeuta Rogeriano che intraprende una conversazione con un paziente: paziente: gli uomini sono tutti uguali eliza: in che senso paziente: ci fregano sempre in qualche modo eliza: puoi fare un esempio specifico paziente: un mio amico mi ha fatto venire qui eliza: un tuo amico ti ha fatto venire qui paziente: dice che sono quasi sempre depressa eliza: mi dispiace sentire che sei depressa paziente: è vero sono infelice eliza: credi che venire qui ti aiuterà a non essere infelice paziente: ho bisogno di aiuto, questo è sicuro eliza: cosa intendi come aiuto paziente: forse potrei riuscire ad andare d'accordo con mia madre eliza: parlami di tua madre ESPRESSIONI REGOLARI ED ELIZA ESPRESSIONI REGOLARI ED ELIZA Espressioni Regolari e l operazione di Sostituzione La sostituzione è un operazione che permette di sostituire l occorrenza di un espressione regolare con un altra espressione regolare e può essere definita come segue: s/espressione_regolare1/espressione_regolare2/ s/non è [a-z]*?[a-z]* interessante / è assolutamente interessante/ Registri: se si usano più blocchi di operatori (ogni parentesi tonda delimita un blocco), si può riutilizzare l espressione trovata da un determinato blocco nell espressione da sostituire, facendo riferimento all ordine dei blocchi nel pattern di ricerca: Operazioni di sostituzione in ELIZA: s/ sono [.* ](depress[o a] triste)/sono spiacente di sapere che sei \1/ s/ sono tutt[i e] (.*) /in che senso sono \1?/ s/ sempre / potresti far riferimento ad un esempio specifico? s/ il (libro gelato) è stato comprato da (Maria Gianni)/ \2 ha comprato il \1 / permette di costruire la forma attiva (Gianni ha comprato il libro) della frase passiva (il libro è stata comprata da Gianni).

11 PARRY: PEOPLE GET ON MY NERVES SOMETIMES PARRY TALKING WITH ELIZA Parry, fu scritto dallo psichiatra Kenneth Colby. Parry simulava il comportamento di un paziente schizofrenico paranoide. Viene definito come una "ELIZA with attitude". Parry è stato considerato umano nel 52% delle sue interazioni. ELIZA: Good Evening. ELIZA: Tell me your problems. Please terminate input with a period or a question mark. PARRY: People get on my nerves sometimes. ELIZA: I am not sure I understand you fully. PARRY: You should pay more attention. ELIZA: Suppose you should pay more attention. PARRY: You re entitled to your own opinion. ELIZA: What makes you think I am entitled to my own opinion? PARRY: It bothers me just to be around people in general. ELIZA: Please go on. PARRY: I went to the track at Bay Meadows a while back. ELIZA: What does that suggest to you? PARRY: I went to the races. ELIZA: What else would you like to discuss? PARRY: Horseracing interests me. ELIZA: Why do you say that just now? PARRY: There s a lot of crooked gambling going on there. ELIZA: I am not sure I understand you fully. PARRY: It s clear to me if not to you. ANCORA SUL TEST DI TURING E SULLO STATO DELL ARTE