Linguistica dei Corpora (2) Lezione 8: Principi di Apprendimento Automatico

Transcript

1 Linguistica dei Corpora (2) Lezione 8: Principi di Apprendimento Automatico Malvina Nissim 22 Aprile

2 Contesto set Context <size> within <size> ( give []* up within s;) expand <size> ( Clinton expand left to 2 s;) Alcuni esperimenti avere/essere <avverbio> participio passato avere/essere <avverbio-in-mente> participio passato cooccorrenza di due termini in una finestra specifica (es. riso e allegria ) Disambiguazione automatica Opzioni: creare un insieme di regole ad hoc e a priori che siano il più esaustive possibile creare un insieme di esempi sui quali imparare Esempio: cosa fare di fronte ad un semaforo regole: se la luce è rossa, allora fermarsi se la luce è verde, allora procedere comunque con attenzione se la luce è gialla, allora... esempi: collezione di casi di comportamento al semaforo casi caratterizzati da insieme di tratti e un risultato induzione e generalizzazione a partire dagli esempi 1 Apprendimento Automatico in Linguistica Computazionale Immaginiamo alcuni compiti individuare i diversi sensi/usi di alcune parole (riso, parco, spesso, titolo,... ) word sense disambiguation classificare alcuni documenti in chiave tematica (sport, cucina, news,... ) document/text classification assegnare a ciascuna parola una parte del discorso pos tagging Compiti non complessi e gestibili se i dati sono pochi! Ma i dati sono tantissimi! dobbiamo trovare un modo di alleggerire il compito manuale rendendolo (almeno parzialmente) automatico: insegnare ad un computer generalizzare partendo da un insieme di esempi

3 (Witten & Frank (2000). Data Mining) Quantità di dati e strutture all interno dei dati si trovano, non sempre esplicitamente espresse, strutture informative trovare tali strutture è un compito fondamentale (data mining) Albero di decisione appreso 2

4 Apprendimento da Wikipedia: L apprendimento è il processo di acquisizione di conoscenza, di una competenza o di una particolare capacità attraverso lo studio, l esperienza o l insegnamento. L apprendimento è un processo esperienza-dipendente ; [... ] Apprendere è adattarsi. da T. Mitchell (1997). Machine Learning [An agent] is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with E. Apprendimento da Esempi abbiamo a disposizione un insieme di esempi e vogliamo trovare uno schema di inferenza che ci permetta di modellare i nostri dati in modo predittivo: vogliamo generalizzare il nostro modello ha proprietà di generalizzazione se sa descrivere anche esempi nuovi che non appartengono allinsieme originale. Efficacia degli Esempi le capacità di generalizzazione dipendono fortemente dalla scelta degli esempi. supponiamo di voler progettare un sistema per l etichettatura automatica dei sensi di una parola la nostra collezione di esempi dai quali generalizzare sarà formata da un certo numero di esempi di usi di sensi differenti; questa collezione si chiama training set dobbiamo raccogliere abbastanza esempi per ogni senso in modo da rappresentare adeguatamente le situazioni che vogliamo modellare gli esempi devono essere numerosi, rappresentativi ed esaurienti per il problema affrontato. I dati concetti (concepts): ciò che deve essere imparato istanze (instances): tutti gli esempi sui quali imparare attributi o tratti (features): caratteristiche delle istanze (ne individuano e definiscono vari aspetti) 3

5 Tipi di Apprendimento classificazione lenti a contatto associare ad una parola una data parte del discorso od un altra associare ad un occorrenza di una parola un dato senso od un altro... associazione clustering (raggruppamento) numerico Compiti di Classificazione scopo: assegnare una classe ad un istanza mai vista prima tutte le possibili classi sono già previste sono compiti supervisionati: a ciascuna istanza utilizzata per l apprendimento è associata la classe effettiva Procedura per lo sviluppo di un sistema di AA 1. formulazione del problema 2. collezione degli esempi insieme di esempi da cui apprendere: training set insieme di dati sui quali verificare che il nostro metodo sia efficiente: test o evaluation set training e il test set devono essere assolutamente disgiunti gli esempi devono essere numerosi, rappresentativi, ed esaurienti 3. rappresentazione degli esempi non sempre i dati si possono utilizzare così come sono, questo è particolarmente vero per i dati linguistici: non abbiamo database, abbiamo testi! spesso è necessario ridurre le dimensioni o mettere in evidenza caratteristiche che agevolino l apprendimento fondamentale il ruolo del linguista nella scelta dei tratti rilevanti 4. scelta dell algoritmo di apprendimento, addestramento questione di grande importanza ma che esula dal nostro corso 5. verifica dei risultati test set separato cross-validation... 4

6 Cross-validation assunto: il training ed il test set devono essere disgiunti (nessuna istanza può essere presente nell uno e nell altro) quando i dati non sono moltissimi, le istanze che finiscono nel test set (per esempio un 20%) potrebbero essere particolarmente facili/difficili e comunque non necessariamente rappresentative con la CV si ripete il rapporto training/test set k volte (es. k = 5) così da ridurre il rischio di specificità del test set Rappresentazione degli esempi ciascun esempio (istanza) viene rappresentato in una sorta di stilizzazione questa stilizzazione mostra quali sono i tratti rilevanti al nostro scopo esempio: sistema di POS-tagging sviluppato a Trento (EVALITA 2007) For each word a rich set of features (38) are extracted: the word itself (both unchanged and lower-cased); morphological features produced by MorphoPro; prefixes and suffixes (2, 3, 4 or 5 characters at the start/end of the word); orthographic information (e.g. capitalization, hyphenation); and occurrence in gazetteers of proper nouns (154,000 proper names, 12,000 cities, 5,000 organizations and 3,200 locations). Come rappresentereste i vostri esempi quando lo scopo è la disambiguazione del significato? Nota Bene: approccio all-words: tutte le parole incontrate vanno classificate in una delle loro accezioni (solitamente si fa riferimento ad un inventorio di sensi quale quello fornito da WordNet) approccio lexical sample: il compito di disambiguazione si applica soltanto ad alcuni termini preselezionati 5