Computazione per l interazione naturale: macchine che apprendono

Transcript

1 Computazione per l interazione naturale: macchine che apprendono Corso di Interazione uomo-macchina II Prof. Giuseppe Boccignone Dipartimento di Scienze dell Informazione Università di Milano boccignone@dsi.unimi.it Ipotesi di lavoro: interazione fra organismi ambiente azione percezione azione percezione verbale (non verbale)

2 Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente riflessione verbale azione percezione emozioni motivazioni azione percezione emozioni motivazioni metabolismo non verbale stile di vita visiva uditiva Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente verbale azione percezione emozioni motivazioni metabolismo non verbale visiva uditiva

3 Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente riflessione verbale azione percezione emozioni motivazioni metabolismo non verbale azione percezione visiva uditiva Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente riflessione verbale azione percezione emozioni motivazioni metabolismo non verbale azione percezione visiva uditiva

4 Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente riflessione verbale azione percezione emozioni motivazioni metabolismo non verbale azione percezione visiva uditiva Ipotesi di lavoro: interazione fra organismi //variazioni di contesto riflessione ambiente riflessione verbale azione percezione emozioni motivazioni metabolismo non verbale azione percezione visiva uditiva

5 Modelli di computazione per l interazione naturale Esempi Riconoscere espressioni facciali p(e D) E Riconoscere gesti G p(d E) p(g D) p(d G) D = dati percepibili Riconoscere azioni p(a D) A p(d A)

6 Il problema dell apprendimento statistico Il problema dell apprendimento statistico Per learning si intende il processo di individuare, a partire da un insieme di dati, un modello che li descriva. Per esempio, nel caso del supervised learning si vuole individuare una corrispondenza tra input e output. Un modo per fare ciò è postulare l esistenza di un qualche tipo di meccanismo parametrico per la generazione dei dati, di cui non conosciamo però i valori esatti dei parametri. Questo processo fa tipicamente riferimento a tecniche di tipo statistico.

7 Classificazione dei problemi di learning //apprendimento supervisionato I problemi di learning vengono divisi in due tipologie principali: supervised learning e unsupervised learning: Supervised: prevedere, dato un elemento di cui si conoscono un insieme di parametri (features), il valore di un diverso parametro di output relativo all elemento stesso. Viene definito (mediante apprendimento da insiemi di esempi) un modello Valori di output y Valori assunti dalle singole features x: Quantitativi: forniscono la misura di una grandezza Qualitativi: specificano una classe di appartenenza Quantitativi: regressione. Se y è un vettore, si parla di regressionemultivariata. Qualitativi: l assegnazione ad una classe (categoria), e si parla di classificazione. Numero di possibili classi = 2, si classificazione binaria, altrimenti di classificazione multi-classe. //Classificazione

8 //Classificazione //Classificazione

9 //Classificazione //Classificazione

10 //Classificazione //Classificazione

11 //Regressione //Regressione

12 //Regressione: fitting di una curva punti osservati t Trovare i coefficienti w curva originale (non nota) rumore Polinomio approssimante Problema di apprendimento Trovare i coefficienti w (parametri) noti i punti target t //Regressione: fitting di una curva Funzione di loss (errore) quadratica

13 //Regressione: fitting di una curva Polinomio di ordine 0 //Regressione: fitting di una curva Polinomio di ordine 1

14 //Regressione: fitting di una curva Polinomio di ordine 3 //Regressione: fitting di una curva Polinomio di ordine 9

15 //Regressione: il problema dell over-fitting Root-Mean-Square (RMS) Error: //Regressione: dimensione del dataset Polinomio di ordine 9

16 //Regressione: dimensione del dataset Polinomio di ordine 9 //Regressione: analisi dei coefficienti polinomiali

17 //Regressione: regolarizzazione del problema Penalizziamo i polinomi con coefficienti grandi penalized loss function regularization parameter target value //Regressione: regolarizzazione del problema

18 //Regressione: regolarizzazione del problema //Regressione: regolarizzazione del problema vs

19 //Regressione: regolarizzazione del problema I dati di training non sono etichettati (unlabeled) Le labels sono variabili nascoste (hidden variables) Clustering Riduzione di dimensionalità

20 //Clustering \\Il problema delle variabili latenti:clustering Parte dei dati sono sconosciuti intrinsecamente inaccessibili.: dati mancanti o errati.: Esempio: rumore. Esempio: per un immagine da segmentare l insieme completo di dati è: misura/osservazione su ciascun pixel + labels che dicono a quale componente il pixel appartiene Se i dati mancanti sono correlati con quelli osservati, possiamo sperare di recuperarli lavorando sui dati osservati. Se sono indipendenti, non c è speranza 40

21 \\Il problema delle variabili latenti: clustering Modello Labels + parametri generazione Dati non etichettati unsupervised learning: clustering \\Il problema delle variabili latenti: clustering Supponiamo di voler raggruppare dei punti in due segmenti di linea best-fit 42

22 \\Il problema delle variabili latenti: clustering E un problema uovo/gallina: se conoscessimo a quale linea ciascun punto appartiene (cioè conosciamo i target t) potremmo calcolare il best fit (un semplice problema di regressione), ovvero i parametri w = {a, b} y1=a1 x + b1 y2=a2 x + b2 43 \\Il problema delle variabili latenti: clustering Se sapessi dove sono collocate le due linee best-fit, ovvero conosco i parametri w = {a, b}, potrei classificare: assegnare ciascun punto alla linea (minima distanza), ovvero etichettare i target t y1=a1 x + b1 y2=a2 x + b2 44

23 \\Il problema delle variabili latenti: EM Soluzione iterativa Inizializzazione: effettuare una scelta random delle linee Repeat Trovare la linea più vicina a ciascun punto e raggruppare in due insiemi (Classificazione) Ricalcolare la linea best-fit per ciascun insieme (Fitting dei parametri) Until (il processo converge) L algoritmo è garantito essere convergente 45 \\Il problema delle variabili latenti: EM 46

24 \\Il problema delle variabili latenti: EM Passo E: Classifico i punti 47 \\Il problema delle variabili latenti: EM Passo M: Fitting delle rette 48

25 \\Il problema delle variabili latenti: EM Passo E: Classifico i punti 49 \\Il problema delle variabili latenti: EM Passo M: Fitting delle rette Terminato! 50

26 \\Il problema delle variabili latenti: clustering Modello Labels + parametri generazione Dati non etichettati unsupervised learning: clustering \\Esempio: rilevare la pelle volti gesti

27 //Riduzione di dimensionalità \\Riduzione di dimensionalità Trovare delle labels / output per comprimere le variabili osservate Si passa da uno spazio di dimensionalità N a uno di dimensionalità ridotta M M << N

28 \\Riduzione di dimensionalità Trovare delle labels / output per comprimere le variabili osservate Si passa da uno spazio di dimensionalità N a uno di dimensionalità ridotta M M autofacce x Trovare v. latenti x Trovare i coefficienti w rumore N facce t \\Modelli dinamici: Hidden Markov Models Modelli temporali a variabili latenti

29 Metodologia generale: modelli generativi In un approccio generativo, viene derivato, per ogni possibile output, un modello (sotto forma di distribuzione di probabilità) degli elementi associati a quell output Descrizione completa della situazione: distribuzione di probabilità congiunta p(x, y T), derivata a partire dal training set p(x, y T) Inferire la probabilità a posteriori mediante regola di Bayes p( y x, T) = p(x, y T) / p(x T) Metodologia generale: modelli discriminativi Effettuare direttamente una stima di p( y x, T) dal training set questo approccio è detto discriminativo, perchè, a partire da T, viene derivata una caratterizzazione dell output in funzione delle features, in modo tale da discriminare, dato un elemento, il più probabile tra i possibili valori dell output

30 Modelli parametrici Il modello è preventivamente caratterizzato da un vettore di parametri viene ipotizzato che la relazione tra features e input sia rappresentabile all interno di una famiglia di relazioni (modelli) parametrici rispetto a, e quindi tali che una assegnazione di valori a definisca uno specifico modello della famiglia Il processo di derivare è detto apprendimento (o learning). Spesso, per semplicità, invece di derivare la distribuzione di, viene stimato un buon valore per i parametri, mediante una stima di punto La previsione su y può essere formulata in termini di valore atteso In presenza della stima di punto, la previsione può essere approssimata come