Per contatti, approfondimenti, et cetera

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "Per contatti, approfondimenti, et cetera"

Irma Piccolo
6 anni fa
Visualizzazioni

1 Un nuovo algoritmo per la costruzione di classificatori da dati sperimentalicon errore di generalizzazione garantito Seminario per il corso di Teoria e Tecniche di Identificazione e Stima (18 Giugno 2009) Per contatti, approfondimenti, et cetera Algo Carè Trasparenze: Mail: algo.care@ing.unibs.it 5431 Prof. Marco C. Campi

Università degli Studi di Brescia Facoltà di Ingegneria Corso di Laurea in Ingegneria Informatica Dipartimento di Elettronica per l Automazione Un nuovo algoritmo per

2 Università degli Studi di Brescia Facoltà di Ingegneria Corso di Laurea in Ingegneria Informatica Dipartimento di Elettronica per l Automazione Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito Relatore: Prof. Marco C. Campi Tesi di laurea specialistica di: Algo Carè

3 Schema della presentazione Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito A. La classificazione (binaria) B. Il nuovo algoritmo: GPE (Guaranteed Probability of Error) C. Proprietà teoriche e risultati sperimentali

4 Prima Parte Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito A. La classificazione (binaria) Il nuovo algoritmo: GPE (Guaranteed Probability of Error) Proprietà teoriche e risultati sperimentali

5 . La classificazione Concetti fondamentali OGGETTO Natura (binaria) SANO MALATO Attributi Altezza Peso Età Pressione arteriosa Glicemia

6 . La classificazione Un classificatore binario Altezza: 1.82m Peso: 120Kg Età: 24 Press: 135/90mmHg Glicemia: 140 mg/dl Classificatore MALATO

7 . La classificazione Un classificatore binario Altezza: 1.82m Peso: 90Kg Età: 29 Press: 105/60mmHg Glicemia: 70 mg/dl Classificatore SANO

8 . La classificazione Costruire un classificatore Altezza: 1.82m Peso: 90Kg Età: 29 Press: 105/60mmHg Glicemia: 70 mg/dl Altezza: Peso: 90 Età: 29 Press: 105 Glicemia: 7 Altezza: 1.82m Peso: 90Kg 1.82m Kg SANO Età: 29 Press: 105/60mmHg Glicemia: 70 mg/dl Altezza: 1.82m Peso: 90Kg Età: 29 Press: 105/60mmHg Glicemia: 70 mg/dl MALAT /60mmHg 0 mg/dl MALATO O SANO ALGORITMO Altezza: 1.82m Peso: 90Kg Età: 29 Press: 105/60mmHg Glicemia: 70 mg/dl Classificatore SANO

9 . La classificazione Valutare un classificatore k attributi reali reale natura degli oggetti oggetto y( ) : R k {0,1} classificatore binario yˆ ( ) : R k {0,1} misclassificazione yˆ( x) y( x), x R k ERRORE DI GENERALIZZAZIONE PE( yˆ) := Pr( yˆ( x) y( x))

10 . La classificazione Applicazioni Applicazioni medicali Applicazioni bancarie Riconoscimento di posta elettronica indesiderata Riconoscimento di pacchetti di rete

11 Schema della presentazione Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito A. La classificazione (binaria) B. Il nuovo algoritmo: GPE (Guaranteed Probability of Error) C. Proprietà teoriche e risultati sperimentali

12 Seconda Parte Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito La classificazione (binaria) B. Il nuovo algoritmo: GPE (Guaranteed Probability of Error) Proprietà teoriche e risultati sperimentali

13 . Algoritmo GPE Classificatore con rigetto yˆ ( ) : R k {0,1, Rigetta} Altezza: 1.62m Peso: 60Kg Età: 79 Press: 110/70mmHg Glicemia: 100 mg/dl Classificatore con rigetto??

14 . Algoritmo GPE Il parametro d d 1 50 ALGORITMO GPE Classificatore con rigetto Rigetto Errore di Generalizzazione

15 . Algoritmo GPE Il parametro d d 1 50 ALGORITMO GPE Classificatore con rigetto Rigetto Errore di Generalizzazione

16 . Algoritmo GPE Logica di funzionamento (molto) in breve Costruzione incrementale di regioni di natura alternata di complessità decrescente

17 . Algoritmo GPE Un esempio (molto) semplice

18 . Algoritmo GPE Un esempio (molto) semplice

19 . Algoritmo GPE Un esempio (molto) semplice

20 . Algoritmo GPE Un esempio (molto) semplice

21 . Algoritmo GPE Un esempio (molto) semplice

22 . Algoritmo GPE Un esempio (molto) semplice ŷ

23 . Algoritmo GPE Un esempio (molto) semplice y

24 . Algoritmo GPE ˆ) PE(y Un esempio (molto) semplice PROMEMORIA ERRORE DI GENERALIZZAZIONE PE( yˆ) := Pr( yˆ( x) y( x))

25 Schema della presentazione Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito A. La classificazione (binaria) B. Il nuovo algoritmo: GPE (Guaranteed Probability of Error) C. Proprietà teoriche e risultati sperimentali

26 Terza Parte Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito La classificazione (binaria) Il nuovo algoritmo: GPE (Guaranteed Probability of Error) C. Proprietà teoriche e risultati sperimentali

27 . Proprietà teoriche e risultati sperimentali Il teorema fondamentale La distribuzione dell errore di generalizzazione di ŷ è nota a priori ed è:

Byrd Iris Virginica Iris Versicolor Lunghezza dei sepali

28 . Proprietà teoriche e risultati sperimentali Esperimenti su dati reali (I) Foto di Danielle Langlois Foto John D. Byrd Iris Virginica Iris Versicolor Lunghezza dei sepali Larghezza dei sepali Lunghezza dei petali Larghezza dei petali

29 . Proprietà teoriche e risultati sperimentali Esperimenti su dati reali (II)

30 . Proprietà teoriche e risultati sperimentali Esperimenti su dati reali (III)

31 FINE La classificazione (binaria) Il nuovo algoritmo: GPE (Guaranteed Probability of Error) Proprietà teoriche e risultati sperimentali Un nuovo algoritmo per la costruzione di classificatori da dati sperimentali con errore di generalizzazione garantito Grazie per l attenzione

32 Università degli Studi di Brescia Facoltà di Ingegneria Corso di Laurea in Ingegneria Informatica Dipartimento di Elettronica per l Automazione Bonus Relatore: Prof. Marco C. Campi Tesi di laurea specialistica di: Algo Carè Matr

33 Tipi di regioni costruibili (I) Parabole Ellissi

34 Tipi di regioni costruibili (I) Parabole Ellissi

35 Tipi di regioni costruibili (II) Cerchi decentrati

36 Tipi di regioni costruibili (II) Cerchi decentrati

37 Tipi di regioni costruibili (III) Cerchi

38 d=5 Risultati sperimentali RealGPE IdealGPE N PE y N N=100, 1000Multiestrazioni N=100, 1000Multiestrazioni

39 d=25 Risultati sperimentali RealGPE IdealGPE N=100, 1000Multiestrazioni N=100, 1000Multiestrazioni

40 Risultati sperimentali (errori in alcuni test) Competitivo in quanto classificatore senza rigetto Garanzie stringenti Robustezza a fronte di ipotesi teoriche non soddisfatte

41 Relazione tra errore e punti sul bordo (spiegazione intuitiva)

42 Relazione tra errore e punti sul bordo (spiegazione intuitiva)

43 Relazione tra errore e punti sul bordo (spiegazione intuitiva)

44 Relazione tra errore e punti sul bordo (spiegazione intuitiva)

45 Relazione tra errore e punti sul bordo (spiegazione intuitiva) Un punto che si trovava sul bordo della regione-soluzione, se rimosso, rientra nella nuova regione costruita.

46 Il leave-one-out (spiegazione intuitiva) x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9, x 10 ALGORITMO CLASSIFICATORE BINARIO yˆ (x10 ) y(x10 )

47 Il leave-one-out (spiegazione intuitiva) x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9, x 10 ALGORITMO CLASSIFICATORE BINARIO yˆ (x9 ) y(x9 )

48 Il leave-one-out (spiegazione intuitiva) x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9, x 10 ALGORITMO CLASSIFICATORE BINARIO yˆ (x8 ) y(x8 )

49 Il leave-one-out (spiegazione intuitiva) x 1, x 2, x 3, x 4, x 5, x 6, x 7, x 8, x 9, x 10 ALGORITMO CLASSIFICATORE BINARIO yˆ (x7 ) y(x7 )

50 Il leave-one-out (spiegazione intuitiva) 1 10 punti sul bordo N

51 Relazione tra errore e punti sul bordo (spiegazione intuitiva) L'errore di leave-one-out è molto legato al valore atteso dell'errore di generalizzazione Dalla distribuzione dell errore di generalizzazione si può ricavare il valore atteso dell'errore di generalizzazione: d N L'algoritmo è stato costruite con proprietà che permettono di generalizzare quanto visto nel caso banale del cerchio (ottimizzazione convessa)

Documenti analoghi

Machine Learning: apprendimento, generalizzazione e stima dell errore di generalizzazione

Corso di Bioinformatica Machine Learning: apprendimento, generalizzazione e stima dell errore di generalizzazione Giorgio Valentini DI Università degli Studi di Milano 1 Metodi di machine learning I metodi