Le reti neurali artificiali. Giacomo Trudu aka Wicker25

Transcript

1 Le reti neurali artificiali Giacomo Trudu aka Wicker25

2 Sommario L'approccio algoritmico Le reti neurali artificiali Apprendimento delle reti neurali Il neurone biologico Il percettrone L'apprendimento del percettrone Il percettrone multistrato La retropropagazione dell'errore

3 L'approccio algoritmico Processo risolutivo definito, sequenziale e deterministico Linguaggio naturale della Macchina di Turing Richiede la piena comprensione del problema preso in esame (problemi definiti) Non necessita di dati sperimentali Modellistica di tipo white box

4 L'approccio algoritmico Quale carattere è rappresentato nell'immagine? Possiamo formalizzare il problema in un algoritmo risolutivo?

5 Le reti neurali artificiali Sistemi per il trattamento dell'informazione Basate sulla teoria del connessionismo Riproducono alcuni processi del cervello umano (paradigma di ispirazione biologica) Sono modelli di regressione non lineare Modellistica di tipo black box

6 Le reti neurali artificiali Apprendimento basato su dati empirici Elaborano i dati in modo parallelo e distribuito Possono generalizzare le soluzioni apprese Possono astrarre nuove soluzioni Sono in grado di trattare dati rumorosi

7 Il neurone biologico Nel cervello umano sono circa 100 miliardi delle dimensioni di 10 micron ciascuno

8 Il neurone biologico Neuroni sensori Neuroni motori (o motoneuroni) Neuroni intermedi (o interneuroni)

9 Le reti neurali artificiali

10 Le reti neurali artificiali Reti totalmente connesse Reti parzialmente connesse Reti feedforward Reti feedback

11 Apprendimento delle reti neurali Apprendimento supervisionato Apprendimento non supervisionato Apprendimento per rinforzo

12 Il percettrone Funzione di attivazione A(w 1,x 1,w 2,x 2,...,w n, x n ) Funzione di trasferimento T(a)

13 Formula di uscita: Il percettrone Con l'aggiunta del Bias:

14 Il percettrone Con Diventa

15 Il percettrone: forma logica OR

16 Il percettrone: forma logica OR

17 Apprendimento del percettrone Dato un insieme di addestramento non vuoto formato da S coppie ingressi-uscite, si definisce una funzione di errore (o funzione costo)

18 Apprendimento del percettrone In una rete a due ingressi

19 Apprendimento del percettrone Calcoliamo il gradiente della funzione costo: Correggiamo i pesi sinaptici sulla base della derivata parziale del peso:

20 Apprendimento del percettrone

21 Apprendimento del percettrone Applicando la regola di derivazione delle funzioni composte otteniamo: Considerando tutto l'insieme di addestramento diventa:

22 Il percettrone: forma logica AND

23 Il percettrone: forma logica AND Apprendimento: Esecuzione:

24 Il percettrone multistrato Problemi di separazione non lineare:

25 Il percettrone multistrato

26 Il percettrone multistrato

27 Il percettrone multistrato Formula di uscita:

28 Il percettrone multistrato

29 Retropropagazione dell'errore Dato un insieme di addestramento non vuoto formato da S coppie ingressi-uscite, si definisce una funzione di errore (o funzione costo)

30 Retropropagazione dell'errore Calcoliamo il gradiente della funzione costo: Correggiamo i pesi sinaptici sulla base della derivata parziale del peso:

31 Retropropagazione dell'errore Applicando la regola di derivazione delle funzioni composte otteniamo:

32 Retropropagazione dell'errore Considerando tutto l'insieme di addestramento diventa:

33 Retropropagazione dell'errore Considerando tutto l'insieme di addestramento diventa:

34 Le reti neurali artificiali Riconoscimento di immagini e suoni (face recognition, object detection, etc) Diagnosi precoce di malattie (riconoscimento di tessuti tumorali, di malattie neurodegenerative, etc) Sistemi di supporto (eye tracking, interfacce vocali, riconoscimento di cartelli stradali, etc) Sistemi di sorveglianza e di tracciamento (riconoscimento di targhe, di situazioni pericolose, etc)

35 Links Logo della copertina: Tesi: