Il Perceptron (discriminatore lineare)

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "Il Perceptron (discriminatore lineare)"

Ottavio Messina
6 anni fa
Visualizzazioni

1 Le Re Neural Graa, Ba - Dp Ifrmaca, y y y 3 Re fuz elemear ve le usce ell ua s gress all alra Re Fee-frar Re rcrre Re au-rgazza Mle alre sfamgle Re Neural Il Percepr scrmare leare f > he else Graa, Ba - Dp Ifrmaca, Re Neural

2 Qual è la semaca Graa, Ba - Dp Ifrmaca, Re Neural 3 Che csa può escrvere S può cmuque cercare pszare la rea m a mmzzare l errre Graa, Ba - Dp Ifrmaca, Re Neural 4

3 Cme s rva pes [ ] pr scalare ra ver T r r Ua rfrescaa Algebra Leare Graa, Ba - Dp Ifrmaca, Re Neural 5 U seme eur m M E Graa, Ba - Dp Ifrmaca, GraE Re Neural 6

4 La regla appreme el Percepr Dp avere classfca u campe: +, {,} η- se s fa ulla alrme s mfca pes m a prare pù vc a S può msrare che se gl esemp s learmee separabl quesa regla cverge Alrme è e Graa, Ba - Dp Ifrmaca, Re Neural 7 Se s pree l usca prma ella sgla Graa, Ba - Dp Ifrmaca, Re Neural 8

5 La Dscesa el Graee E r D + -η E E η Graa, Ba - Dp Ifrmaca, Re Neural 9 Esegue le ervae η η D S fa la crreze usa l usca prma ella sgla e smma su u camp Cverge su u mm errre se η è ml pccl Graa, Ba - Dp Ifrmaca, Re Neural

6 Graa, Ba - Dp Ifrmaca, Re Neural La La Dscesa Dscesa el el Graee Scasca Graee Scasca η Vee applcaa g vla che s vee u campe Ssazalmee s fa la sessa csa qua s mpara -le u ask rbca la cvergeza a u mm è garaa, ma s fa ml pù frea! Il me vee al fa che p ml pass cmca a fare u ram alk Graa, Ba - Dp Ifrmaca, Re Neural U Esemp: ue gress, u usca y y y y E, E Suppe, y,, D D D D D D D D y y y E E,, Per scesa el graee scasca:

7 Traa class learmee separabl Però, a ffereza ella Percepr Rule cverge a u mm errre qua s separabl learmee Graa, Ba - Dp Ifrmaca, Re Neural 3 Nell spaz ell usca O N Cerca l pu massma separaze Mmzza la prbablà errre s l pes che le class sa learmee separabl ma affee a u errre c srbuze Gaussaa Graa, Ba - Dp Ifrmaca, Re Neural 4

8 Algrm appreme per l Percepr Per epche: Izalzza g c u valre ram hle HalC Azzera g frg esemp D Calcla l usca FrAll +η - frall + Graa, Ba - Dp Ifrmaca, Re Neural 5 Algrm appreme per l Percepr Scasc: Izalzza g c u valre ram hle HalC Azzera g frg esemp D Calcla l usca FrAll +η - Aleravamee s può usare la Percepr Rule s pree l usca p la fuze a sgla, però la cvergeza è pù garaa se le class s separabl learmee! Graa, Ba - Dp Ifrmaca, Re Neural 6

9 Re a pù sra Se gl sra s puramee lear s acqusa peza: M M [M M ] M Graa, Ba - Dp Ifrmaca, Re Neural 7 Fuz -lear per saccppare gl sa f f > he else Graa, Ba - Dp Ifrmaca, Re Neural 8

10 Squashg Fucs σe j e j j σ e j + e e j λe j Alre frme: Tah Pam per ra la rchesa che la fuze sa ma crescee Graa, Ba - Dp Ifrmaca, Re Neural 9 La Dela Rule Rvsa E r D η D η η η D D η D η f ' e e e Graa, Ba - Dp Ifrmaca, δ Re Neural

11 Il Mullayer Percepr Le uà usca cmba crbu elle vare reg Le he us parza l spaz reg 4 Graa, Ba - Dp Ifrmaca, Re Neural La Backprpaga j j fe j fe j j j ηδ? k j ηδ j Graa, Ba - Dp Ifrmaca, Re Neural

12 Cme calclam δ j Rcram che: δ j f ' ej j e k k k E k k k j ek e j k k k k Graa, Ba - Dp Ifrmaca, k k k e k k k k k k e δ k k k k e j k Re Neural 3 I geerale: Qu ηδ j esse l gress ell uà j prveee all usca ell uà preceee δ δ j j j j f ' j ej per le usce δ kkj f ' j ej k per gl sa er Graa, Ba - Dp Ifrmaca, Re Neural 4

13 Usa la Sgme f ' e j + e j e ej ej j j j δ j j j j j δ j δ kkj j j k Graa, Ba - Dp Ifrmaca, Re Neural 5 Quale è la peza? - Ua ree a ue lvell c sgm sml su ue le uà, può rappreseare qualuque fuze bleaa fa - Og fuze reale R R lmaa e cua, può essere apprssmaa c errre arbraramee pccl a ua ree a ue lvell c sgm sulle uà ascse e uà lear sull usca - Ua qualuque fuze può essere apprssmaa a ua ree a re lvell cu l ulm lvell è csu a fuz lear Graa, Ba - Dp Ifrmaca, Re Neural 6

14 Quae He Us? Usa u umer arbraramee grae uà ascse s può apprssmare qualuque fuze fa u m f N c è regla a prr per eermare l umer Il umer uà ascse efsce l umer parzame fabl sul m Aumeae l umer s eg suvs ml f s può arrvare a u campe per rege!!!! Graa, Ba - Dp Ifrmaca, Re Neural 7 OR esclusv Il prblema ell OR esclusv Pù epche e pù sable Graa, Ba - Dp Ifrmaca, Re Neural 8

15 Quae He U? Se s ha u ea el prblema s può smare l lr umer sa a cfcare se s va a eav U suggerme è cmcare prvare c umer pccl lg N +N u e crescere prgressvamee Graa, Ba - Dp Ifrmaca, Re Neural 9 Regresse f + + Graa, Ba - Dp Ifrmaca, Re Neural 3

16 Re Rcrre O 3 4 O 3 4 O 3 4 Graa, Ba - Dp Ifrmaca, Re Neural 3 Cme s aesra ua ree rcrree Il cmprame ua ree rcrree ua sequeza sa può essere rpr a ua ree feefrar csrua cme ella sle preceee Ne le usce che ev essere pre, la ree può essere aesraa usa la Back-prpaga Le [W] e var sa s le sesse che qu rcev l accumul elle vare crrez rprae egl sa ccaea l usca può essere a a u pass Graa, Ba - Dp Ifrmaca, Re Neural 3

17 Re a Tme Delay 34 O La ree può essere aesraa usa la BP Graa, Ba - Dp Ifrmaca, I era g cesse può avere u pes vers I praca s ee a are l sess pes alle cess che appareg alla sessa sequeza Re Neural 33 Alr Tp Re Basae sul Percepr Re csrue cremealmee Cascae Crrela: s agguge u sra per crreggere l errre egl sra precee Percepr rees: cme ecs ree ma le cz s efe a u percepr Oblque rees: le cz s efe a u perpa blqu Graa, Ba - Dp Ifrmaca, Re Neural 34

18 Acra Tecche paura: - S csrusce ua ree svramesaa che vee ra agla le cess che s ul quelle che s pc flue per l errre Tecche bre Smblche Numerche: - KBANN: s usa ua ree regle prpszal per csrure l graf cesse - Rapure: s usa u alber ecse per aggugere eur a ua ree che eve essere pezaa Graa, Ba - Dp Ifrmaca, Re Neural 35

Documenti analoghi

PROVINCIA DI VERONA RENDICONTO ESERCIZIO 2012 ELENCO DEI RESIDUI ATTIVI E PASSIVI DISTINTI PER ANNO DI PROVENIENZA

PROVINCIA DI VERONA RENDICONTO ESERCIZIO 2012 ELENCO DEI RESIDUI ATTIVI E PASSIVI DISTINTI PER ANNO DI PROVENIENZA 1 2 RIEPILOGO GENERALE RESIDUI ATTIVI CONSERVATI 3 4 Pgm. CPA0099R ***-----------------------------------------------------------***