Analisi e Sviluppo di una Rete Neurale Modulare basata su Mixture of Experts, e Confronto con Algoritmi di Boosting

Save this PDF as:
 WORD  PNG  TXT  JPG

Dimensione: px
Iniziare la visualizzazioe della pagina:

Download "Analisi e Sviluppo di una Rete Neurale Modulare basata su Mixture of Experts, e Confronto con Algoritmi di Boosting"

Transcript

1 Tes d Dploma d Laurea n Informatca d Petro Mele matrcola Anals e Svluppo d una Rete Neurale Modulare basata su Mxture of Experts, e Confronto con Algortm d Boostng Relatore: Prof. Alberto Berton Correlator: Prof. Ncolò Cesa-Banch Prof.ssa Paola Campadell Facoltà d Scenze dell'informazone Unverstà degl Stud d Mlano a.a. 000/001

2 Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00

3 Indce 1. Introduzone. Introduzone agl algortm d apprendmento e alle ret neural. 3. Descrzone generale d una rete neurale modulare. - Ensemble averagng. - Mxture of Experts. 4. Raffronto con algortm d "Boostng". 5. Parallelsm con l sstema nervoso centrale. 6. Descrzone analtca d una rete con archtettura "Mxture of Experts". 7. Descrzone d una possble mplementazone tramte l lnguaggo d modellazone UML. 8. Descrzone d una possble mplementazone tramte l lnguaggo Standard C Utlzzo d wavelets per la pre-elaborazone dell'ngresso. 10. Utlzzo d algortm genetc per lo svluppo della struttura. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 3

4 Appendc: A. Software utlzzato. B. Introduzone a UML. C. Note rguardo lo Standard C++. Bblografa. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 4

5 Rngrazament La persona che pù devo rngrazare, non solo per questo lavoro, è l Dottor Albno Brcolo Ospedale Cvle Maggore, Verona, senza l cu nconsapevole contrbuto non m sare ma nteressato a quest argoment, e senza le cu capactà da tempo non potre pù cammnare, sognare, vvere. E' a lu che dedco questa ma tes. In caso voleste contattarm n futuro, sarò rntraccable al seguente ndrzzo d posta elettronca: Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 5

6 1. Introduzone In questa tes descrverò un tpo partcolare d rete neurale, noto con l nome d «Mxture of Experts», traducble n talano con l'espressone «mstura d espert»; d ora n po utlzzerò l termne nglese poché è quello dffuso n letteratura. Tratterò questo modello d rete dal punto d vsta teorco, ne descrverò una mplementazone reale, e farò un confronto con altr algortm, n un certo senso sml, che s pongono gl stess obbettv. In partcolare, nel captolo farò una ntroduzone al concetto d algortmo d apprendmento da un punto d vsta dapprma generco e successvamente focalzzato sulle ret neural. Nel captolo 3 descrverò concett alla base d una rete neurale modulare. Nel captolo 4 farò un confronto con un algortmo specfco, detto d Boostng. Nel captolo 5 farò, per quanto possble, un parallelsmo tra l modello che tratto ed l sstema nervoso centrale. Nel captolo 6 descrverò n modo analtco l funzonamento d un tpo partcolare d rete modulare, la cosddetta archtettura Mxture of Experts. Nel captolo 7 farò una descrzone d una possble mplementazone tramte dagramm UML, che ne permetteranno una vsone tramte un lnguaggo grafco. Nel captolo 8 tratterò l mplementazone che sto realzzando tramte l lnguaggo d programmazone Standard C++. Ne due captol successv tratterò d due possbl estenson all algortmo base che permetterebbero una effcace pre-elaborazone dell ngresso tramte wavelets, e uno svluppo autonomo dell archtettura della rete utlzzando algortm genetc. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 6

7 . Introduzone agl algortm d apprendmento e alle ret neural Un algortmo o, pù n generale, un sstema che apprende può essere defnto come una struttura che s auto modfca n funzone d un obbettvo da raggungere e d un nseme d condzon al contorno, coè dell ambente che lo crconda. Per realzzare un tale algortmo s possono segure approcc molto dvers, che però, almeno fnora, s sono sempre sprat al modo n cu no esser uman ragonamo. La dfferenza fondamentale tra queste dverse strade per affrontare l problema sta nel punto d vsta che adottamo per osservare l funzonamento della mente umana. Quest punt d vsta s possono raggruppare n due categore: una vsone dall alto verso l basso, ed una vsone dal basso verso l alto. Nella vsone dall alto c spramo al modo n cu ragonamo quotdanamente, o per lo meno a cò che possamo percepre d tale ragonamento, e cerchamo d rcostrurlo attraverso un nseme d regole. In questo caso l termne regole va nteso nel senso pù ampo: possono essere regole d tpo logco, statstco, fuzzy, nfluenzate parzalmente dal caso, Nella vsone del problema dal basso, l sprazone vene dal funzonamento del sstema nervoso, dal modo n cu neuron s svluppano e s scambano nformazon, e dalle modaltà segute dalle spece vvent per evolvers, coè dalla genetca. Mentre seguendo l prmo approcco le regole da apprendere per raggungere l obbettvo vengono manpolate drettamente, esplctamente o mplctamente, nel secondo caso esse emergono come una conseguenza d cò che avvene su una scala molto rdotta per un gran numero d element. Teorcamente, entrambe queste tecnche dovrebbero poter raggungere gl stess rsultat, anche se da punt d partenza oppost. In realtà ogn metodologa s esprme meglo per alcune class d problem e peggo per altre. Ad esempo metod del prmo tpo sono adatt a rsolvere problem esprmbl secondo una logca ben defnta ad esempo la dmostrazone d un Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 7

8 teorema, mentre second s prestano a trattare stuazon dove no useremmo l stnto, poché non nquadrabl n uno schema rgdo ad esempo l nterpretazone d un mmagne o d un segnale n genere. S potrebbe dre che l approcco che parte dall alto smula meglo l emsfero snstro del cervello, mentre l approcco che parte dal basso smulerebbe meglo l emsfero destro [Kandel et al., 1991]. Questa dfferenzazone, tuttava, è solo approssmatva, n quanto alcune funzon prme tra tutte l elaborazone delle mmagn vsve vengono svolte n manera smmetrca, o quas, da due emsfer. Un generco algortmo d apprendmento può essere schematzzato come un modulo che rceve delle nformazon n ngresso e ne fornsce delle altre n uscta, e che deve poter stablre una qualche relazone tra le prme e le seconde sulla base d un qualche crtero. In partcolare tp d apprendmento che vengono realzzat possono essere suddvs n tre grupp che s dstnguono n base alle nformazon che vengono fornte rguardo l errore commesso: apprendmento supervsonato, apprendmento con rnforzo e apprendmento non supervsonato. Apprendmento supervsonato Supervsed Learnng In questa stuazone l algortmo, oltre a rcevere un ngresso e a fornre un uscta, rceve anche l uscta corretta obbettvo che avrebbe dovuto generare, e d conseguenza l errore commesso da ogn elemento del vettore d uscta. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 8

9 Lo scopo è quello d rcavare una funzone F che permetta d assocare un vettore d uscta y ad un vettore d ngresso x: y Fx sulla base d un nseme d esemp {x 1 ;y 1,...,x n ;y n }, n modo da mnmzzare una qualche funzone d errore de valor d uscta, ad esempo: E y t y t Qund s può dre che l apprendmento supervsonato modfca de parametr ntern sulla base d una correlazone tra l errore n uscta e l ngresso presnaptco. Apprendmento con rnforzo Renforcement Learnng In questo caso l unca nformazone che vene fornta all algortmo n rsposta alla sua uscta è uno scalare che ndca la dstanza dell output generato dall output corretto. L obbettvo, anche n questo caso, è quello d rcavare una funzone F che permetta d assocare un vettore d uscta y ad un vettore d ngresso x: y Fx Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 9

10 avendo come segnale d rsposta uno scalare r che ndca la correttezza della rsposta data. La funzone F vene trovata facendo n modo che, per gl ngress dat, la somma de valor resttut venga massmzzata. Apprendmento non supervsonato Unsupervsed o Self-organzed Learnng Con l apprendmento non supervsonato non s ha nessuna nformazone rguardo la correttezza dell uscta prodotta. Un algortmo d questo tpo deve raggungere un obbettvo predetermnato e ndpendente dagl ngress fornt, utlzzando l quale può modfcare suo parametr ntern. Un smle tpo d apprendmento può essere utlzzato nella compressone d segnal, nell estrazone d partcolar caratterstche da nsem d dat, nel clusterng,... Come descrtto pù avant, nel cervello umano vengono realzzate tutte e tre queste forme d apprendmento n regon specalzzate. Anche una rete neurale artfcale può fare altrettanto, a seconda degl algortm mpegat nella fase d apprendmento; n partcolare, n una rete neurale modulare quest dvers modell d apprendmento coesstono e s nfluenzano l un l altro. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 10

11 3. Descrzone generale d una rete neurale modulare Generalmente con l termne modulo s ntende una parte d un sstema pù complesso che può essere replcata un numero ndefnto d volte e che, d solto, s presenta come una scatola nera della quale s conoscono gl ngress e le uscte, ma non l suo funzonamento nterno. Quando la complesstà aumenta, quest modul possono essere d tpo dverso, possono coesstere su uno stesso lvello logco o possono essere ndfcat gl un dentro gl altr formando una struttura gerarchca. Le ret neural vste fnora possono essere consderate come modular a lvello de loro neuron e de loro strat. Un neurone, ad esempo, può essere assmlato ad un modulo n quanto può essere vsto come un enttà che rceve de segnal n ngresso dalle sue snaps e trasmette un segnale n uscta attraverso l suo assone. Il meccansmo d generazone d questo output sulla base degl nput rcevut può essere nascosto all nterno del neurone stesso, può cambare n funzone del tempo ed n funzone del contesto, può essere dverso per tp dfferent d neuron, e così va. In una determnata stuazone, qund, può essere utle consderare un neurone come un enttà astratta d cu non nteressano dettagl d funzonamento, che magar rsultano fondamental partendo da un altro punto d vsta. Lo stesso dscorso può essere fatto per gl strat d neuron che, ad esempo, possono avere connesson ntra-strato con topologe dfferent. Per una rete modulare, questo concetto d modulo vene ulterormente portato avant ed è da qu che ne derva l nome. Ognuna d queste untà racchude una o pù ret complete ed autosuffcent, che possono essere vste come scatole nere d lvello pù alto, con una struttura nterna qualsas e che nteragscono con cò che è a loro esterno tramte una nterfacca ben defnta. In questo contesto l modulo vene defnto come un esperto expert che da la sua rsposta all ngresso corrente. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 11

12 Generalzzando questo dscorso, cosa che verrà fatta pù avant, s può svncolare un modulo dal contenere una rete neurale, e lo s può rendere un contentore generco al cu nterno v può essere un algortmo qualsas. V sarà po un meccansmo, ad esempo d competzone tra modul, a determnare una selezone degl algortm che meglo s prestano alla soluzone del problema n esame; qund l problema nzale verrà suddvso n sotto-problem, cascuno de qual sarà assegnato al sottonseme de modul che s sono dmostrat mglor durante la fase d addestramento. Una defnzone che è stata data d rete neurale modulare è la seguente [Osherson et al., 1990]: Una rete neurale è detta modulare se l elaborazone svolta dalla rete può essere suddvsa tra due o pù modul sottosstem che operano senza comuncare l un l altro. Le uscte de modul sono combnate da una untà d ntegrazone alla quale non è possble mandare nformazon d rtorno a modul stess. In partcolare, l untà d ntegrazone 1 decde come le uscte de modul devono essere combnate per formare l uscta fnale del sstema, e decde qual modul devono apprendere quale esempo del tranng set. Prendendo questa defnzone come punto d partenza, è possble svluppare stratege dfferent per ottenere un algortmo che realzz un smle sstema. Una prma fondamentale dstnzone può essere fatta n base alla modaltà con cu vengono combnate le uscte de sngol modul. Un meccansmo possble è quello d calcolare de valor che vadano a pesarne opportunamente le uscte. Quest valor potranno essere dervat n mod dvers, dando luogo alle due seguent categore d algortm: - Algortm statc: le uscte de modul vengono combnate n manera ndpendente dagl ngress. - Algortm dnamc: le uscte de modul vengono combnate n manera dpendente dagl ngress. Gl algortm statc possono, a loro volta, essere suddvs n pù tpologe dfferent, due delle qual, trattate n questa tes, sono: - Ensemble averagng: le uscte de modul sono combnate lnearmente. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 1

13 - Boostng: un algortmo d apprendmento debole vene convertto n uno che raggunge un arbtraro grado d accuratezza descrtto n un captolo successvo. Gl algortm dnamc pres qu n consderazone sono le cosddette mxtures of experts. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 13

14 Ensemble Averagng Questo algortmo è l pù semplce tra quell che realzzano una rete neurale modulare; può essere tuttava consderato come un prmo approcco dal quale s svluppano successv tramte l aggunta d dettagl specfc. Come s vede dalla fgura, abbamo un certo numero d modul, chamat expert networks, che hanno un ngresso comune, che non s scambano nformazon tra loro e che, tramte un meccansmo nterno che può essere gnoto, generano un uscta. Successvamente, le uscte de sngol modul vengono combnate secondo una certa modaltà per generare l uscta della rete complessva. L ngresso e l uscta sono de vettor n spaz n e n o dmensonal, rspettvamente. Il motvo per cu può rsultare convenente l utlzzo d pù espert anzché d un unca rete neurale dpende dal fatto che 1 l numero d parametr pes snaptc, ad esempo da trattare può essere nferore e ogn esperto convergerà, n genere, n mnm local dfferent sulla superfce che rappresenta l errore, mglorando l uscta complessva come una qualche combnazone delle uscte de sngol espert. Il punto 1 può essere mostrato come segue. Supponamo d avere una rete con n ngress ed m uscte. In una rete neurale tradzonale, ad esempo del tpo a retropropagazone dell errore totalmente connessa, avremmo, consderando la presenza d uno strato nascosto d p untà, un numero d pes snaptc par a: N np + pm p n + m Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 14

15 Supponendo l numero d neuron nello strato nascosto uguale alla meda d quell present negl strat d ngresso e d uscta, s ha: n + m n + m n + m 1 1 N n + m n + m n + m n + nm + m da cu s vede come l numero d snaps sa proporzonale al quadrato della somma del numero d neuron negl strat d ngresso e d uscta. Per fare un paragone, consderamo ora una rete modulare costtuta da K espert, ognuno contenente una rete neurale senza strat nascost. Il numero d snaps sarà ora par a: N ' Knm Ora avremo che N N quando: 1 Knm n + nm + m e qund per valor d K che soddsfano la condzone: n K + nm + m nm n m m n Da questa dsequazone s ha, consderando che stamo trattando con numer nter, che per nm ottenamo l valore mnmo del lmte superore K. Per valor d n ed m dvers, e portando questa dfferenza all estremo ponendo m1, s ha: n 1 n K n Qund, a seconda del numero degl ngress e delle uscte present, possamo utlzzare un numero d modul K compreso nell ntervallo [, n/+1] se voglamo avere un numero d pes snaptc nferore rspetto ad un modello a retropropagazone dell errore. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 15

16 Consderando che K è relatvamente pccolo, s può notare che N <N. Pù avant s vedrà come una rete con una smle confgurazone sa n grado d apprendere cò che apprende una rete a retropropagazone dell errore con strat nascost. Il prncpale svantaggo d questo modello è che ogn modulo che compone la rete non ha la possbltà d dfferenzars dagl altr n nessun modo, n quanto non gl vene fornta nessuna nformazone rguardo l comportamento delle altre expert networks. Cò non vuol dre che dopo la fase d addestramento tutt modul saranno dentc; puttosto ogn modulo modfcherà suo parametr senza essere a conoscenza del contesto n cu opera. Così facendo s avrà rdondanza nell apprendmento d partcolar esemp del tranng set, e per altr esemp potrà non esserc alcun modulo che converga. Inoltre, poché l uscta della rete non è che la meda artmetca delle uscte de modul, non s ha la possbltà d selezonare queste ultme n base alla loro correttezza, ma anz le uscte pù lontane da quella voluta andranno a contamnare quelle che v s avvcnano d pù. D seguto vedremo come rsolvere questo problema con l ntroduzone d un ulterore modulo che s occuperà d medare secondo un qualche crtero le uscte delle expert networks. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 16

17 Mxture of Experts Come scrtto n precedenza, questo modello può essere fatto dervare dall ensemble averagng n quanto la struttura base della rete è sostanzalmente la stessa, con l aggunta d un ulterore modulo, chamato gatng network o untà d ntegrazone secondo la defnzone data da Osherson, che controlla dall esterno le uscte delle expert networks. Anche questo modulo, al par degl altr, può essere consderato come una scatola nera, che ha come ngresso lo stesso vettore a cu accedono gl altr modul della rete, e come uscta un vettore cu element possono essere vst come coeffcent che vanno a pesare le uscte delle expert networks. La gatng network può operare n modaltà dfferent, a seconda d cò che s vuole ottenere. Volendo consderare gl estrem oppost del suo comportamento, può generare un vettore d uscta cu element sano sempre ugual ad un valore costante uguale a 1/k, dove k è l numero d expert networks da controllare. In questa modaltà la rete s comporta esattamente come l modello ensemble averagng. All estremo opposto, la gatng network può, n funzone dell ngresso corrente, selezonare una sola expert network e consderare la sua uscta come l uscta della rete complessva. In questo caso ottenamo un algortmo del tpo wnner-takesall. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 17

18 Un comportamento ntermedo può essere quello d ottenere l uscta della rete tramte una somma pesata delle uscte d tutte le expert networks, dove pes dpendono dall ngresso corrente. In entramb quest due ultm cas, la gatng network non solo vara le propre uscte a seconda dell ngresso corrente, ma modfca anch essa l suo comportamento attraverso una fase d addestramento, tramte l quale può apprendere l crtero secondo cu controllare le uscte degl altr modul. Un altro compto fondamentale della gatng network è quello d controllare tass d apprendmento delle expert networks, sempre relatvamente all ngresso corrente contnuo a rpetere questa nota rguardo l ngresso corrente, n quanto è d fondamentale mportanza per questo genere d algortmo; naturalmente non è una condzone necessara, ma n sua assenza s ottene un algortmo completamente dverso. S può qund dre che la gatng network apprende la modaltà secondo la quale le expert networks devono apprendere, che n ambedue le fas s utlzza lo stesso tranng set, e che quest process possono/devono essere esegut n parallelo. Analogamente a quanto avvene nel modello ensemble averagng, anche n questo caso le expert networks non s scambano nformazon tra loro, e l unco modo n cu possono ndrettamente nteragre è tramte la funzone svolta dalla gatng network. Inoltre, graze a questo partcolare modulo, vengono superat problem conness al precedente tpo d rete neurale. Ora le expert networks hanno una qualche nformazone che permette loro d dfferenzars le une dalle altre, qund la rdondanza sarà nferore e ogn modulo potrà specalzzars su partcolar esemp del tranng set. Analzzando la fase d apprendmento da un altro punto d vsta, s hanno le due seguent modaltà: - apprendmento supervsonato: possono essere fornte le uscte corrette alle expert networks; Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 18

19 - apprendmento non supervsonato: le expert networks competono nel fornre una rsposta e nell apprendere l corrspondente esempo, attraverso l nfluenza della gatng network. Qund, termnata la fase d addestramento della rete, s ha uno spazo d ngresso partzonato n modo tale che ogn expert network modell bene l sottospazo assegnatole. Questo partzonamento permette d rappresentare relazon ngresso-uscta dscontnue n modo naturale; se s vuole approssmare una superfce d grado n, s possono utlzzare pù superfc d grado m, dove m<n. Le expert networks possono qund essere relatvamente semplc, n quanto devono apprendere solo pezz della funzone obbettvo. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 19

20 4. Raffronto con algortm d "Boostng" Il boostng è un metodo statco, che però s dfferenza notevolmente dall ensemble averagng che pure s colloca nella stessa classe d algortm. Infatt, mentre nella seconda categora tutt gl espert vengono addestrat sullo stesso nseme d esemp, nel boostng gl espert sono addestrat su nsem d dat che possono essere completamente dstnt. Il boostng può essere anche vsto come una metodologa generale per mglorare le prestazon d un qualunque algortmo d apprendmento. Esstono fondamentalmente tre mod per mplementare l boostng: 1. Boostng by flterng Boostng attraverso fltraggo: gl esemp per l addestramento vengono fltrat da dfferent verson d un algortmo d apprendmento debole; vene assunta la dsponbltà d un numero d esemp tendente all nfnto, che vengono scartat o meno durante l addestramento.. Boostng by subsamplng Boostng attraverso rpescaggo : vene utlzzato un numero d esemp fssato n partenza; quest vengono resamnat durante l addestramento secondo una certa dstrbuzone d probabltà. 3. Boostng by reweghtng Boostng attraverso rcalcolo de pes: analogo al precedente; n questo caso però l algortmo d apprendmento debole rceve degl esemp pesat, e l errore vene calcolato tenendo conto d questo peso. D seguto verrà trattato l boostng by flterng [Schapre, 1990]. Accennamo nnanz tutto al concetto d apprendmento PAC Probably Approxmately Correct. Vene n questo contesto defnta la nozone d concetto concept come una funzone Booleana che ha come varable ndpendente una codfca d un oggetto. Nell apprendmento PAC una enttà prova ad dentfcare un concetto bnaro sconoscuto sulla base d una sere d Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 0

21 esemp scelt a caso rguardo quel concetto. L obbettvo d un sstema che apprende è quello d trovare una potes con un tasso d errore mnore o uguale ad, dove è un valore postvo arbtraramente pccolo, n modo che l potes sa valda per tutt gl ngress possbl con una probabltà par a 1-, dove è un pccolo numero postvo. Queste caratterstche fanno dell apprendmento PAC un modello d apprendmento forte strong learnng model. Esste una varante del modello PAC, chamata modello d apprendmento debole weak learnng model, dove requst sono molto meno strngent. Il sstema deve ora trovare un potes con un tasso d errore solo leggermente nferore ad 1/, che corrsponde ad una scelta casuale. Schapre ha dmostrato che se è possble apprendere un concetto n modo debole, allora è possble apprendere lo stesso concetto n modo forte, rendendo equvalent due tp d apprendmento. Nel boostng by flterng sono present tre expert networks, addestrate, appunto, da un algortmo d boostng. Chamando quest espert A, B e C, questo è l algortmo che l controlla: 1. L esperto A vene addestrato su un prmo nseme d N 1 esemp.. L esperto A, ora addestrato, vene usato per fltrare un secondo nseme d esemp nel seguente modo: - Scegl n modo casuale una delle due seguent alternatve:. Passa nuov esemp attraverso l esperto A e scarta gl esemp classfcat correttamente fnché un esempo non vene classfcato n modo errato. Aggung quest ultmo esempo al tranng set dell esperto B.. Fa l opposto. Passa nuov esemp attraverso l esperto A e scarta gl esemp classfcat n modo errato fnché un esempo non vene classfcato correttamente. Aggung quest ultmo esempo al tranng set dell esperto B. Contnua questo processo fnché un totale d N 1 esemp sono stat fltrat dall esperto A. Questo nseme d esemp selezonat costtusce l tranng set dell esperto B. Seguendo questa procedura, s ottene che, se all esperto A vene passato l secondo Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 1

22 nseme d esemp, s otterrebbe un errore par ad 1/. Qund l secondo nseme d N 1 esemp usato per addestrare l esperto B ha una dstrbuzone completamente dfferente da quella del prmo nseme d N 1 esemp utlzzato per l esperto A. 3. Ora che anche l esperto B è stato addestrato, un terzo nseme d esemp vene prodotto per l esperto C nel modo seguente: - Passa un nuovo esempo attraverso gl espert A e B; se quest danno la stessa rsposta, scarta l esempo. Altrment aggung l esempo al tranng set dell esperto C. - Contnua fnché nel tranng set dell esperto C non s trovano N 1 esemp. L addestramento del sstema è ora termnato. Una caratterstca da notare d questo algortmo è che, pur necesstando d un gran numero d esemp per poter operare, n realtà utlzza solo un sottonseme d quest dat per l addestramento. Inoltre, graze al meccansmo d selezone degl esemp da apprendere, l esperto B s lmta ad apprendere dettagl che sfuggono all esperto A, mentre l esperto C apprende cò che sfugge contemporaneamente ad A e a B. Supponendo che tre espert abbano un tasso d errore <1/ relatvamente alla dstrbuzone per la quale sono stat addestrat, s ha che l errore globale g è par al massmo a: g 3 ε 3ε ε Consderando che l algortmo d boostng può essere applcato rcorsvamente, s ha che l errore globale può essere rdotto arbtraramente. Da cò derva che un algortmo d apprendmento debole, che s comporta solo leggermente meglo d una scelta casuale, vene convertto n un algortmo d apprendmento forte. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00

23 5. Parallelsm con l sstema nervoso centrale Il sstema nervoso centrale, da cu s traggono spesso spunt n questo settore della rcerca, può essere vsto come una struttura altamente modulare, a cu s sovrappone una organzzazone d tpo gerarchco: d conseguenza, a dverse scale d osservazone, s notano tpologe specfche d modul, nsert n modul d lvello pù alto, e costtut da sottomodul pù semplc. Consderando l sstema nervoso nel suo complesso, possamo ndvduare seguent component prncpal: - I due emsfer cerebral, che presedono alle pù alte funzon cogntve, percettve e motore. Sono rvestt dalla cortecca, una struttura a 6 strat caratterzzat da un gran numero d connesson rcorrent. Qu sono dentfcabl tpologe dfferent d modul, a seconda della scala d osservazone che adottamo: s va da zone relatvamente estese d cortecca fno alle colonne cortcal. I neuron qu present sono generalmente sensbl ad alcune caratterstche de segnal d ngresso, come ad esempo ad alcune specfche bande d frequenza sonore per quanto rguarda segnal acustc, o ad alcun color relatvamente alla cortecca vsva questo tpo d comportamento è smulable n modo relatvamente effcente tramte wavelets. La rsposta d quest neuron alle caratterstche de segnal n ngresso dpende fortemente dall esperenza e dall apprendmento. Le snaps cortcal generalmente seguono una regola d tpo Hebbano per quanto rguarda la modfca de loro pes: vengono potenzate quando v è concdenza tra segnale presnaptco e rsposta postsnaptca, e vengono depotenzate quando questo sncronsmo non è presente. - Il cervelletto, che regola la forza e la precsone de movment, controlla l loro apprendmento, l equlbro e movment ocular. Ha un organzzazone anatomca Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 3

24 estremamente unforme, ed una modaltà d trasmssone nterna pratcamente d tpo feedforward. Se ne può dentfcare una struttura modulare nelle cosddette mcrozone, composte da crca 3000 cellule d Purknje cascuna. Queste, a loro volta, sono partcolar tp d neuron che hanno due dvers tp d ngress: un prmo gruppo d fbre parallel fbers trasmette un determnato segnale ad esempo la codfca d un movmento da esegure, mentre una fbra dstnta clmbng fber codfca gl error commess dal neurone. In questo modo, l attvazone concdente d una parallel fber e della clmbng fber nduce una depressone a lungo termne LTD della parallel fber. - I gangl basal, convolt n aspett d alto lvello de movment, e ne movment nvolontar; sono caratterzzat da una struttura crcutale parallela con molteplc ve nbtore. Rcevono segnal dalla cortecca e trasmettono loro segnal al talamo, che, essendo a sua volta collegato con la cortecca, permette d realzzare un crcuto chuso. La struttura modulare che è qu dentfcable è costtuta da canal d uscta output channels. Dat spermental hanno messo n evdenza che gangl basal sono fondamental nell apprendmento e nell esecuzone d azon che hanno un fne precso e d tpo sequenzale, come ad esempo tutte le attvtà che hanno come conseguenza l ottenmento d una rcompensa. - Il dencefalo, che fa da struttura d raccordo tra vare part del sstema nervoso. - Il tronco dell encefalo, che rceve nformazon dagl organ d senso dell udto, dell equlbro e del gusto e controlla muscol faccal e bulb ocular. - Il mdollo spnale, che è sa l canale d comuncazone con la perfera, sa una regone dove vengono elaborat segnal n modo rflesso e qund nvolontaro. Per un approfondmento dal punto d vsta anatomco e fsologco del sstema nervoso, s veda [Kandel et al., 1991]. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 4

25 Secondo le teore pù dffuse rguardo l funzonamento del cervello, ogn sua parte sarebbe destnata a compt specfc, come l controllo motoro, l elaborazone de segnal sensoral, o l ragonamento. In quest ultm ann, però, s sta facendo strada un altra nterpretazone del ruolo svolto da dverse regon del sstema nervoso centrale [Doya, 1999]. Uno de motv che hanno spnto n questa drezone è l fatto che una sere d compt sembrano essere svolt contemporaneamente da dverse aree del cervello, che noltre sono tra loro collegate e sembrano attvars recprocamente. L potes, n parte confermata spermentalmente, su cu s basa questa teora consste n quanto segue: Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 5

26 - Il cervelletto sarebbe specalzzato nel realzzare una forma d apprendmento d tpo supervsonato tramte l nterazone tra parallel fbers e clmbng fber. Una delle sue funzon sarebbe quella d rcostrure un modello nterno dell ambente. - I gangl basal utlzzerebbero un apprendmento con rnforzo, per valutare determnate stuazon e selezonare una azone conseguente. - La cortecca cerebrale, nvece, funzonerebbe n modo non supervsonato, rappresentando lo stato dell ambente esterno e del contesto nterno. Inoltre, non essendo drettamente collegat, mette n comuncazone cervelletto e gangl basal attraverso l talamo. D conseguenza, un determnato compto può essere portato a termne tramte la cooperazone d pù part del cervello che operano con algortm dfferent, e allo stesso tempo una sngola parte del cervello può essere utlzzata per compt dvers a seconda della strada seguta al suo nterno dalle nformazon e dalla loro successva area obbettvo. Nella seguente fgura sono rappresentat percors segut da segnal all nterno del sstema nervoso centrale. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 6

27 S può notare come alcune aree sano collegate tra loro n modo bdrezonale la cortecca con l talamo mentre altre permettano l flusso de segnal lungo una sola drezone cortecca gangl basal, gangl basal talamo, cortecca cervelletto, cervelletto talamo. D altra parte tutt canal d trasmssone present gl asson, dendrt e le snaps sono undrezonal, qund per realzzare un canale bdrezonale è necessaro avere un nseme d lnee che trasmettano nformazon n una drezone, e un altro nseme dstnto dal precedente che le trasmetta nella drezone opposta. Dalla drezone delle frecce nella fgura precedente s può notare come non esstano punt stazonar; d conseguenza, n lnea teorca, un segnale può attraversare un numero ndefnto d Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 7

28 volte le stesse zone del cervello. *** Tutte queste untà sono a loro volta costtute da strutture d lvello nferore, che varano a seconda della funzone svolta. Al lvello pù basso trovamo neuron, dendrt e le snaps. In quanto segue verrà fatta l potes che neuron utlzzno una funzone d attvazone applcata alla loro uscta. Non dovrebbero esserc problem, però, nel generalzzare la rete modulare per farle mpegare modell pù realstc come ad esempo gl spkng neurons, che, pur comportando un costo computazonale superore, permettono d realzzare funzon fuor dalla portata de neuron classc. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 8

29 6. Descrzone analtca d una rete con archtettura Mxture of Experts Rproponamo l dagramma della rete neurale complessva ed adottamo una notazone per rappresentarla n modo analtco: Notazone: x vettore d ngresso d dmensone p; y vettore d uscta d dmensone q; d uscta corretta d dmensone q; K numero d expert networks; y vettore d uscta della -esma expert network d dmensone q; g vettore d uscta della gatng network d dmensone K; h w a e probabltà a posteror che la -esma expert network gener l uscta attuale; vettore de pes snaptc delle expert networks; vettore de pes snaptc della gatng network; errore.

30 Vsta come una scatola nera, la rete è analoga ad una tpca rete neurale supervsonata, sa per quanto rguarda la sua comuncazone con l'esterno, sa per quanto rguarda l modo n cu l suo funzonamento è percepto. Denotamo l'ngresso della rete con l vettore x d dmensone p, l'uscta con l vettore y e l'uscta corretta con d entramb d dmensone q; quest ultma verrà utlzzata durante la fase d addestramento per valutare l errore commesso. Sa K l numero d expert networks present. Indchamo l'uscta della -esma expert network con y sempre d dmensone q, dove vara da 1 a K, e l'uscta della gatng network con g, vettore d K component. Il vettore d uscta della rete modulare sarà funzone de vettor d uscta delle expert networks e del vettore g; n partcolare è comodo utlzzare una combnazone lneare de vettor pesat da valor g : y K g 1 y Consderamo adesso l comportamento della gatng network: come scrtto n precedenza, questa può operare n dverse modaltà, a seconda dell algortmo che s ntende ottenere. D seguto verrà trattato l caso n cu vene fatta una somma pesata delle uscte delle expert networks, con l ulterore vncolo d forzare la somma delle uscte g ad 1, g 0. In questo modo sarà possble nterpretare valor fornt come delle probabltà assocate alle sngole expert networks. Pù precsamente l valore assunto da una uscta della gatng network rappresenta la probabltà a pror coè la probabltà basata solo sullo stato degl ngress, con l'uscta corretta ncognta che la corrspondente expert network sta fornendo una rsposta corretta. Indcando con u valor d uscta della gatng network non ancora normalzzat, con G, la funzone che rappresenta l funzonamento d questo modulo, e con a un nseme d parametr d controllo, s ha: u x, a G Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 30

31 Per rspettare l vncolo precedente che mpone g 1, g 0, s può utlzzare la funzone softmax: g exp u j exp u j da cu s deduce che le seguent condzon devono essere soddsfatte: 0 g 1, g 1 K 1 Volendo mplementare la gatng network tramte una classca rete neurale senza strat nascost e con funzone d attvazone lneare, s ottene la seguente espressone per G, : u T x a dove l vettore a rappresenta pes snaptc della rete n questone, e x T è la matrce trasposta d x. Per quanto rguarda le expert networks, queste possono avere una struttura e un modo d funzonamento molto dvers tra loro, anche all'nterno della stessa rete modulare. Una lsta ncompleta degl algortm che possono essere utlzzat per realzzarle è la seguente: - ret neural supervsonate o non supervsonate; - ret feed-forward o rcorrent; - algortm fuzzy; - algortm genetc; - metod statstc; - metod smbolc; - sstem espert; - Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 31

32 Indcando con y l vettore d uscta della -esma expert network, rappresentata n modo generco con E,, e con w relatv parametr d controllo, s ha: y E x, w Da questa equazone s può notare che parametr present non sono solo vettor w, ma c è anche una dpendenza dal genere d modul utlzzat, che possono essere d tpo dverso all nterno dello stesso sstema ndce n E. Come s vedrà pù avant, quest competeranno tra loro per fornre la soluzone e per apprendere l esempo corrspondente, e saranno qund soggett ad una sorta d selezone naturale che comporterà una evoluzone della struttura. Inoltre, a dfferenza d quanto avvene per altr algortm tra cu quello d boostng, la competzone tra modul non avvene n modo globale su tutto l tranng set, cercando l'elemento mglore n senso assoluto. Puttosto le expert networks s confrontano d volta n volta sul sngolo esempo n esame, e relatvamente a questo avvene la competzone. D conseguenza, con l procedere dell'addestramento, alcun modul s specalzzeranno su un sottonseme de possbl ngress, mentre altr modul s faranno carco degl altr. In altr termn, l compto della gatng network è quello d partzonare n modo lneare o non lneare lo spazo d ngresso, e d assegnare sottospaz corrspondent a specfche expert networks. Questo partzonamento, realzzato durante la fase d addestramento, può essere fatto n modo rgdo o sfumato. Nel prmo caso ad un certo nseme d valor d ngresso può corrspondere una ed una sola expert network ed n questo caso l sstema s comporta come una rete wnner takes all o un nseme defnto d expert networks se la gatng network fornsce uscte d tpo bnaro. Nel secondo caso ogn vettore d ngresso vene elaborato da tutte le expert network present, che contrburanno alla formazone dell uscta n modo varable ed n funzone del comportamento della gatng network. Qund tra le partzon n cu Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 3

33 vene suddvso lo spazo d ngresso non s possono ndvduare confn nett come nel prmo caso, ma puttosto s avranno delle aree delmtate da permetr fuzzy dove le aree e permetr s ntendono n uno spazo n dmensonale. Questa forma d competzone/cooperazone permette d ottenere buon rsultat con algortm estremamente semplc: l motvo è che essendo lo spazo de valor d ngresso partzonato dalla gatng network, ogn expert network s trova a dover rsolvere solo un sotto-problema meno complesso d quello d partenza. D seguto, qund, consdererò solo expert networks formate da ret neural supervsonate, feed-forward, costtute d un unco strato d neuron. S tenga presente, comunque, che la dscussone che segue può essere mmedatamente generalzzata a qualsas tpo d modulo s vogla utlzzare. * * * Per ottenere un algortmo d qualunque tpo, è necessaro nnanz tutto stablre qual nformazon nzal s hanno a dsposzone, e quale obbettvo s vuole raggungere. Nel caso degl algortm d apprendmento supervsonato, l'obbettvo è quello d modellare la dstrbuzone d probabltà del tranng set, rappresentable tramte un nseme d coppe ngresso-uscta desderata {x,d}, che costtuscono le nformazon nzal. D altra parte, per modellare una dstrbuzone d probabltà s può massmzzare la funzone d verosmglanza lkelhood. Tenendo presente che, nel caso n esame, le expert networks e la gatng network vengono addestrate contemporaneamente, consderamo l funzonamento del prmo tpo d rete. Data la -esma expert network, questa è la sua funzone d verosmglanza: f 1 d x, π 1 exp d y q / Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 33

34 E' mmedato verfcare come questa funzone cresca con l tendere d y a d, e tenda a zero n caso contraro. Qund la verosmglanza cresce con l avvcnars della rsposta fornta alla rsposta corretta. Lo scopo della sotto-rete n questone è allora quello d massmzzare l valore d f. Prendendo ora n consderazone la rete complessva, possamo scrvere una equazone che legh pù expert networks tramte la gatng network: K K 1 1 f d x g f d x, g exp d y q / 1 π 1 Questa equazone rappresenta una dstrbuzone d probabltà chamata modello d mstura gaussana assocatva una brutta traduzone d assocatve Gaussan mxture model, dove l termne assocatva ndca che l'apprendmento è basato sull'assocazone tra un ngresso e la corrspondente uscta corretta. I parametr da calcolare per massmzzare questa funzone d verosmglanza sono pes snaptc w delle expert networks e pes snaptc a della gatng network s not che anche se vettor w ed a non compaono esplctamente nella precedente equazone, valor d y e g ne dpendono drettamente. Poché sarà pù semplce lavorare con l logartmo naturale d f d x, defnamo la seguente funzone che utlzzeremo n seguto: l w, g ln f d x Precedentemente abbamo consderato la probabltà a pror g che la -esma expert network generasse l'uscta. Questa probabltà è stata defnta a pror propro perché l'uscta stessa non era nota, ma lo erano solo gl ngress. Ora, conoscendo l uscta corretta d, possamo utlzzare la funzone d verosmglanza trovata per modfcare parametr che nfluenzano l funzonamento della rete neurale: pes snaptc delle expert networks e della gatng network. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 34

35 Defnamo la probabltà a posteror h che la -esma expert network gener l uscta attuale: 1 g exp d y h 1,..., K K 1 g j j exp d y 1 j Questo è l rapporto tra la funzone d verosmglanza della expert network che stamo consderando e la somma delle funzon d verosmglanza d tutte le expert networks, dove tutt termn sono pesat da corrspondent element del vettore g. Dunque la probabltà a posteror h dpende sa dalla correttezza della rsposta data, sa dalla probabltà a pror g che la -esma expert network ha d rspondere al partcolare ngresso presentato. Qund, qualunque sa l algortmo d apprendmento utlzzato dalle expert networks, la modfca de loro parametr deve essere pesata da valor h. Così facendo è possble addestrare prncpalmente le expert networks che per l ngresso n questone s mostrano mglor delle altre, lascando a queste ultme la possbltà d specalzzars per altr element del tranng set. Inoltre, n questo contesto, l fattore g può essere vsto come una sorta d nerza, che agevola l apprendmento de modul che s erano dmostrat mglor nelle terazon precedent per gl stess o per sml valor d ngresso. E attraverso questo meccansmo, dunque, che s realzza la competzone tra dvers modul della rete. Come per le uscte della gatng network, anche per valor h valgono le seguent condzon: 0 h 1, h 1 K 1 Vedamo ora come modfcare pes delle snaps contenute nelle expert networks per rsolvere un problema d regressone, consderando neuron con funzone d attvazone lneare regolat dalla relazone: y m T x w m 1,..., K m 1,..., q Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 35

36 Anals e Svluppo d una Rete Neurale Modulare Petro Mele Poché voglamo che l uscta della expert network n questone s avvcn all uscta corretta, dobbamo massmzzare l logartmo della funzone d verosmglanza defnto precedentemente. Dervamo dunque questa funzone rspetto a parametr da modfcare, coè pes snaptc: Da quanto appena potzzato rguardo l funzonamento de neuron, s ottene che fattor a secondo membro della precedente equazone sono par a: m m m m y y l l w w x w m m y / 1 exp exp exp 1 ln, ln ln m m m m K j j j K j j j q m K j j m m m y d h y d g g g y j f g y f y y l y d y d y d x d x d π

37 Anals e Svluppo d una Rete Neurale Modulare Petro Mele Combnando le tre precedent equazon s ottene: Ora dobbamo spostarc nella drezone d massma crescta del gradente d l nello spazo de pes; qund modfchamo w nel seguente modo: dove l parametro è un pccolo tasso d apprendmento. Utlzzando come algortmo d rsoluzone l metodo d Eulero n avant, ndcando con n l attuale passo d calcolo, s ottene la seguente regola d aggornamento per w: Pur essendo l metodo d Eulero n avant esplcto, del prmo ordne l pù semplce ed mmedato per rsolvere questo tpo d equazon, ha l dfetto d essere molto nstable e, d conseguenza, rchede valor d molto pccol per non dvergere. Non ha quest dfett l metodo d Eulero all ndetro mplcto, ancora del prmo ordne, che è sempre stable, e che permette d utlzzare valor d molto pù grand e graze a cò, pur avendo un costo computazonale superore per sngolo passo d calcolo, è pù effcente del metodo d Eulero n avant. La corrspondente regola d aggornamento è: x w w m m m e h l η η 1 n n n m m m w w w + + x x w m m m m e h y d h l n n n m m m w w w

38 Anals e Svluppo d una Rete Neurale Modulare Petro Mele Consderamo adesso l funzonamento della gatng network, che assumerò composta da un unco strato d neuron come fatto n precedenza. Questo tpo d rete ha un numero d untà d uscta uguale al numero d expert networks present, poché propro a queste sono drett segnal da le generat. Inoltre, come abbamo vsto precedentemente, le uscte vengono normalzzate nel seguente modo per poterne dare un nterpretazone probablstca: L obbettvo della gatng network, durante la fase d addestramento, è quello d modfcare propr parametr pes snaptc contenut nel vettore a affnché le probabltà a pror g tendano alle probabltà a posteror h. Sosttuamo allora la precedente espressone nella funzone che da l logartmo della verosmglanza lw,g: j j u u g exp exp + K j j K q K j j q K q K u u u u g f g f l 1 1 / 1 / 1 / 1 exp ln 1 exp exp ln 1 ln 1 exp exp exp 1 ln 1 exp 1 ln, ln ln, y d y d y d x d x d g w π π π

39 Anals e Svluppo d una Rete Neurale Modulare Petro Mele Ora, per trovare la drezone n cu modfcare pes snaptc contenut nel vettore a, dervamo l logartmo della verosmglanza rspetto a quest parametr: Da quanto rcavato precedentemente, s ha: da cu: Per ottenere un massmo dalla funzone d verosmglanza ponamo l/a uguale a zero, l che vuol dre che la probabltà a pror g deve tendere alla probabltà a posteror h: K j j j K q K g h g u g u f g u f u u l 1 1 / 1 1 exp ln 1 exp 1 ln, ln ln y d y d x d x d π x a a x a T u u u l l a a x a a g h u u l l

40 l a h g x 0 h g La varazone de pes a è allora: l a η η h g x a che, appunto, s stablzza quando g tende a h. Come s può notare non c è retro-propagazone dell errore n quanto tutt modul sono compost da ret con un sngolo strato d neuron. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 40

41 7. Descrzone d una possble mplementazone tramte l lnguaggo d modellazone UML D seguto presenterò la struttura del programma che sto svluppando per la smulazone d una rete neurale modulare. Utlzzerò l lnguaggo d modellazone UML Unfed Modelng Language, che da qualche anno è dvenuto uno standard nella rappresentazone grafca d algortm, sstem, process, bas d dat, e d tutto cò che è rconducble ad una struttura ad oggett. Per una ntroduzone a questo argomento s veda l appendce B e [Fowler, 000]. Innanztutto rpropongo lo schema mostrato n precedenza che rappresenta la struttura d un modello basato su Mxture of Experts, che permetterà d assocare component descrtt successvamente con la funzone da loro svolta: Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 41

42 Seguendo lo stle UML, vedamo l sstema dal punto d vsta dell utlzzatore, umano o non umano, reale o astratto, con cu l programma dovrà nteragre. Ecco allora l dagramma use-case corrspondente: In questo schema è possble notare le due modaltà che s hanno a dsposzone per nteragre con l sstema: svolgendo l ruolo d utente user o d nsegnante teacher. Mentre l prmo ruolo può essere svolto da un utente reale, l secondo sarà pù convenentemente svolto da un Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 4

43 fle o da una base d dat contenente l nseme degl esemp per l addestramento e la valdazone della rete. All nterno degl oval s trovano le vare funzon svolte dal programma, così come sono percepte dall utlzzatore: come prmo passo, dopo aver nquadrato l problema da affrontare, s deve defnre la rete n termn d dmensone de vettor d ngresso e d uscta, oltre che d dmensonamento de component ntern numero e tpologa d Expert Networks, lvello d ndfcazone delle strutture dat, ecc.. Successvamente s dovrà provvedere all nsermento del tranng set e del valdaton set. A questo punto s potrà nzare l addestramento, per po passare all utlzzo del sstema una volta sces sotto una sogla d errore prefssata. Il dagramma use-case utlzzato, rappresentando la vsone che s ha del sstema dall esterno, è molto generco e può essere applcato ad una rete neurale o addrttura ad un algortmo d apprendmento qualsas. Come passo successvo consderamo la struttura nterna del programma tramte una sere d dagramm d classe class dagrams, che adesso sono legat all mplementazone specfca. Seguamo un approcco top-down, che c permetterà d esamnare l sstema a partre da blocch gerarchcamente a pù alto lvello: Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 43

44 Da questo punto d vsta, l programma può essere scomposto n due class: Mnn che rappresenta la rete vera e propra, e TranngSet che rappresenta l nseme d esemp per l addestramento e la valdazone raccolt nella stessa classe e gestt n modo omogeneo. D seguto abbamo un dagramma equvalente al precedente, ma pù dettaglato: Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 44

45 Ora esplodamo la classe Mnn ed esamnamone la struttura. Scendendo d un lvello nella gerarcha, trovamo che la rete modulare complessva è costtuta da uno o pù oggett d classe Cluster, che possono essere vst come contentor che racchudono altr sotto-modul. Quest sotto-modul, le Expert Networks, sono quell che ho realzzato con delle ret neural, ma che n realtà possono funzonare con algortm qualsas, anche dvers tra loro all nterno dello stesso cluster e che possono competere o collaborare nel fornre l uscta corrspondente all ngresso corrente. Da quanto scrtto durante la descrzone analtca della rete, abbamo che ogn cluster può contenere pù expert networks e una sola gatng network. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 45

46 Nel precedente dagramma UML, l smbolo d rombo presente ad una estremtà delle lnee che collegano le class esprme un relazone d classe ndfcata nner class o nested class. La frecca tratteggata nvece ndca che le class corrspondent sono n qualche modo collegate e che possono scambars nformazon. I numer e gl astersch ndcano la molteplctà esstente nella relazone, n modo analogo a quanto avvene ne dagramm Enttà-Relazone utlzzat per modellare le bas d dat. Scendamo ora pù nel dettaglo, andando ad esamnare la relazone gerarchca esstente tra tutt modul dal lvello pù alto al pù basso. Nel dagramma che segue, s può notare che la classe che rappresenta le Expert Networks è una classe astratta l suo nome è scrtto n corsvo; n questo modo l concetto d Expert Network vene reso generco, permettendone una manpolazone unforme ndpendentemente da come verranno effettvamente mplementate le sue class dervate. In questo caso le class dervate mostrate rappresentano una rete neurale d tpo classco senza strat nascost e una lsta de possbl algortm alternatv utlzzabl. Tra quest s not che v può essere anche un cluster d lvello nferore, n modo da poter realzzare una struttura che s ndfca rcorsvamente. Le altre possbltà ndcate rguardano l utlzzo d ret neural rcorrent, sstem fuzzy e algortm genetc. Quest ultm, nel contesto del modello che sto presentando, possono essere d due tp: - algortm genetc racchus n modul che ne mascherano l funzonamento, che s nterfaccano con l esterno solo tramte loro ngress e uscte; - un algortmo genetco che fa evolvere la struttura della rete complessva s veda cap. 13. Un dscorso analogo s può fare per la gatng network, qu rappresentata come un rete neurale generca. Anals e Svluppo d una Rete Neurale Modulare Petro Mele 00 46

Metodi e Modelli per l Ottimizzazione Combinatoria Progetto: Metodo di soluzione basato su generazione di colonne

Metodi e Modelli per l Ottimizzazione Combinatoria Progetto: Metodo di soluzione basato su generazione di colonne Metod e Modell per l Ottmzzazone Combnatora Progetto: Metodo d soluzone basato su generazone d colonne Lug De Govann Vene presentato un modello alternatvo per l problema della turnazone delle farmace che

Dettagli

La retroazione negli amplificatori

La retroazione negli amplificatori La retroazone negl amplfcator P etroazonare un amplfcatore () sgnfca sottrarre (o sommare) al segnale d ngresso (S ) l segnale d retroazone (S r ) ottenuto dal segnale d uscta (S u ) medante un quadrpolo

Dettagli

Capitolo 3 Covarianza, correlazione, bestfit lineari e non lineari

Capitolo 3 Covarianza, correlazione, bestfit lineari e non lineari Captolo 3 Covaranza, correlazone, bestft lnear e non lnear ) Covaranza e correlazone Ad un problema s assoca spesso pù d una varable quanttatva (es.: d una persona possamo determnare peso e altezza, oppure

Dettagli

Ministero della Salute D.G. della programmazione sanitaria --- GLI ACC - L ANALISI DELLA VARIABILITÀ METODOLOGIA

Ministero della Salute D.G. della programmazione sanitaria --- GLI ACC - L ANALISI DELLA VARIABILITÀ METODOLOGIA Mnstero della Salute D.G. della programmazone santara --- GLI ACC - L ANALISI DELLA VARIABILITÀ METODOLOGIA La valutazone del coeffcente d varabltà dell mpatto economco consente d ndvduare gl ACC e DRG

Dettagli

Introduzione al Machine Learning

Introduzione al Machine Learning Introduzone al Machne Learnng Note dal corso d Machne Learnng Corso d Laurea Magstrale n Informatca aa 2010-2011 Prof Gorgo Gambos Unverstà degl Stud d Roma Tor Vergata 2 Queste note dervano da una selezone

Dettagli

PROCEDURA INFORMATIZZATA PER LA COMPENSAZIONE DELLE RETI DI LIVELLAZIONE. (Metodo delle Osservazioni Indirette) - 1 -

PROCEDURA INFORMATIZZATA PER LA COMPENSAZIONE DELLE RETI DI LIVELLAZIONE. (Metodo delle Osservazioni Indirette) - 1 - PROCEDURA INFORMATIZZATA PER LA COMPENSAZIONE DELLE RETI DI LIVELLAZIONE (Metodo delle Osservazon Indrette) - - SPECIFICHE DI CALCOLO Procedura software per la compensazone d una rete d lvellazone collegata

Dettagli

Trigger di Schmitt. e +V t

Trigger di Schmitt. e +V t CORSO DI LABORATORIO DI OTTICA ED ELETTRONICA Scopo dell esperenza è valutare l ampezza dell steres d un trgger d Schmtt al varare della frequenza e dell ampezza del segnale d ngresso e confrontarla con

Dettagli

Il modello markoviano per la rappresentazione del Sistema Bonus Malus. Prof. Cerchiara Rocco Roberto. Materiale e Riferimenti

Il modello markoviano per la rappresentazione del Sistema Bonus Malus. Prof. Cerchiara Rocco Roberto. Materiale e Riferimenti Il modello marovano per la rappresentazone del Sstema Bonus Malus rof. Cercara Rocco Roberto Materale e Rferment. Lucd dstrbut n aula. Lemare 995 (pag.6- e pag. 74-78 3. Galatoto G. 4 (tt del VI Congresso

Dettagli

Variabili statistiche - Sommario

Variabili statistiche - Sommario Varabl statstche - Sommaro Defnzon prelmnar Statstca descrttva Msure della tendenza centrale e della dspersone d un campone Introduzone La varable statstca rappresenta rsultat d un anals effettuata su

Dettagli

STATISTICA DESCRITTIVA - SCHEDA N. 5 REGRESSIONE LINEARE

STATISTICA DESCRITTIVA - SCHEDA N. 5 REGRESSIONE LINEARE Matematca e statstca: da dat a modell alle scelte www.dma.unge/pls_statstca Responsabl scentfc M.P. Rogantn e E. Sasso (Dpartmento d Matematca Unverstà d Genova) STATISTICA DESCRITTIVA - SCHEDA N. REGRESSIONE

Dettagli

Relazione funzionale e statistica tra due variabili Modello di regressione lineare semplice Stima puntuale dei coefficienti di regressione

Relazione funzionale e statistica tra due variabili Modello di regressione lineare semplice Stima puntuale dei coefficienti di regressione 1 La Regressone Lneare (Semplce) Relazone funzonale e statstca tra due varabl Modello d regressone lneare semplce Stma puntuale de coeffcent d regressone Decomposzone della varanza Coeffcente d determnazone

Dettagli

* * * Nota inerente il calcolo della concentrazione rappresentativa della sorgente. Aprile 2006 RL/SUO-TEC 166/2006 1

* * * Nota inerente il calcolo della concentrazione rappresentativa della sorgente. Aprile 2006 RL/SUO-TEC 166/2006 1 APAT Agenza per la Protezone dell Ambente e per Servz Tecnc Dpartmento Dfesa del Suolo / Servzo Geologco D Itala Servzo Tecnologe del sto e St Contamnat * * * Nota nerente l calcolo della concentrazone

Dettagli

Condensatori e resistenze

Condensatori e resistenze Condensator e resstenze Lucano attaa Versone del 22 febbrao 2007 Indce In questa nota presento uno schema replogatvo relatvo a condensator e alle resstenze, con partcolare rguardo a collegament n sere

Dettagli

Macchine. 5 Esercitazione 5

Macchine. 5 Esercitazione 5 ESERCITAZIONE 5 Lavoro nterno d una turbomacchna. Il lavoro nterno massco d una turbomacchna può essere determnato not trangol d veloctà che s realzzano all'ngresso e all'uscta della macchna stessa. Infatt

Dettagli

Ricerca Operativa e Logistica Dott. F.Carrabs e Dott.ssa M.Gentili. Modelli per la Logistica: Single Flow One Level Model Multi Flow Two Level Model

Ricerca Operativa e Logistica Dott. F.Carrabs e Dott.ssa M.Gentili. Modelli per la Logistica: Single Flow One Level Model Multi Flow Two Level Model Rcerca Operatva e Logstca Dott. F.Carrabs e Dott.ssa M.Gentl Modell per la Logstca: Sngle Flow One Level Model Mult Flow Two Level Model Modell d localzzazone nel dscreto Modell a Prodotto Sngolo e a Un

Dettagli

Dipartimento di Statistica Università di Bologna. Matematica finanziaria aa 2012-2013 lezione 13: 24 aprile 2013

Dipartimento di Statistica Università di Bologna. Matematica finanziaria aa 2012-2013 lezione 13: 24 aprile 2013 Dpartmento d Statstca Unverstà d Bologna Matematca fnanzara aa 2012-2013 lezone 13: 24 aprle 2013 professor Danele Rtell www.unbo.t/docent/danele.rtell 1/23? reammortamento uò accadere che, dopo l erogazone

Dettagli

STATISTICA DESCRITTIVA CON EXCEL

STATISTICA DESCRITTIVA CON EXCEL STATISTICA DESCRITTIVA CON EXCEL Corso d CPS - II parte: Statstca Laurea n Informatca Sstem e Ret 2004-2005 1 Obettv della lezone Introduzone all uso d EXCEL Statstca descrttva Utlzzo dello strumento:

Dettagli

CAPITOLO IV CENNI SULLE MACCHINE SEQUENZIALI

CAPITOLO IV CENNI SULLE MACCHINE SEQUENZIALI Cenn sulle macchne seuenzal CAPITOLO IV CENNI SULLE MACCHINE SEQUENZIALI 4.) La macchna seuenzale. Una macchna seuenzale o macchna a stat fnt M e' un automatsmo deale a n ngress e m uscte defnto da: )

Dettagli

Apprendimento Automatico e IR: introduzione al Machine Learning

Apprendimento Automatico e IR: introduzione al Machine Learning Apprendmento Automatco e IR: ntroduzone al Machne Learnng MGRI a.a. 2007/8 A. Moschtt, R. Basl Dpartmento d Informatca Sstem e produzone Unverstà d Roma Tor Vergata mal: {moschtt,basl}@nfo.unroma2.t 1

Dettagli

Dipartimento di Statistica Università di Bologna. Matematica Finanziaria aa 2012-2013 Esercitazione: 4 aprile 2013

Dipartimento di Statistica Università di Bologna. Matematica Finanziaria aa 2012-2013 Esercitazione: 4 aprile 2013 Dpartmento d Statstca Unverstà d Bologna Matematca Fnanzara aa 2012-2013 Eserctazone: 4 aprle 2013 professor Danele Rtell www.unbo.t/docent/danele.rtell 1/41? Aula "Ranzan B" 255 post 1 2 3 4 5 6 7 8 9

Dettagli

PARENTELA e CONSANGUINEITÀ di Dario Ravarro

PARENTELA e CONSANGUINEITÀ di Dario Ravarro Introduzone PARENTELA e CONSANGUINEITÀ d Daro Ravarro 1 gennao 2010 Lo studo della genealoga d un ndvduo è necessaro al fne d valutare la consangunetà dell ndvduo stesso e la sua parentela con altr ndvdu

Dettagli

Aritmetica e architetture

Aritmetica e architetture Unverstà degl stud d Parma Dpartmento d Ingegnera dell Informazone Poltecnco d Mlano Artmetca e archtetture Sommator Rpple Carry e CLA Bozza da completare del 7 nov 03 La rappresentazone de numer Rappresentazone

Dettagli

Dai circuiti ai grafi

Dai circuiti ai grafi Da crcut a graf Il grafo è una schematzzazone grafca semplfcata che rappresenta le propretà d nterconnessone del crcuto ad esso assocato Il grafo è costtuto da un nseme d nod e d lat Se lat sono orentat

Dettagli

Esercitazioni del corso di Relazioni tra variabili. Giancarlo Manzi Facoltà di Sociologia Università degli Studi di Milano-Bicocca

Esercitazioni del corso di Relazioni tra variabili. Giancarlo Manzi Facoltà di Sociologia Università degli Studi di Milano-Bicocca Eserctazon del corso d Relazon tra varabl Gancarlo Manz Facoltà d Socologa Unverstà degl Stud d Mlano-Bcocca e-mal: gancarlo.manz@statstca.unmb.t Terza eserctazone Mlano, 8 febbrao 7 SOMMARIO TERZA ESERCITAZIONE

Dettagli

Fondamenti di Visione Artificiale (Seconda Parte) Corso di Robotica Prof.ssa Giuseppina Gini Anno Acc.. 2006/2007

Fondamenti di Visione Artificiale (Seconda Parte) Corso di Robotica Prof.ssa Giuseppina Gini Anno Acc.. 2006/2007 Fondament d Vsone Artfcale (Seconda Parte PhD. Ing. Mchele Folgherater Corso d Robotca Prof.ssa Guseppna Gn Anno Acc.. 006/007 Caso Bdmensonale el caso bdmensonale, per ndvduare punt d contorno degl oggett

Dettagli

Analisi dei flussi 182

Analisi dei flussi 182 Programmazone e Controllo Anals de fluss Clent SERVIZIO Uscta Quanto al massmo produce l mo sstema produttvo? Quanto al massmo produce la ma macchna? Anals de fluss 82 Programmazone e Controllo Teora delle

Dettagli

Programmazione e Controllo della Produzione. Analisi dei flussi

Programmazione e Controllo della Produzione. Analisi dei flussi Programmazone e Controllo della Produzone Anals de fluss Clent SERVIZIO Uscta Quanto al massmo produce l mo sstema produttvo? Quanto al massmo produce la ma macchna? Lo rsolvo con la smulazone? Sarebbe

Dettagli

Risoluzione quesiti I esonero 2011

Risoluzione quesiti I esonero 2011 Rsoluzone quest I esonero 011 1) Compto 1 Q3 Un azenda a a dsposzone due progett d nvestmento tra d loro alternatv. Il prmo prevede l pagamento d un mporto par a 100 all epoca 0 e fluss par a 60 all epoca

Dettagli

Statistica e calcolo delle Probabilità. Allievi INF

Statistica e calcolo delle Probabilità. Allievi INF Statstca e calcolo delle Probabltà. Allev INF Proff. L. Ladell e G. Posta 06.09.10 I drtt d autore sono rservat. Ogn sfruttamento commercale non autorzzato sarà perseguto. Cognome e Nome: Matrcola: Docente:

Dettagli

{ 1, 2,..., n} Elementi di teoria dei giochi. Giovanni Di Bartolomeo Università degli Studi di Teramo

{ 1, 2,..., n} Elementi di teoria dei giochi. Giovanni Di Bartolomeo Università degli Studi di Teramo Element d teora de goch Govann D Bartolomeo Unverstà degl Stud d Teramo 1. Descrzone d un goco Un generco goco, Γ, che s svolge n un unco perodo, può essere descrtto da una Γ= NSP,,. Ess sono: trpla d

Dettagli

LA COMPATIBILITA tra due misure:

LA COMPATIBILITA tra due misure: LA COMPATIBILITA tra due msure: 0.4 Due msure, supposte affette da error casual, s dcono tra loro compatbl quando la loro dfferenza può essere rcondotta ad una pura fluttuazone statstca attorno al valore

Dettagli

Lezione 10. L equilibrio del mercato finanziario: la struttura dei tassi d interesse

Lezione 10. L equilibrio del mercato finanziario: la struttura dei tassi d interesse Lezone 1. L equlbro del mercato fnanzaro: la struttura de tass d nteresse Ttol con scadenza dversa hanno prezz (e tass d nteresse) dfferent. Due ttol d durata dversa emess dallo stesso soggetto (stesso

Dettagli

Calibrazione. Lo strumento idealizzato

Calibrazione. Lo strumento idealizzato Calbrazone Come possamo fdarc d uno strumento? Abbamo bsogno d dentfcare l suo funzonamento n condzon controllate. L dentfcazone deve essere razonalmente organzzata e condvsa n termn procedural: s tratta

Dettagli

Corso di Statistica (canale P-Z) A.A. 2009/10 Prof.ssa P. Vicard

Corso di Statistica (canale P-Z) A.A. 2009/10 Prof.ssa P. Vicard Corso d Statstca (canale P-Z) A.A. 2009/0 Prof.ssa P. Vcard VALORI MEDI Introduzone Con le dstrbuzon e le rappresentazon grafche abbamo effettuato le prme sntes de dat. E propro osservando degl stogramm

Dettagli

3. Esercitazioni di Teoria delle code

3. Esercitazioni di Teoria delle code 3. Eserctazon d Teora delle code Poltecnco d Torno Pagna d 33 Prevsone degl effett d una decsone S ndvduano due tpologe d problem: statc: l problema non vara nel breve perodo dnamc: l problema vara Come

Dettagli

Capitolo 7. La «sintesi neoclassica» e il modello IS-LM. 2. La curva IS

Capitolo 7. La «sintesi neoclassica» e il modello IS-LM. 2. La curva IS Captolo 7 1. Il modello IS-LM La «sntes neoclassca» e l modello IS-LM Defnzone: ndvdua tutte le combnazon d reddto e saggo d nteresse per le qual l mercato de ben (curva IS) e l mercato della moneta (curva

Dettagli

FORMAZIONE ALPHAITALIA

FORMAZIONE ALPHAITALIA ALPHAITALIA PAG. 1 DI 13 FORMAZIONE ALPHAITALIA IL SISTEMA DI GESTIONE PER LA QUALITA Quadro ntroduttvo ALPHAITALIA PAG. 2 DI 13 1. DEFINIZIONI QUALITA Grado n cu un nseme d caratterstche ntrnseche soddsfa

Dettagli

MODELLISTICA DI SISTEMI DINAMICI

MODELLISTICA DI SISTEMI DINAMICI CONTROLLI AUTOMATICI Ingegnera Gestonale http://www.automazone.ngre.unmore.t/pages/cors/controllautomatcgestonale.htm MODELLISTICA DI SISTEMI DINAMICI Ing. Federca Gross Tel. 059 2056333 e-mal: federca.gross@unmore.t

Dettagli

Università degli Studi di Urbino Facoltà di Economia

Università degli Studi di Urbino Facoltà di Economia Unverstà degl Stud d Urbno Facoltà d Economa Lezon d Statstca Descrttva svolte durante la prma parte del corso d corso d Statstca / Statstca I A.A. 004/05 a cura d: F. Bartolucc Lez. 8/0/04 Statstca descrttva

Dettagli

Principi di ingegneria elettrica. Lezione 6 a. Analisi delle reti resistive

Principi di ingegneria elettrica. Lezione 6 a. Analisi delle reti resistive Prncp d ngegnera elettrca Lezone 6 a Anals delle ret resste Anals delle ret resste L anals d una rete elettrca (rsoluzone della rete) consste nel determnare tutte le corrent ncognte ne ram e tutt potenzal

Dettagli

La contabilità analitica nelle aziende agrarie

La contabilità analitica nelle aziende agrarie 2 La contabltà analtca nelle azende agrare Estmo rurale ed element d contabltà (analtca) S. Menghn Corso d Laurea n Scenze e tecnologe agrare Percorso Economa ed Estmo Contabltà generale e cont. ndustrale

Dettagli

MACROECONOMIA A.A. 2014/2015

MACROECONOMIA A.A. 2014/2015 MACROECONOMIA A.A. 2014/2015 ESERCITAZIONE 2 MERCATO MONETARIO E MODELLO /LM ESERCIZIO 1 A) Un economa sta attraversando un perodo d profonda crs economca. Le banche decdono d aumentare la quota d depost

Dettagli

VA TIR - TA - TAEG Introduzione

VA TIR - TA - TAEG Introduzione VA TIR - TA - TAEG Introduzone La presente trattazone s pone come obettvo d analzzare due prncpal crter d scelta degl nvestment e fnanzament per valutare la convenenza tra due o pù operazon fnanzare. S

Dettagli

La taratura degli strumenti di misura

La taratura degli strumenti di misura La taratura degl strument d msura L mportanza dell operazone d taratura nasce dall esgenza d rendere l rsultato d una msura rferble a campon nazonal od nternazonal del msurando n questone affnché pù msure

Dettagli

Valore attuale di una rendita. Valore attuale in Excel: funzione VA

Valore attuale di una rendita. Valore attuale in Excel: funzione VA Valore attuale d una rendta Nella scorsa lezone c samo concentrat sul problema del calcolo del alore attuale d una rendta S che è dato n generale da V ( S) { R ; t, 0,,,..., n,... } n 0 R ( t ), doe (t

Dettagli

LEZIONE 2 e 3. La teoria della selezione di portafoglio di Markowitz

LEZIONE 2 e 3. La teoria della selezione di portafoglio di Markowitz LEZIONE e 3 La teora della selezone d portafoglo d Markowtz Unverstà degl Stud d Bergamo Premessa Unverstà degl Stud d Bergamo Premessa () È puttosto frequente osservare come gl nvesttor tendano a non

Dettagli

I MODELLI MULTISTATO PER LE ASSICURAZIONI DI PERSONE

I MODELLI MULTISTATO PER LE ASSICURAZIONI DI PERSONE Facoltà d Economa Valutazone de prodott e dell mpresa d asscurazone I MODELLI MULTISTATO PER LE ASSICURAZIONI DI PERSONE Clauda Colucc Letza Monno Gordano Caporal Martna Ragg I Modell Multstato sono un

Dettagli

Hansard OnLine. Unit Fund Centre Guida

Hansard OnLine. Unit Fund Centre Guida Hansard OnLne Unt Fund Centre Guda Sommaro Pagna Introduzone al Unt Fund Centre (UFC) 3 Uso de fltr per la selezone de fond 4-5 Lavorare con rsultat del fltro 6 Lavorare con rsultat del fltro - Prezz 7

Dettagli

Strutture deformabili torsionalmente: analisi in FaTA-E

Strutture deformabili torsionalmente: analisi in FaTA-E Strutture deformabl torsonalmente: anals n FaTA-E Il comportamento dsspatvo deale è negatvamente nfluenzato nel caso d strutture deformabl torsonalmente. Nelle Norme Tecnche cò vene consderato rducendo

Dettagli

Newsletter "Lean Production" Autore: Dott. Silvio Marzo

Newsletter Lean Production Autore: Dott. Silvio Marzo Il concetto d "Produzone Snella" (Lean Producton) s sta rapdamente mponendo come uno degl strument pù modern ed effcac per garantre alle azende la flessbltà e la compettvtà che l moderno mercato rchede.

Dettagli

Capitolo 6 Risultati pag. 468. a) Osmannoro. b) Case Passerini c) Ponte di Maccione

Capitolo 6 Risultati pag. 468. a) Osmannoro. b) Case Passerini c) Ponte di Maccione Captolo 6 Rsultat pag. 468 a) Osmannoro b) Case Passern c) Ponte d Maccone Fgura 6.189. Confronto termovalorzzatore-sorgent dffuse per l PM 10. Il contrbuto del termovalorzzatore alle concentrazon d PM

Dettagli

Calcolo della caduta di tensione con il metodo vettoriale

Calcolo della caduta di tensione con il metodo vettoriale Calcolo della caduta d tensone con l metodo vettorale Esempo d rete squlbrata ed effett del neutro nel calcolo. In Ampère le cadute d tensone sono calcolate vettoralmente. Per ogn utenza s calcola la caduta

Dettagli

Analisi di mercurio in matrici solide mediante spettrometria di assorbimento atomico a vapori freddi

Analisi di mercurio in matrici solide mediante spettrometria di assorbimento atomico a vapori freddi ESEMPIO N. Anals d mercuro n matrc solde medante spettrometra d assorbmento atomco a vapor fredd 0 Introduzone La determnazone del mercuro n matrc solde è effettuata medante trattamento termco del campone

Dettagli

Tutti gli strumenti vanno tarati

Tutti gli strumenti vanno tarati L'INCERTEZZA DI MISURA Anta Calcatell I.N.RI.M S eseguono e producono msure per prendere delle decson sulla base del rsultato ottenuto, come per esempo se bloccare l traffco n funzone d msure d lvello

Dettagli

La rappresentazione dei numeri. La rappresentazione dei numeri. Aritmetica dei calcolatori. La rappresentazione dei numeri

La rappresentazione dei numeri. La rappresentazione dei numeri. Aritmetica dei calcolatori. La rappresentazione dei numeri Artmetca de calcolator Rappresentazone de numer natural e relatv Addzone e sommator: : a propagazone d rporto, veloce, con segno Moltplcazone e moltplcator: senza segno, con segno e algortmo d Booth Rappresentazone

Dettagli

CAPITOLO 3 Incertezza di misura Pagina 26

CAPITOLO 3 Incertezza di misura Pagina 26 CAPITOLO 3 Incertezza d msura Pagna 6 CAPITOLO 3 INCERTEZZA DI MISURA Le operazon d msurazone sono tutte nevtablmente affette da ncertezza e coè da un grado d ndetermnazone con l quale l processo d msurazone

Dettagli

* PROBABILITÀ - SCHEDA N. 2 LE VARIABILI ALEATORIE *

* PROBABILITÀ - SCHEDA N. 2 LE VARIABILI ALEATORIE * * PROBABILITÀ - SCHEDA N. LE VARIABILI ALEATORIE *. Le varabl aleatore Nella scheda precedente abbamo defnto lo spazo camponaro come la totaltà degl est possbl d un espermento casuale; abbamo vsto che

Dettagli

Dati di tipo video. Indicizzazione e ricerca video

Dati di tipo video. Indicizzazione e ricerca video Corso d Laurea n Informatca Applcata Unverstà d Urbno Dat d tpo vdeo I dat vdeo sono generalmente rcch dal punto d vsta nformatvo. Sottottol (testo) Colonna sonora (audo parlato e/o musca) Frame (mmagn

Dettagli

Fotogrammetria. O centro di presa. fig.1 Geometria della presa fotogrammetrica

Fotogrammetria. O centro di presa. fig.1 Geometria della presa fotogrammetrica Fotogrammetra Scopo della fotogrammetra è la determnazone delle poszon d punt nello spazo fsco a partre dalla msura delle poszon de punt corrspondent su un mmagne fotografca. Ovvamente, affnché questo

Dettagli

TITOLO: L INCERTEZZA DI TARATURA DELLE MACCHINE PROVA MATERIALI (MPM)

TITOLO: L INCERTEZZA DI TARATURA DELLE MACCHINE PROVA MATERIALI (MPM) Identfcazone: SIT/Tec-012/05 Revsone: 0 Data 2005-06-06 Pagna 1 d 7 Annotazon: Il presente documento fornsce comment e lnee guda sull applcazone della ISO 7500-1 COPIA CONTROLLATA N CONSEGNATA A: COPIA

Dettagli

Induzione elettromagnetica

Induzione elettromagnetica Induzone elettromagnetca L esperenza d Faraday L'effetto d produzone d corrente elettrca n un crcuto prvo d generatore d tensone fu scoperto dal fsco nglese Mchael Faraday nel 83. Egl studò la relazone

Dettagli

Controllo e scheduling delle operazioni. Paolo Detti Dipartimento di Ingegneria dell Informazione Università di Siena

Controllo e scheduling delle operazioni. Paolo Detti Dipartimento di Ingegneria dell Informazione Università di Siena Controllo e schedulng delle operazon Paolo Dett Dpartmento d Ingegnera dell Informazone Unverstà d Sena Organzzazone della produzone PRODOTTO che cosa ch ORGANIZZAZIONE PROCESSO come FLUSSO DI PRODUZIONE

Dettagli

Soluzione esercizio Mountbatten

Soluzione esercizio Mountbatten Soluzone eserczo Mountbatten I dat fornt nel testo fanno desumere che la Mountbatten utlzz un sstema d Actvty Based Costng. 1. Calcolo del costo peno ndustrale de tre prodott Per calcolare l costo peno

Dettagli

Calcolo delle Probabilità

Calcolo delle Probabilità alcolo delle Probabltà Quanto è possble un esto? La verosmglanza d un esto è quantfcata da un numero compreso tra 0 e. n partcolare, 0 ndca che l esto non s verfca e ndca che l esto s verfca senza dubbo.

Dettagli

Corso di laurea in Ingegneria Meccatronica. DINAMICI CA - 04 ModiStabilita

Corso di laurea in Ingegneria Meccatronica. DINAMICI CA - 04 ModiStabilita Automaton Robotcs and System CONTROL Unverstà degl Stud d Modena e Reggo Emla Corso d laurea n Ingegnera Meccatronca MODI E STABILITA DEI SISTEMI DINAMICI CA - 04 ModStablta Cesare Fantuzz (cesare.fantuzz@unmore.t)

Dettagli

Questo è il secondo di una serie di articoli, di

Questo è il secondo di una serie di articoli, di DENTRO LA SCATOLA Rubrca a cura d Fabo A. Schreber Il Consglo Scentfco della rvsta ha pensato d attuare un nzatva culturalmente utle presentando n ogn numero d Mondo Dgtale un argomento fondante per l

Dettagli

Soluzioni per lo scarico dati da tachigrafo innovativi e facili da usare. http://dtco.it

Soluzioni per lo scarico dati da tachigrafo innovativi e facili da usare. http://dtco.it Soluzon per lo scarco dat da tachgrafo nnovatv e facl da usare http://dtco.t Downloadkey II Moble Card Reader Card Reader Downloadtermnal DLD Short Range and DLD Wde Range Qual soluzon ho a dsposzone per

Dettagli

Norma UNI CEI ENV 13005: Guida all'espressione dell'incertezza di misura

Norma UNI CEI ENV 13005: Guida all'espressione dell'incertezza di misura orma UI CEI EV 3005: Guda all'espressone dell'ncertezza d msura L obettvo d una msurazone è quello d determnare l valore del msurando, n altre parole della grandezza da msurare. In generale, però, l rsultato

Dettagli

A. AUMENTO DELLA SPESA PUBBLICA FINANZIATO ESCLUSIVAMENTE TRAMITE INDEBITAMENTO

A. AUMENTO DELLA SPESA PUBBLICA FINANZIATO ESCLUSIVAMENTE TRAMITE INDEBITAMENTO 4. SCHMI ALTRNATIVI DI FINANZIAMNTO DLLA SPSA PUBBLICA. Se l Governo decde d aumentare la Spesa Pubblca G (o Trasferment TR), allora deve anche reperre fond necessar per fnanzare questa sua maggore spesa.

Dettagli

Analisi ammortizzata. Illustriamo il metodo con due esempi. operazioni su di una pila Sia P una pila di interi con le solite operazioni:

Analisi ammortizzata. Illustriamo il metodo con due esempi. operazioni su di una pila Sia P una pila di interi con le solite operazioni: Anals ammortzzata Anals ammortzzata S consdera l tempo rchesto per esegure, nel caso pessmo, una ntera sequenza d operazon. Se le operazon costose sono relatvamente meno frequent allora l costo rchesto

Dettagli

Il pendolo di torsione

Il pendolo di torsione Unverstà degl Stud d Catana Facoltà d Scenze MM.FF.NN. Corso d aurea n FISICA esna d ABORAORIO DI FISICA I Il pendolo d torsone (sezone costante) Moreno Bonaventura Anno Accademco 005/06 Introduzone. I

Dettagli

CIRCOLARE N. 9. CIRCOLARI DELL ENTE MODIFICATE/SOSTITUITE: nessuna. Firmato: ing. Carlo Cannafoglia

CIRCOLARE N. 9. CIRCOLARI DELL ENTE MODIFICATE/SOSTITUITE: nessuna. Firmato: ing. Carlo Cannafoglia PROT. N 53897 ENTE EMITTENTE: OGGETTO: DESTINATARI: DATA DECORRENZA: CIRCOLARE N. 9 DC Cartografa, Catasto e Pubblctà Immoblare, d ntesa con l Uffco del Consglere Scentfco e la DC Osservatoro del Mercato

Dettagli

Regressione Multipla e Regressione Logistica: concetti introduttivi ed esempi

Regressione Multipla e Regressione Logistica: concetti introduttivi ed esempi Regressone Multpla e Regressone Logstca: concett ntroduttv ed esemp I Edzone ottobre 014 Vncenzo Paolo Senese vncenzopaolo.senese@unna.t Indce Note prelmnar alla I edzone 1 Regressone semplce e multpla

Dettagli

2 Modello IS-LM. 2.1 Gli e etti della politica monetaria

2 Modello IS-LM. 2.1 Gli e etti della politica monetaria 2 Modello IS-LM 2. Gl e ett della poltca monetara S consderun modello IS-LM senzastatocon seguent datc = 0:8, I = 00( ), L d = 0:5 500, M s = 00 e P =. ) S calcolno valor d equlbro del reddto e del tasso

Dettagli

Corso di laurea in Economia marittima e dei trasporti

Corso di laurea in Economia marittima e dei trasporti Unverstà degl stud d Genova Corso d laurea n Economa marttma e de trasport Il problema del cammno mnmo n ret multobettvo Relatrce: Anna Scomachen Canddato: Slvo Vlla Dedcato a: Coloro che n me Hanno sempre

Dettagli

La verifica delle ipotesi

La verifica delle ipotesi La verfca delle potes In molte crcostanze l rcercatore s trova a dover decdere quale, tra le dverse stuazon possbl rferbl alla popolazone, è quella meglo sostenuta dalle evdenze emprche. Ipotes statstca:

Dettagli

Allegato A. Modello per la stima della produzione di una discarica gestita a bioreattore

Allegato A. Modello per la stima della produzione di una discarica gestita a bioreattore Modello per la stma della produzone d una dscarca gestta a boreattore 1 Produzone d Bogas Nella letteratura tecnca sono stat propost dvers modell per stmare la produzone d bogas sulla base della qualtà

Dettagli

Manuale di istruzioni Manual de Instruções Millimar C1208 /C 1216

Manuale di istruzioni Manual de Instruções Millimar C1208 /C 1216 Manuale d struzon Manual de Instruções Mllmar C1208 /C 1216 Mahr GmbH Carl-Mahr-Str. 1 D-37073 Göttngen Telefon +49 551 7073-0 Fax +49 551 Cod. ord. Ultmo aggornamento Versone 3757474 15.02.2007 Valda

Dettagli

Prova di verifica n.0 Elettronica I (26/2/2015)

Prova di verifica n.0 Elettronica I (26/2/2015) Proa d erfca n.0 lettronca I (26/2/2015) OUT he hfe + L OUT - Fgura 1 Con rfermento alla rete elettrca d Fg.1, determnare: OUT / OUT / la resstenza sta dal generatore ( V ) la resstenza sta dall uscta

Dettagli

LE FREQUENZE CUMULATE

LE FREQUENZE CUMULATE LE FREQUENZE CUMULATE Dott.ssa P. Vcard Introducamo questo argomento con l seguente Esempo: consderamo la seguente dstrbuzone d un campone d 70 sttut d credto numero flal present nel terrtoro del comune

Dettagli

Leggere i dati da file

Leggere i dati da file Esempo %soluzon d una equazone d secondo grado dsp('soluzon d a^+b+c') anput('damm l coeffcente a '); bnput('damm l coeffcente b '); cnput('damm l coeffcente c '); deltab^-4*a*c; f delta0 dsp('soluzon

Dettagli

LA STATISTICA: OBIETTIVI; RACCOLTA DATI; LE FREQUENZE (EXCEL) ASSOLUTE E RELATIVE

LA STATISTICA: OBIETTIVI; RACCOLTA DATI; LE FREQUENZE (EXCEL) ASSOLUTE E RELATIVE Lezone 6 - La statstca: obettv; raccolta dat; le frequenze (EXCEL) assolute e relatve 1 LA STATISTICA: OBIETTIVI; RACCOLTA DATI; LE FREQUENZE (EXCEL) ASSOLUTE E RELATIVE GRUPPO MAT06 Dp. Matematca, Unverstà

Dettagli

RETI TELEMATICHE Lucidi delle Lezioni Capitolo VII

RETI TELEMATICHE Lucidi delle Lezioni Capitolo VII Prof. Guseppe F. Ross E-mal: guseppe.ross@unpv.t Homepage: http://www.unpv.t/retcal/home.html UNIVERSITA' DEGLI STUDI DI PAVIA Facoltà d Ingegnera A.A. 2011/12 - I Semestre - Sede PV RETI TELEMATICHE Lucd

Dettagli

Costruzioni in c.a. Metodi di analisi

Costruzioni in c.a. Metodi di analisi Corso d formazone n INGEGNERIA SISICA Verres, 11 Novembre 16 Dcembre, 2011 Costruzon n c.a. etod d anals Alessandro P. Fantll alessandro.fantll@polto.t Verres, 18 Novembre, 2011 Gl argoment trattat 1.

Dettagli

9.6 Struttura quaternaria

9.6 Struttura quaternaria 9.6 Struttura quaternara L'ultmo lvello strutturale é la struttura quaternara. Non per tutte le protene è defnble una struttura quaternara. Infatt l esstenza d una struttura quaternara é condzonata alla

Dettagli

Concetti principale della lezione precedente

Concetti principale della lezione precedente Corso d Statstca medca e applcata 6 a Lezone Dott.ssa Donatella Cocca Concett prncpale della lezone precedente I concett prncpal che sono stat presentat sono: I fenomen probablstc RR OR ROC-curve Varabl

Dettagli

10.2 Come stimare l amaro di una birra: le unita IBU 1

10.2 Come stimare l amaro di una birra: le unita IBU 1 10.2 Come stmare l amaro d una brra: le unta IBU 1 Il prncpale contrbuto al sapore amaro della brra provene dagl alfa-acd (abbrevato n AA) del luppolo che durante l processo d bolltura vengono trasformat

Dettagli

Speculazioni matematiche per la formalizzazione/descrizione di un Sistema di Gestione per la Qualità

Speculazioni matematiche per la formalizzazione/descrizione di un Sistema di Gestione per la Qualità Speculazon matematche per la formalzzazone/descrzone d un Sstema d Gestone per la Qualtà S. Gorla (*), (**) R. Grass (*) Responsable Qualtà e Certfcazone Ctroën tala S.p.A. e consglere d gunta AcqCN, (**)

Dettagli

Indicatori di rendimento per i titoli obbligazionari

Indicatori di rendimento per i titoli obbligazionari Indcator d rendmento per ttol obblgazonar LA VALUTAZIONE DEGLI INVESTIMENTI A TASSO FISSO Per valutare la convenenza d uno strumento fnanzaro è necessaro precsare: /4 Le specfche esgenze d un nvesttore

Dettagli

DATA MINING E CLUSTERING

DATA MINING E CLUSTERING Captolo 4 DATA MINING E CLUSTERING 4. Che cos'è l Data Mnng Per Data Mnng s'ntende quel processo d estrazone d conoscenza da banche dat, tramte l'applcazone d algortm che ndvduano le assocazon non mmedatamente

Dettagli

Economie di scala, concorrenza imperfetta e commercio internazionale

Economie di scala, concorrenza imperfetta e commercio internazionale Sanna-Randacco Lezone n. 14 Econome d scala, concorrenza mperfetta e commerco nternazonale Non v è vantaggo comparato (e qund non v è commerco nter-ndustrale). S vuole dmostrare che la struttura d mercato

Dettagli

Circuiti di ingresso differenziali

Circuiti di ingresso differenziali rcut d ngresso dfferenzal - rcut d ngresso dfferenzal - Il rfermento per potenzal Gl stad sngle-ended e dfferenzal I segnal elettrc prodott da trasduttor, oppure preleat da un crcuto o da un apparato elettrco,

Dettagli

MODELLI DI SISTEMI. Principi di modellistica. Considerazioni energetiche. manca

MODELLI DI SISTEMI. Principi di modellistica. Considerazioni energetiche. manca ONTOI UTOMTII Ingegnera della Gestone Industrale e della Integrazone d Impresa http://www.automazone.ngre.unmore.t/pages/cors/ontrollutomatcgestonale.htm MODEI DI SISTEMI Ing. ug Bagott Tel. 05 0939903

Dettagli

Markov Random Field. Teoria e applicabilità nell elaborazione delle immagini. Giovanni Bianco. Febbraio 1998. 20 i

Markov Random Field. Teoria e applicabilità nell elaborazione delle immagini. Giovanni Bianco. Febbraio 1998. 20 i Markov Random Feld Teora e applcabltà nell elaborazone delle mmagn U ( f) = v [ 1 δ( )] 20 S N f f f * = arg mn f F { U( d f) + U( f) } Govann Banco Febbrao 1998 2 Manoscrtto depostato presso l Dp. d Ingegnera

Dettagli

31/03/2012. Collusione (Cabral cap.8 PRN capp. 13-14) Il modello standard. Collusione nel modello di Bertrand. Collusione nel modello di Bertrand

31/03/2012. Collusione (Cabral cap.8 PRN capp. 13-14) Il modello standard. Collusione nel modello di Bertrand. Collusione nel modello di Bertrand Collusone (Cabral cap.8 PRN capp. 13-14) Accord tact o esplct per aumentare l potere d mercato e pratcare prezz pù elevat rspetto all equlbro non cooperatvo corrspondente Esste un vantaggo dalla collusone

Dettagli

Verifica termoigrometrica delle pareti

Verifica termoigrometrica delle pareti Unverstà Medterranea d Reggo Calabra Facoltà d Archtettura Corso d Tecnca del Controllo Ambentale A.A. 2009-200 Verfca termogrometrca delle paret Prof. Marna Mstretta ANALISI IGROTERMICA DEGLI ELEMENTI

Dettagli

GLI ERRORI SPERIMENTALI NELLE MISURE DI LABORATORIO

GLI ERRORI SPERIMENTALI NELLE MISURE DI LABORATORIO GLI ERRORI SPERIMETALI ELLE MISURE DI LABORATORIO MISURA DI UA GRADEZZA FISICA S defnsce grandezza fsca una propretà de corp sulla quale possa essere eseguta un operazone d msura. Msurare una grandezza

Dettagli

Architetture aritmetiche. Corso di Organizzazione dei Calcolatori Mariagiovanna Sami

Architetture aritmetiche. Corso di Organizzazione dei Calcolatori Mariagiovanna Sami Archtetture artmetche Corso d Organzzazone de Calcolator Maragovanna Sam 27-8 8 Sommator: : Full Adder s = x y c + x y c + x y c + x y c Full Adder x y c s x y c = x y + x c + + y c c + Full Adder c x

Dettagli

NOTE DALLE LEZIONI DI STATISTICA MEDICA ED ESERCIZI CONFRONTO DI PIU MEDIE IL METODO DI ANALISI DELLA VARIANZA

NOTE DALLE LEZIONI DI STATISTICA MEDICA ED ESERCIZI CONFRONTO DI PIU MEDIE IL METODO DI ANALISI DELLA VARIANZA NOTE DALLE LEZIONI DI STATISTICA MEDICA ED ESERCIZI CONFRONTO DI PIU MEDIE IL METODO DI ANALISI DELLA VARIANZA IL PROBLEMA Supponamo d voler studare l effetto d 4 dverse dete su un campone casuale d 4

Dettagli

Il patrimonio informativo aziendale come supporto alle attività di marketing

Il patrimonio informativo aziendale come supporto alle attività di marketing Unverstà degl Stud d RomaTre - Facoltà d Economa Corso d Rcerche d Marketng Il patrmono nformatvo azendale come supporto alle attvtà d marketng ng. Stefano Cazzella stefano.cazzella@datamat.t Agenda La

Dettagli