SenTaClAus - Sentiment Tagging & Clustering Analysis on web & social contents

Transcript

1 Via Marche Pisa Phne Fax P.IVA REGIONE TOSCANA POR CReO FESR LINEA D INTERVENTO 1.5.a BANDO UNICO R&S ANNO 2012 SenTaClAus - Sentiment Tagging & Clustering Analysis n web & scial cntents D Quint rapprt di avanzament lavr 1.0

2 1. ABSTRACT RIFERIMENTI DOCUMENTI DI RIFERIMENTO BIBLIOGRAFIA DEFINIZIONI E ACRONIMI QUINTO RAPPORTO DI AVANZAMENTO LAVORO VERIFICA AMMINISTRATIVA DEL MESE SenTaClAus- D Quint rapprt di avanzament lavr v. 1.0 pag. 2 di 5

3 1. Abstract 2. Riferimenti 2.1 Dcumenti di Riferiment Dcumenti dell'allegat 2 della dmanda di prgett SenTaClAus D Pian di Prgett e della Qualità 2.2 Bibligrafia Nn applicabile 3. Definizini e acrnimi 4. Quint rapprt di avanzament lavr Cre Tuning parametri di cntrll anntatre: min_cnfidence Estratta interfaccia per mdellare diverse strategie di segmentazine del test. Realizzate due strategie per "testi lunghi" e "testi brevi". Aggiunt un "pes" agli spt del cntext in funzine della distanza dall spt cnsiderat. Miglirat il substring-pruning in cas di verlap a 3 spt. Sperimentata l'utilizzazine di un dep-parser per la segmentazine testi lunghi. Aggiunta lingua: francese. Aggiunta lingua: tedesc Aggiunta libgua: prtghese. Prting in java dell'algritm LDIG, language detectin fr shrt text ( SUPPORT (debug): Creat servizi per l'explanatin delle anntazini calclate Index (preprcessing dataset di wikipedia) Aggiunt vettre pesi IDF e lista stpwrd per gni lingua gestita (supprt per Similarity) Aggiunt indice per il supprt alla ricerca fulll-text Filtrate cme ignred le pagine della wiki delle decadi, tip "2000s (decade)" SenTaClAus- D Quint rapprt di avanzament lavr v. 1.0 pag. 3 di 5

4 API (REST) Aggiunt parametr url per specificare la risrsa da cui estrarre, cn tecniche di readability, il test da anntare Aggiunt ricnsciment ed estrazine di numeri di telefn (extra_types=phne) Aggiunt ricnsciment ed estrazine di numeri di Partita IVA (extra_types=vat) italiane Servizi custm-spts: gestisce, cn perazini di CRUDL, cllectins di spt "persnalizzati" da utilizzare durante il prcess di anntazine (parametr custm-spts=uuid dve uuid è l'identificativ della cllectin). Classificatre Aggiunt servizi REST per supprtare la gestine dei mdelli del classificatre: POST - valida e persiste un mdell utente PUT - mdifica di un mdell (sl per l'wner) GET - elenca i mdelli di un utente ritrna il dettagli di un mdell DELETE - rimuve un mdell (sl per l'wner) Aggiunt parametr include=scre_details: ritrna nell'utput il dettagli degli scre per ciascuna categria ed element della categria (sl per l'wner). Similarity Miglirat il servizi di similarity usand BOW. Aggiunt il parametr sperimentale bw: always - usa tf-idf sempre ne_empty - usa tf-idf sl se una delle due frasi nn ha avut alcuna anntazine bth_empty - usa tf-idf sl se entrambe le frasi nn hann avut alcuna anntazine never - nn usa mai tf-idf (default) Search Servizi search: ricerca ful-text su titl, spts e bdy di un tpic. title - ricerca per titl esatt full - ricerca su titl, spts e bdy, secnd i seguenti criteri: match esatt sul titl nrmalizzat match esatt su un degli spt del tpic, pesat per la frequenza match anche parziale della frase della query su bdy + titl + spts match in AND dei termini della query su bdy + titl + spts (sl se la query è cmpsta di più termini) scre pesat in base alla ppularity del tpic prefix - ricerca su titl e spts che inizia cn il test specificat SenTaClAus- D Quint rapprt di avanzament lavr v. 1.0 pag. 4 di 5

5 Ottimizzazini, Perfrmance e Sicurezza Rislt il limite sulla dimensine per gli user-data (es: mdelli classificatre, custm-spts,...). Eval (valutazine autmatica dei risultati di anntazine su specifici dataset) Creat dataset cn testi "pessimi" estraend dai dataset dispnibili i peggiri N dcumenti, in termini di F1, data una certa cnfidence. Estes Valutatre per evidenziare gli errri di anntazine su un cert dataset (rdinati per rh decrescente, ciè anntazini di cui il sistema è mlt cnfidente ma in realta' sn sbagliate). Creata applicazine web per la visualizzazine dei risultati di valutazine: EVALWEB persiste i dati di valutazine per un dataset (jsn generati da datatxt-eval) per gni valutazine di un dataset visualizza il grafic dell'andament del rapprt precisin/recall al variare di min_cnfidence evidenziand la "best micr F1" per gni dataset visualizza il grafic dell'andament della best -micrf1 -macrf1 al variare della versine dell'anntatre (mstra i migliramenti/peggiramenti del sistema). Micrpsts2014 Sttmissine del dcument finale (camera ready) Sentiment Analysis Cmparat sentistrength ( cn i cmpetitr, utilizzand diversi dataset di circa 1000 review di amazn estratte da un campine di 26K: inglese - alchemy api, semantria, repustate italian - repustate Valutazine: EN - paragnabile ai cmpetitrs ma nn raggiunge i migliri; IT - peggire dei cmpetitr Cmparat sentistrength cn i cmpetitr, utilizzand sl review cn star 1 5 (estremi): Valutazine: EN - paragnabile ai cmpetitrs ma nn raggiunge i migliri; IT - peggire dei cmpetitr TODO Nessuna azine particlare. 5. Verifica amministrativa del mese 18 Eseguit cntrll della situazine dei csti cn i referenti di CSA per la situazine della rendicntazine alla metà del prgett. Fatt pian di allcazine del persnale per i successivi 6 mesi (Net7). Evidenziata criticità su numer di assunti nel prgett: in particlare SpaziDati su quest punt è al mment carente rispett alla pianificazine iniziale. Inviata cmunicazine ai referenti aziendali per sensibilizzarli sul prblema. SenTaClAus- D Quint rapprt di avanzament lavr v. 1.0 pag. 5 di 5