Il web intelligente Smart is the new sexy. Better Software 2011 Firenze - 27/ 28 giugno 2011

Transcript

1 Il web intelligente Smart is the new sexy Better Software 2011 Firenze - 27/ 28 giugno 2011

2 Happy Developer

3 Ringraziamenti Costantino Cerbo Davide Palmisano Senior Gebit in Germania Smartetics in Inghilterra

4 Quello che l informazione consuma è piuttosto ovvio: consuma l attenzione dei suoi destinatari. Dunque un abbondanza di informazione crea povertà d attenzione, ed il bisogno di scegliere come distribuire in maniera efficiente questa attenzione tra la sovrabbondanza di informazioni che potrebbero consumarla H.A. Simon

5 Come ne usciamo? Aiutiamo il web a diventare più intelligente!

6 Le nostre armi segrete Analisi del testo Sistemi di raccomandazione Open Data Web Semantico

7 Analisi del testo "si riferisce al processo di estrazione di informazioni di alta qualità dal testo" ( I 4 passi base Esempio "Grazie a tutti per essere venuti a Better Software"

8 Tokenizzazione Analizzare il testo per estrarre i termini String[] tokens = {"Grazie", "a", "tutti", "per", "essere", "venuti", "a", "Better", "Software!"} Normalizzazione Pulire il testo da caratteri e differenze non utili String[] tokens = {"grazie", "a", "tutti", "per", "essere", "venuti", "a", "better", "software"}

9 Eliminazione "Stop Words" Eliminare le parole di uso comune in una lingua che non incidono per l'identificazione del contenuto del testo. Esistono delle liste open source per le varie lingue, per l'italiano: String[] tokens = {"grazie", "a", "tutti", "per", "essere", "venuti", "a", "better", "software"}

10 Stemming Lo stemming è il processo di riduzione della forma flessa di una parola alla sua forma radice, detta tema. Il tema non corrisponde necessariamente alla radice morfologica (lemma) della parola: normalmente è sufficiente che le parole correlate siano mappate allo stesso tema. ( Esempio: andare, andai, andò = and String[] tokens = {"graz", "tutt", "ess", "venut", "better", "softwar"} Approfondimento su:

11 Principali algoritmi Estrazione contenuto rilevante da pagina web o o Rilevamento della lingua o %20gente o Estrazione parole chiave o o o Categorizzazione testo o Riassunti automatici o o o Estrazione di "Named entity" o o o

12 Sentimental Analysis Categorizza dei testi in positivi o negativi tramite l'estrazione di frasi o parole chiave Molto usato per analisi su Twitter o su post dei blog Twitter o o Ristoranti, hotel, aziende o Mercato azionario o Marchi, avvenimenti, etc o

13 Sentimental Analysis: un esempio

14 Il Semantic Web Semantic Web, Web of Data, Machine-readable Web, Web termini differenti per indicare la stessa idea: correlare dati eterogenei tra di loro come fossero pagine Web "The Semantic Web is a webby way to link data" - Dave Beckett, Yahoo Inc.

15 Il Semantic Web: building blocks RDF Microformats RDFa Microdata schema.org

16 Il Semantic Web: RDF Resource Description Framework (RDF) è lo standard base del W3C. qualsiasi entità descrivibile è identificata da una URI proprietà e relazioni tra entità vengono espresse con URI lo statement (o tripla) è l'unità base: soggetto - predicato - oggetto un insieme di statement fanno un grafo RDF i grafi si serializzano tramite: RDF/XML, N-Triples, Notation3,... Esempio: Davide Cerbo è l'autore della presentazione il Web Intelligente diventa in RDF/XML: <rdf:rdf xmlns:rdf=" xmlns:au=" <rdf:description about=" <au:author> </rdf:description> </rdf:rdf>

17 Il Semantic Web: RDFa Resource Description Framework-in-Attribute (RDFA) è una W3C Recommendation per aggiungere RDF nelle pagine web. Gli attributi usati sono: about o src, rel o rev, href or resource, property, content, datatype e typeof Esempio: <div xmlns:dc=" about=" <span property="dc:title">il web Intelligente</span> <span property="dc:creator">davide Cerbo</span> <span property="dc:date"> </span> </div>

18 Il Semantic Web: Microformats Microformats è una specifica per includere informazioni semantiche in una pagina web usando gli attributi: class rel Ha molte specifiche per descrivere, ad esempio: ricette (hrecipe), CV (hresume), recensioni (hreview) e risorse multimediali (hmedia). Esempio: <div class="vcard"> <div class="fn">davide Cerbo</div> <div class="org">ex Machina</div> <div class="tel"> </div> <a class="url" href=" </div>

19 Il Semantic Web: Microdata Microdata e' parte di una specifica di HTML5 per annotare semanticamente porzioni della pagina Web. La specifica prevede un algoritmo per convertirle Microdata in RDF. L'idea alla base e' quella di prevedere gruppi (items) di coppie chiave-valore (itemprop), rappresentati da elementi del DOM annotati con i seguenti attributi: itemscope, itemtype, itemid, itemref e itemprop Esempio: <section itemscope itemtype=" <h1 itemprop="name">hedral</h1> <p itemprop="desc">hedral is a male american domestic shorthair, with a fluffy black fur with white...</p> <img itemprop="img" src="hd.jpg" title="hedral,age 18 "> </section>

20 Il Semantic Web: Schema.org Da un accordo tra i principali motori di ricerca nasce schema.org, un vocabolario basato su Microdata per la descrizione di entità di uso comune: Creative works: Book, Movie, MusicRecording, Recipe, TVSeries... Embedded non-text objects: AudioObject, ImageObject, VideoObject Person Place, LocalBusiness, Restaurant... I SEO dovranno rispettare un solo standard!

21 Il Semantic Web: Real life :-)

22 Il Semantic Web: Real life :-)

23 "Pensiamo che sia ingiusto che Google o altri prendano i nostri contenuti senza pagare " Carlo De Benedetti

24 "My Administration is committed to creating an unprecedented level of openness in Government. We will work together to ensure the public trust and establish a system of transparency, public participation, and collaboration. Openness will strengthen our democracy and promote efficiency and effectiveness in Government." Open Government Initiative Memorandum, President B. Obama

25 Open data e il Semantic Web L'idea alla base prevede che alcuni dati siano pubblici e riusabili da liberamente al fine di promuovere trasparenza e partecipazione democratica Numerose iniziative o data.gov o data.gov.uk o dati.piemonte.it o datasf.org o... cerca #opendata su twitter ;)

26 Open data e il Semantic Web Tuttavia la pubblicazione dei dati rimane estremamente eterogenea: file CSV, testi non strutturati XML... fino a piattaforme più sofisticate L'eterogeneità rimane un ostacolo allo sviluppo rapido di mashups e applicazioni Necessità di gestire il licensing dei dati Necessità di monetizzare API e mashups su questi dati Metodo per il riconoscimento della qualità dei data sets

27 Il Semantic Web: Linked Open Data Il web permette di collegare documenti. Similarmente permette di collegare dati. Il termini Linked Data fa riferimento ad un insieme di best practices per pubblicare e collegare dati strutturati nel Web. Le tecnologie chiave che supportano Linked Data sono URI ( un modo generico per indentificare entità o concetti nel mondo), HTTP (un meccanismo semplice, ma universale, per recuperare risorse o descrizioni di risorse), e RDF (un generico modello basato su grafo che struttura e collega le cose nel mondo). Tom Heath (

28 ottobre

29 ...settembre 2010

30 Il Semantic Web: a 5 stelle rendi i tuoi dati disponibili sul web (in qualsiasi formato) e con una licenza aperta forniscili come dati strutturati usa formati non proprietari usa URI per identificare le tue risorse, così che gli utenti possano puntarle direttamente collega i dati ad altri dati per fornire un contesto

31 Il Semantic Web: data markets Linked Open Data è un modello per la pubblicazione e l'interlinking di open data sets differenti. La ricerca degli stessi, la loro catalogazione, la pubblicazione di API derivate dal mashup degli stessi sta portando ai primi data markets: datamarket.com infochimps.com kasabi.com factual.com ckan.net Si intravedono i primi revenue model per data owner e API

32 Ed ora? Mashup Sistemi di raccomandazione Data mining

33 "Il 90% di tutto è spazzatura" Theodore Sturgeon

34 "Che cos'è l'intelligenza collettiva? In primo luogo bisogna riconoscere che l'intelligenza è distribuita dovunque c'è umanità, e che questa intelligenza, distribuita dappertutto, può essere valorizzata al massimo mediante le nuove tecniche, soprattutto mettendola in sinergia. Oggi, se due persone distanti sanno due cose complementari, per il tramite delle nuove tecnologie, possono davvero entrare in comunicazione l'una con l'altra, scambiare il loro sapere, cooperare. Detto in modo assai generale, per grandi linee, è questa in fondo l'intelligenza collettiva" Pierre Lévy

35 Sistemi di raccomandazione La nostra missione: Fornire ai nostri utenti gli elementi di loro interesse a partire dai dati di cui si dispone: informazioni su utenti e oggetti. Tipi: Basati sul contenuto elementi simili a quelli piaciuti nel passato Collaborativi elementi che sono piaciuti a persone con profili simili Ibridi un mix trai precedenti

36 Basati sul contenuto Punti chiave: Creare un profilo per ogni elemento Il profilo assegnato manualmente o automaticamente. Per i testi si utilizzano le tecniche di analisi del testo. Esempio: Se io compro un libro di James Frey mi verranno suggeriti tutti gli altri libri dello stesso autore, dello stesso genere, pubblicati nello stesso anno Pro: buoni risultati anche in sistemi con pochi utenti Contro: offre raccomandazioni scontate (e.s.: i libri di James Frey li posso scoprire anche vedendo la sua bibliografia)

37 Collaborativi: Memory-based Punti chiave: Si basano sulla storie delle valutazioni degli utenti. Vengono usate diverse tecniche euristiche per calcolare la somiglianza tra utenti come il calcolo del Coefficiente di correlazione di r di Pearson. Non tutti gli utenti valutano gli elementi nello stesso modo. I voti vanno normalizzati! Esempio: Se io compro un libro di James Frey mi verranno suggeriti i libri comprati da un gruppo di persone che hanno fatto lo stesso acquisto. Pro: offre raccomandazioni più imprevedibili crea relazioni fra utenti e la possibilità di raccomandazioni indirette Contro: cold start: servono molti utenti per avere buone raccomandazioni difficilmente tutti gli utenti esprimeranno preferenze su un numero sufficiente di risultati (si può risolvere con la Dimensionality Reduction) Banana Problem: si suggeriscono sempre degli elementi molto comuni

38 Collaborativi: Model-based Punti chiave: Si basano sulla storie delle valutazioni degli utenti per creare un modello Solitamente basato sul calcolo delle probabilità. Sfruttano l'analisi del Collegamenti. Esempio: Se io compro un libro di James Frey mi verranno suggeriti i libri comprati da un gruppo di persone che hanno fatto lo stesso acquisto. Dando maggior peso a quelli acquistati da utenti molto attivi o importanti nel sistema. Pro: offre raccomandazioni più affidabili rispetto ai Memory-based gli stessi del Memory-based Contro: costi computazionali elevati gli stessi del Memory-based

39 Links raccomandati :) IntroAnalytics DirectEdge Sailthru Concierge kassandra-recommendations

40 L'angolo dello smanettone 1/2 Apache Lucene Text Analysis Apache OpenNLP LingPipe NLTK (python) Apache Mahout Apache UIMA Any23

41 L'angolo dello smanettone 2/2 Virtuoso (anche OpenSource) Jena Sesame JRDF SIREn Apache Clerezza OrientDb (graph DB prima o poi vi servirà!) Sail Ouplementation

42 Letture consigliate 1/2 Algorithms of the Intelligent Web Mining the Social Web Collective Intelligence in Action Programming Collective Intelligence Costruire sistemi per la reputazione Web

43 Letture consigliate 2/2 Semantic Web. Dai fondamenti alla realizzazione di un'applicazione Thinking on the Web Web

44 Q&A