Interfaccia utente basata su eye-tracking per sistemi di controllo ambientale

Transcript

1 POLITECNICO DI TORINO III Facoltà di Ingegneria Corso di Laurea in Ingegneria Informatica Tesi di Laurea Magistrale Interfaccia utente basata su eye-tracking per sistemi di controllo ambientale Relatori: prof. Fulvio Corno dott. Emiliano Castellina Candidato: Luigi De Russis Febbraio 2010

2 Indice 1 Introduzione Contesto generale Gaze tracking, interfacce utente e domotica Specifiche COGAIN Struttura della tesi Obiettivi 9 3 Soluzioni tecniche adottate Introduzione Ambiente domotico DOG DogOnt Eye Tracking Universal Driver (ETU-Driver) Tecnologia utilizzata Windows Presentation Foundation XAML Caratteristiche Code-behind Compatibilità con le tecnologie precedenti Integrare controlli Win32 in WPF Integrare controlli WPF in Win Integrare Windows Forms e WPF Integrare controlli ActiveX in WPF Differenze rispetto alle Windows Forms Vantaggi Svantaggi Progettazione e implementazione Introduzione II

3 5.2 Scelte progettuali e funzionalità Home Management ed Electric Device Entertainment Temperature Security e gli allarmi Scenarios Everything Else Settings Realizzazione dell interfaccia utente Layout Layout dei tab Interazione con DOG Interazione con l ETU-Driver Organizzazione e riusabilità del codice Risultati ottenuti Analisi qualitativa Analisi quantitativa Valutazione rispetto alle specifiche COGAIN Conclusione e sviluppi futuri Possibili sviluppi futuri A Microsoft Expression Design 88 B Modello della casa utilizzato 91 C Esempio di codice XAML 94 Bibliografia 97 III

4 Elenco delle tabelle 2.1 Rapporto tra raccomandazioni e interfacce utente per il controllo domotico esistenti Linee guida COGAIN per la realizzazione di un applicazione di controllo ambientale Alcune comuni keyword XAML Vantaggi e svantaggi di WPF Attribuzione dei colori ai bottoni dell UI in base alla loro funzione I principali pannelli presenti in XAML Specifiche computer Utilizzo della RAM da parte di DOGeye Utilizzo della CPU da parte di DOGeye Valutazione di DOGeye secondo le linee guida COGAIN IV

5 Elenco delle figure 1.1 Un esempio di eye-tracker commerciale: MyTobii P Un programma per la video-scrittura, basato su eye-tracking Vista, ad alto livello, del contesto in cui si colloca l interfaccia utente da realizzare Due interfacce utente per ambienti domotici Come l interfaccia utente è connessa a DOG e all eye-tracker Un esempio di architettura logica di ambiente domotico L architettura logica di DOG L ontologia DogOnt Parte dell architettura dell ETU-Driver Le tecnologie incluse nel framework.net L architettura generale dell ambiente La versione preliminare di DOGeye Il mock-up di DOGeye L interfaccia DOGeye Aspetto di DOGeye quando l utente necessita qualche tipo di aiuto La planimetria della casa, così come viene visualizzata in Home Management I tre possibili comportamenti ottenibili selezionando una stanza nei primi due tab di DOGeye Un esempio di interazione: aprire una porta Un esempio di notifica Caratteristica di Entertainment Esempio di come viene indicata la temperatura di una stanza, in Temperature Esempio di come si imposta la temperatura del riscaldamento di tutta la casa Il tab Security Esempio di gestione di un allarme L architettura generale di DOGeye A.1 Microsoft Expression Design V

6 Capitolo 1 Introduzione 1.1 Contesto generale Secondo l indagine ISTAT sulla Condizione di salute e il ricorso ai servizi sanitari del , in Italia ci sono persone di età superiore a 6 anni afflitte da disabilità, considerando anche le persone residenti nei presidi socio-sanitari. Qui, per disabilità si intende qualsiasi limitazione o perdita della capacità di compiere un attività nel modo o nell ampiezza considerati normali per un essere umano. Per i disabili, quindi, possono risultare difficili o impossibili anche operazioni relativamente semplici; riferendoci a un ambiente domestico, per esempio, potrebbe risultare difficoltoso anche il gesto di premere un interruttore per accendere una luce di una stanza, a causa dell impossibilità di raggiungere la posizione del pulsante o per l assenza della forza necessaria a premerlo. In questo contesto, si possono inserire i concetti di controllo dell ambiente domestico e di usabilità. Il controllo dell ambiente domestico è il controllo, l interazione e il monitoraggio di un ambiente attraverso una tecnologia intermediaria, come un computer; ci si riferisce a esso anche con il termine domotica. Per un disabile, un sistema di controllo ambientale potrebbe essere l unico modo per interagire con la sua casa, mantenendo così la propria indipendenza. Lo scopo di un sistema domotico, allora, è quello di ridurre il carico di lavoro giornaliero dell occupante di una casa e permettergli di vivere il più possibile autonomamente. È stato detto che la domotica necessita di una tecnologia, come un computer, che si ponga tra i dispositivi veri e propri della casa e il suo occupante. Il computer, a sua volta, può avere diverse modalità di interazione verso l utente, come mouse e tastiera, per citare le più comuni. Non tutti questi dispositivi di input, però, possono essere utilizzati con facilità da una persona disabile. Bisogna, quindi, valutare una modalità di interazione differente ed, eventualmente, modificare o riscrivere del tutto l interfaccia utente che, in questo caso, è il componente 1

7 1 Introduzione utilizzato dall utente per interagire con la sua casa attraverso il computer. Qui entra in gioco il concetto di usabilità, definita dall ISO (International Organisation for Standardisation), come l efficacia, l efficienza e la soddisfazione con le quali determinati utenti raggiungono determinati obiettivi in determinati contesti. In pratica essa definisce il grado di facilità e soddisfazione con cui l interazione tra un essere umano e una macchina si compie. Riferendosi in particolare a questa interfaccia utente, l usabilità può essere definita come lo strumento che indica quanto le funzionalità dell interfaccia si adattino ai bisogni e alle aspettative, fisiche e mentali, dell utente disabile che, tramite essa, vuole controllare la propria abitazione. Quindi l apprendimento delle varie funzionalità dell interfaccia e il loro successivo utilizzo dovrebbe essere un processo estremamente semplice e intuitivo, così che essa possa davvero essere adatta al modello mentale e alle differenti esigenze di ogni utente che la voglia usare. 1.2 Gaze tracking, interfacce utente e domotica Nel paragrafo precedente si affermava la necessità di valutare modalità di interazione tra l utente e il computer differenti dai classici mouse e tastiera. Ci possono essere diverse alternative, ognuna che presenta dei vantaggi e degli svantaggi: per questo progetto è stato scelto il gaze tracking (chiamato anche, in italiano, tracciamento del punto fissato), che è una tecnica utilizzata per poter controllare il computer tramite la stima del punto osservato sullo schermo dall utente. In questo caso specifico esso si basa sul tracciamento degli occhi, prendendo così il nome di eye-tracking. L eye-tracking, o tracciamento oculare, è una tecnica utilizzata in molti campi, tra cui le scienze cognitive, la psicologia, l informatica e l interazione uomocomputer, per registrare i movimenti degli occhi. In particolare, vengono misurate e analizzate la posizione degli occhi e il loro movimento relativo alla testa, utilizzando svariati metodi: alcuni prevedono l utilizzo di immagini video dalle quali viene estratta la posizione dell occhio mediante tecniche di computer vision; altri utilizzano la tecnica del riflesso corneale, che consiste nell inviare un piccolo fascio luminoso infrarosso al centro della pupilla e dedurre dalle variazioni del riflesso ottenuto i movimenti effettuati dall occhio, solo per citarne un paio. Gli strumenti che permettono di eseguire queste misurazioni si chiamano eyetracker e si possono distinguere in due categorie: sistemi a postazione fissa, che sono cioè posizionati su un supporto di qualche tipo, distante dall utente; 2

8 1 Introduzione sistemi indossabili, quindi a diretto contatto con l utente, in genere sottoforma di visori da utilizzare come fossero degli occhiali. Figura 1.1: Un esempio di eye-tracker commerciale: MyTobii P10 A titolo di esempio, si considerino gli eye-tracker a postazione fissa, come quello mostrato in figura 1.1. Questi eye-tracker, generalmente, sono personal computer a tutti gli effetti, che integrano anche un paio di emettitori a raggi infrarossi e una telecamera ad alta definizione, sensibile agli infrarossi: il sistema utilizza la tecnica del riflesso corneale per stabilire il punto dello schermo osservato. Non tutto il sistema funziona, però, grazie all eye-tracking: ne usufruiscono solo alcune applicazioni, in genere pre-installate all interno della macchina. Il sistema operativo, che nell eye-tracker mostrato in figura è Windows XP, a titolo di esempio, e nativamente funziona grazie al mouse e alla tastiera; questo accade poiché l interazione basata su eye-tracking necessita che le interfacce utente dei programmi che la vogliano utilizzare abbiano alcune caratteristiche particolari, dettate dalla natura stessa di questo tipo di interazione. È possibile utilizzare Windows anche con l eye-tracker, ma è necessario utilizzare un apposito programma che permetta di provare a compiere tutte le operazioni che normalmente si effettuerebbero con l ausilio del mouse e che, in alcune occasioni, permetta anche di ingrandire certi oggetti che risultano troppo piccoli per essere selezionati col tracciamento dello sguardo. 3

9 1 Introduzione In generale, infatti, non è possibile utilizzare l eye-tracking come sostituto completo del mouse: ciò non è fattibile per il modo in cui agiscono i nostri occhi e per la scarsa affidabilità dei sistemi di eye-tracking esistenti. In particolare, l eye-tracking: è veloce e semplice poiché gli occhi si possono muovere molto più velocemente di qualsiasi altro dispositivo; rivela il punto di attenzione poiché basta calcolare il punto in cui l utente sta guardando per capire dov è diretta la sua attenzione; risente del tocco di Mida poiché lo sguardo non fornisce l equivalente dei pulsanti di un mouse, non è possibile sapere se l utente sta guardando un punto intenzionalmente oppure se sta solo spostando lo sguardo lungo lo schermo; bisogna pertanto utilizzare altri metodi di selezione, come il dwell time, che consiste in un tempo di pausa, generalmente personalizzabile, durante il quale l utente dovrà fissare l oggetto dell interfaccia con cui vuole interagire e poi, trascorso quel tempo, il sistema effettuerà l azione collegata all oggetto che l utente stava fissando; è sempre on poiché l input fornito dallo sguardo è sempre continuo, fintanto che si rimane davanti al monitor; non è invasivo poiché il punto osservato viene rilevato senza bisogno di alcun tipo di contatto fisico; anche per questo l eye-tracking è una buona scelta per i disabili che, magari, non possono utilizzare le mani; richiede calibrazione poiché un sistema di eye-tracking, per essere usato con successo e al massimo delle sue possibilità, richiede di individuare correttamente la posizione degli occhi e il loro movimento durante una fase di test preliminare guidata. La figura 1.2 mostra una semplice interfaccia grafica realizzata per un programma di video-scrittura da eseguirsi tramite eye-tracking. Com è possibile vedere, essa differisce molto dalle tipiche interfacce utente utilizzate, anche solo da quella di Windows, che si intravede sul fondo dell immagine. Quest interfaccia condivide con altre interfacce basate su eye-tracking certe caratteristiche, alcune delle quali sono molto evidenti. La dimensione degli oggetti: sono molto grandi. Questo perché l eye-tracking è, in linea generale, meno preciso di altri dispositivi di puntamento, come il mouse, per esempio. 4

10 1 Introduzione Figura 1.2: Un programma per la video-scrittura, basato su eye-tracking La semplicità e l ordine dell interfaccia: nella parte alta dello schermo si trova un rettangolo di colore bianco che visualizza il testo man mano che lo si inserisce, mentre nella parte bassa si trovano otto rettangoli equidistanziati l uno dall altro che permettono la scrittura. La facilità di navigazione: è tutto lì. Opzioni più avanzate si possono trovare, probabilmente, selezionando l elemento Tools. La divisione a livelli: si immagini, ad esempio, di voler scrivere la parola ciao. Il primo passo da compiere sarà quello di selezionare il primo quadrato, poiché contiene la prima lettera che serve. Una volta selezionato il primo quadrato, verranno visualizzati altri quadrati che conterranno un sottinsieme delle lettere selezionate. A questo punto, si potrà selezionare direttamente la lettera c o si dovrà selezionare un altro oggetto che, sempre per esempio, potrà contenere le lettere cd. E così via. Bisognerà, quindi, navigare per livelli: infatti, visualizzare tutte le lettere dell alfabeto sullo schermo renderebbe i pulsanti troppo piccoli e si incorrerebbe in errori di scrittura molto frequentemente. La mancanza del puntatore: studi dimostrano che la presenza di un puntatore sempre presente sullo schermo potrebbe distrarre l utente, introducendo così degli errori. Pertanto, l utente non sa dove sta guardando finché non guarda un oggetto che è selezionabile. A quel punto, infatti, entra in gioco il dwell time e viene visualizzato un qualche tipo di feedback per indicare all utente quanto tempo manca prima che l oggetto sia effettivamente selezionato. La scelta di utilizzare questo sistema di interazione nasce, inoltre, dal fatto che il Politecnico di Torino, dal 2004, è entrato a far parte di COGAIN (Communication by Gaze Interaction), una rete di eccellenza per lo sviluppo e la ricerca di tecnologie per l interazione fra utenti disabili e computer. 5

11 1 Introduzione COGAIN è un consorzio finanziato dall Unione Europea, costituito da ricercatori, imprese e associazioni di utenti, che ha come scopo il miglioramento della qualità della vita per le persone afflitte da disordini nel controllo motorio. Da allora il Politecnico, con il gruppo di ricerca e-lite, lavora per realizzare un sistema domotico controllabile con eye-tracking e rispondente alle specifiche di questo consorzio. Sistema di controllo domotico che nasce soprattutto per risolvere il problema del basso livello di standardizzazione delle soluzioni domotiche, problema introdotto dal fatto che sono presenti molti produttori e molti dispositivi domotici che funzionano con protocolli diversi, ognuno dei quali incompatibile con l altro. Manca, cioè, una soluzione di alto livello che, da un lato, permetta a questi dispositivi di comunicare senza problemi tra di loro e, dall altro, consenta di avere un unico punto di accesso per tutte le tecniche di gaze control che si vogliono implementare. Questo sistema di controllo ambientale esiste, è in continua evoluzione, è stato sviluppato proprio dal Politecnico di Torino e si chiama DOG (Domotic OSGi Gateway). 1.3 Specifiche COGAIN Tra i vari documenti realizzati da COGAIN, quattro sono quelli che, principalmente, riguardano la gaze interaction applicata a un ambiente domotico in generale (e a DOG, in particolare), analizzandone problematiche, caratteristiche e requisiti. Questi documenti prendono il nome di deliverable e sono indicati dalla lettera D seguita da un numero. Il report D2.4, intitolato A Survey of Existing de facto Standars and Systems of Environmental Control, fornisce la definizione di controllo ambientale, presentandone il rapporto con la disabilità e analizzando differenti metodi di interazione, tra cui il gaze control. Presenta, inoltre, anche alcuni prodotti commerciali e non che possono essere considerati standard de-facto, evidenziando gli aspetti positivi e quelli negativi della loro adozione. Infine, propone la creazione di un sistema ad-hoc per applicazioni domotiche basate su gaze tracking. Il report D2.5, intitolato Draft Standars for gaze based environmental control, presenta alcune architetture di sistemi di controllo domotico basati su eye-tracking e propone una propria architettura, chiamata appunto DOG, fornendo anche alcuni casi di studio esemplificativi per meglio comprendere il funzionamento di tale sistema da parte dell utente disabile. Inoltre, espone la differenza tra vista strutturale e vista funzionale per l organizzazione dell interfaccia grafica: la prima mostra i dispositivi raggruppati come lo sono nella casa reale (cioè per stanze), mentre la seconda li raggruppa in base alla 6

12 1 Introduzione loro funzione logica, a discapito della loro posizione effettiva. Trovare un equilibrio tra queste due viste è essenziale. Infine, elenca una serie di requisiti necessari e consigliati che un interfaccia utente basata su eye-tracking per un ambiente domotico dovrebbe implementare e che verranno riportati, dato il particolare interesse di questo elenco, nel capitolo successivo. Il report D3.1, intitolato User requirements report with observations of difficulties users are experiencing, presenta la necessità di porre l utente finale al centro degli obiettivi di COGAIN. Fornisce, inoltre, alcune informazioni su chi può utilizzare la tecnologia di eye-tracking e chi, invece, non può, mettendo a confronto ciò che la letteratura specialistica dice e ciò che l evidenza sperimentale dimostra. Infine, elenca qualche alternativa all eye-tracking, indicando i vari aspetti positivi e negativi e mostrando con quale percentuale di successo delle persone disabili possono utilizzare un sistema di gaze interaction. Per ultimo, il report D3.2, dal titolo Report on features of the different systems and development needs, presenta alcune caratteristiche chiave dei sistemi di eye-tracking, sia per quanto riguarda la loro componente hardware che per quanto riguarda la componente software, analizzando diversi approcci e diverse possibili scelte riguardanti l interazione come, per esempio, la possibilità di utilizzare la voce come strumento da affiancare all eye-tracking o la scelta nell utilizzo di alcuni simboli per rappresentare elementi nell interfaccia piuttosto che altri. 1.4 Struttura della tesi In questo primo capitolo, si è cercato di introdurre il contesto e fornire alcuni strumenti base per comprendere il punto da cui è partita la realizzazione dell interfaccia utente basata su eye-tracking che è il prodotto finale di questo progetto. Nei prossimi tre capitoli, la tesi è organizzata per presentare gli obiettivi e approfondire alcuni aspetti, seppur di background, necessari a comprendere appieno il come e il perché si è realizzata l interfaccia utente; nei capitoli seguenti, invece, si mostreranno le fasi di progettazione e di implementazione del progetto e si presenteranno i risultati ottenuti. In dettaglio: nel capitolo DUE Obiettivi, si riprenderanno e si approfondiranno alcuni concetti presentati in questo primo capitolo per focalizzare gli obiettivi che si vogliono ottenere nello realizzare questa interfaccia utente, basata su eyetracking, per applicazioni domotiche; 7

13 1 Introduzione nel capitolo TRE Soluzioni tecniche adottate, verrà descritto l ambiente domotico proposto da COGAIN e dal Politecnico di Torino, cioè DOG, analizzando brevemente l ontologia che racchiude lo schema della casa e dei suoi dispositivi. Inoltre, si presenterà l Eye Tracking Universal Driver, un driver universale, sempre proposto da COGAIN, che serve per utilizzare le tecniche di tracciamento degli occhi necessarie per questa applicazione di controllo domotico. nel capitolo QUATTRO Tecnologia utilizzata, si illustrerà la recente tecnologia Microsoft, inclusa nel Framework.NET 3.x, utilizzata per realizzare l interfaccia grafica, dal nome di Windows Presentation Foundation, presentando la sua maggiore innovazione, XAML, ed elencando le differenze rispetto alla tecnologia Microsoft della generazione precedente. nel capitolo CINQUE Progettazione e implementazione, si presenterà l architettura generale del sistema di controllo ambientale, le scelte progettuali e le funzionalità inserite nell interfaccia utente realizzata e, talvolta, si scenderà nel dettaglio specificando quali componenti principali delle Windows Presentation Foundation si sono utilizzati e perché si è fatta proprio quella scelta. nel capitolo SEI Risultati ottenuti, si presenterà qualche risultato qualitativo e quantitativo derivato dall utilizzo dell interfaccia, soffermandosi in particolare ad analizzare quali delle specifiche COGAIN si sono rispettate e quali no. nel capitolo SETTE Conclusione e sviluppi futuri, verranno elencati alcuni sviluppi futuri che il progetto descritto in questa tesi potrà avere. Infine, negli appendici, verrà illustrato il rapporto tra il software Microsoft Expression Design, utilizzato per realizzare la maggior parte degli elementi grafici dell interfaccia grafica, e le immagini utilizzabili nel linguaggio XAML; seguirà un esempio del modello della casa utilizzato e uno di parte del codice prodotto. 8

14 Capitolo 2 Obiettivi L obiettivo principale della tesi è lo studio, la progettazione e la realizzazione di un interfaccia utente basata su dispositivi di eye-tracking per funzionalità di controllo domotico. Si consideri, a tal proposito, l immagine seguente: Figura 2.1: Vista, ad alto livello, del contesto in cui si colloca l interfaccia utente da realizzare Essa mostra un utente che interagisce con la propria casa (ambiente domotico) attraverso un eye-tracker. Per interagire con efficacia, però, necessita di un interfaccia utente che, da una parte, si possa collegare all ambiente domotico e dall altra sia utilizzabile con l eye-tracking. 9

15 2 Obiettivi Assumendo di non avere alcun tipo di problema nel collegare una qualsiasi interfaccia utente al sistema di controllo domotico proposto da COGAIN nel deliverable 2.5, cioè a DOG, si può notare che qualche problema sorge proprio nel trovare un interfaccia utente che sia utilizzabile con un eye-tracker, che abbia un numero sufficiente di funzionalità e che risponda a quei principi di usabilità che si accennavano nel capitolo precedente. Si considerino, come esempio, le seguenti interfacce utente commerciali (figura 2.2): (a) LC Technologies - Light and Appliances. (b) Domotica Labs - KonneXion. Figura 2.2: Due interfacce utente per ambienti domotici La prima fa parte di un software sviluppato da LC Technologies relativa al controllo di dispositivi domotici. Fornisce un controllo basilare di luci e altri dispositivi più avanzati, ovunque essi siano presenti nella casa, permettendo semplicemente di accenderli o spegnerli ed è utilizzabile tramite eye-tracking. La seconda è un interfaccia di un software per il controllo ambientale sviluppato da Domotica Labs. Permette un interazione più completa rispetto al programma di LC Technologies, è basata sul web ma non è utilizzabile con eye-tracking, soprattutto per la presenza dei menù e a causa della ridotta dimensione dei pulsanti. In particolare, le interfacce utente esistenti, non rispettano in pieno nessuna delle raccomandazioni proposte da COGAIN o da altri enti. Si riportano, nella tabella 2.1, quelle più significative, evidenziando il comportamento delle due interfacce di figura 2.2 rispetto a esse. È quindi necessario creare da zero un interfaccia utente, che sia usabile, che si possa collegare a DOG e sia pronta per l eye-tracking. Interfaccia a cui, d ora in poi, ci si riferirà anche con il nome di DOGeye, visto che unisce DOG all EYE interaction. 10

16 2 Obiettivi Raccomandazione LC Technologies Domotica Labs Creare interfacce utente consistenti Sì No Creare scelte standard di interfacce No Possibile differenti, adattabili a piacere Fornire funzionalità di sicurezza in caso No Possibile di guasto del sistema Convergenza di diversi modi operativi No Possibile Utilizzare un insieme di metodi di input, Sì No tra cui l eye-tracking Possibilità di scegliere la lingua da Sì Possibile utilizzare Fornire una visualizzazione della posizione No Sì dei dispositivi all interno della casa Usare colori, testo e icone per evidenziare un cambiamento di stato No Parzialmente Tabella 2.1: Rapporto tra raccomandazioni e interfacce utente per il controllo domotico esistenti Per farlo, ci si pone un altro obiettivo, quello cioè di realizzare un interfaccia grafica con le ultime tecnologie a disposizione, in modo che sia moderna per l attuale stato dell arte. Qui entra in gioco la tecnologia della Microsoft, introdotta a partire dal framework.net 3.0, chiamata Windows Presentation Foundation e la sua componente più rilevante, XAML. Con questa tecnologia, di cui si parlerà più approfonditamente nei prossimi capitoli, si possono realizzare interfacce utenti in maniera semplice, potente, creando codice estremamente leggibile e permettendo la separazione quasi totale della parte di design (cioè, come l interfaccia appare) dalla parte di logica (quali sono i meccanismi per far sì che svolga i suoi compiti). La parte di design, infatti, viene realizzata interamente in XAML, un linguaggio derivato da XML, mentre la parte di logica viene realizzato col cosiddetto code-behind che, essenzialmente, può essere un qualsiasi linguaggio appartenente alla piattaforma.net. Per i propositi di questa tesi, si utilizzerà il linguaggio C#. Inoltre, dovendo l interfaccia rispettare le specifiche COGAIN, per realizzare l interazione con l eye-tracking si utilizzerà un driver universale, sempre proposto da COGAIN, dal nome ETU-Driver, che permetterà di utilizzare l interfaccia anche in simulazione (senza un eye-tracker vero e proprio, insomma) e che fornirà un ampia compatibilità con diversi modelli di eye-tracker, i cui driver sono generalmente 11

17 2 Obiettivi incompatibili l un l altro. Il fatto di dover usare l ETU-Driver è un altro motivo che ha influito notevolmente nella scelta di utilizzare la piattaforma.net: il driver è composto da oggetti di tipo COM e quindi è possibile integrarlo in maniera semplice e veloce. COGAIN, infine, ha pubblicato alcune linee guida che verranno utilizzate come requisiti (riportati in tabella 2.2) per la realizzazione dell interfaccia utente e per la sua valutazione. Questi requisiti sono divisi in quattro categorie e hanno come obiettivo principale quello di promuovere la sicurezza e l accessibilità: 1. sicurezza delle applicazioni di controllo; 2. metodi di input per l applicazione di controllo; 3. caratteristiche operative delle applicazioni di controllo; 4. usabilità delle applicazioni di controllo. Ogni linea guida ha un livello di priorità basato sul suo impatto sulla sicurezza e sull accessibilità nei confronti dell utente: priorità 1 - un applicazione di controllo domotico DEVE soddisfare questa linea guida; priorità 2 - un applicazione di controllo domotico DOVREBBE soddisfare questa linea guida. Ai fini di questo progetto, l obiettivo è quello di soddisfare almeno i requisiti che hanno priorità 1. Tabella 2.2: Linee guida COGAIN per la realizzazione di un applicazione di controllo ambientale Linea guida Descrizione Priorità 1.1 Fornire un sistema di notifiche per gli allarmi veloce, 1 facile da capire e multimodale. L applicazione di controllo dovrebbe notificare un allarme il prima possibile e in diversi modi, per esempio con suoni, icone lampeggianti e messaggi di testo. 1.2 Fornire all utente solo poche e chiare opzioni per 2 gestire eventi di allarme. Molti eye-tracker sono poco accurati quando l utente è agitato, quindi in caso di allarme l applicazione di controllo dovrebbe fornire solo un limitato ma chiaro insieme di opzioni (al massimo tre). 12 Continua...

18 2 Obiettivi Linea guida Descrizione Priorità 1.3 Fornire un azione di default per affrontare un evento di allarme. In caso di emergenza, l utente potrebbe perdere il controllo del dispositivo di input, quindi l applicazione di controllo dovrebbe prendere la decisione più sicura dopo che è scattato un timeout. La lunghezza del timeout è dipendete dal tipo di allarme. 1.4 Fornire una richiesta di conferma per le operazioni critiche e possibilmente dannose. Con un inaccurato o mal configurato eye-tracker, l errore del tocco di Mida può essere frequente, cioè ogni oggetto o comando guardato dall utente è selezionato o eseguito, quindi l applicazione di controllo dovrebbe richiedere una conferma per le operazioni che potrebbero essere dannose. 1.5 Fornire una funzionalità di STOP che interrompa ogni operazione. In alcune occasioni, il sistema domotico può eseguire azioni che l utente non vuole, per esempio per via di una selezione di un comando errato o l esecuzione di uno scenario pre-impostato. L applicazione di controllo dovrebbe permettere un metodo di stop per interrompere ogni operazione. 2.1 Fornire una connessione con il COGAIN ETU-Driver. Il COGAIN ETU-Driver è uno standard di comunicazione per la gaze interaction che permette ad applicazioni di terze parti di essere comandate da un range di diversi sistemi harware di eye-tracker. Usando questo driver, non c è bisogno di cambiare o ricompilare nessuna applicazione nel caso in cui si cambi eye-tracker. 2.2 Supportare differenti metodi di input. L eye-tracker, sfortunatamente, potrebbe rompersi, quindi l applicazione di controllo dovrebbe supportare anche altri metodi di input, come la tastiera, il mouse, ecc Continua... 13

19 2 Obiettivi Linea guida Descrizione Priorità 2.3 Fornire un layout riconfigurabile, appropriato per diverse performance dell eye-tracking e per diverse esigenze degli utenti. Gli eye-tracker hanno un range di performance molto ampio; quindi un applicazione di controllo dovrebbe avere un interfaccia grafica riconfigurabile in base alle diverse risoluzioni e precisioni degli eye-tracker. 2.4 Supportare più metodi di input allo stesso tempo (interazione multimodale). L utente potrebbe essere capace di usare canali di input alternativi all eye-tracking, come la voce o i movimenti delle dita, per esempio. L applicazione di controllo dovrebbe supportare la combinazione di più metodi di input contemporaneamente, come ad esempio la selezione con l occhio e il click con il mouse. 2.5 Gestire la perdita del controllo dell input fornendo azioni di default automatiche. L applicazione di controllo dovrebbe capire quando l utente ha perso il controllo dell eye-tracker e dovrebbe eseguire azioni di default (come effettuare una ricalibrazione o far suonare un allarme). 3.1 Rispondere agli eventi e ai comandi dell ambiente domotico nel giusto tempo. L applicazione di controllo dovrebbe essere reattiva: dovrebbe gestire gli eventi e i comandi con un ritardo accettabile. 3.2 Gestire eventi con diversa priorità temporale. L applicazione di controllo dovrebbe distinguere tra eventi con priorità differente. Gli eventi temporalmente critici devono essere eseguiti con un breve periodo di attesa (per esempio, l allarme antincendio o il rilevamento di un intrusione) Continua... 14

20 2 Obiettivi Linea guida Descrizione Priorità 3.3 Eseguire comandi con diversa priorità. I sistemi domotici ricevono più comandi contemporaneamente, a causa di diversi utenti o degli scenari, per esempio. L applicazione di controllo dovrebbe discriminare comandi con priorità differente e dovrebbe adottare un comportamento prestabilito. 3.4 Fornire un feedback quando vengono eseguite operazioni e comandi automatici. Gli scenari, selezionati dall utente, potrebbero includere molti comandi da eseguire. L applicazione di controllo dovrebbe mostrare l azione in progresso e informare l utente quando uno scenario è terminato. 3.5 Gestire (creare, modificare, cancellare) scenari. Ripetere una lunga sequenza di comandi per eseguire un compito frequente potrebbe essere noioso per l utente. E necessario raccoglierli in una lista di comandi e gestirli come se fossero uno solo. L applicazione di controllo dovrebbe permettere la creazione, la modifica e la cancellazione di questi scenari. 3.6 Conoscere lo stato corrente di ogni dispositivo. L applicazione di controllo dovrebbe conoscere lo stato corrente di ogni dispositivo della casa, per mostrare questa informazione e per prendere decisioni automatiche intelligenti (per esempio, prevenire una condizione dannosa o attivare un piano di risparmio energetico). 4.1 Fornire una chiara visualizzazione di ciò che accade nella casa. L interfaccia dell applicazione di controllo dovrebbe fornire una visualizzazione chiara e facile da capire del progresso dell esecuzione del comando. 4.2 Fornire un interfaccia elegante e chiara. Un layout consistente, con un linguaggio facile da capire e una grafica riconoscibile, avvantaggia ogni utente. L applicazione di controllo dovrebbe fornire un interfaccia elegante e chiara, possibilmente utilizzando sia immagini che testo Continua... 15

21 2 Obiettivi Linea guida Descrizione Priorità 4.3 Fornire una visualizzazione dello stato e della posizione dei dispositivi della casa. L applicazione di controllo dovrebbe mostrare la mappa della casa contenente, per ogni stanza, una rappresentazione dei dispositivi e il loro stato. 4.4 Usare colori, icone e testo per evidenziare un cambiamento di stato. L interfaccia dell applicazione di controllo dovrebbe evidenziare un cambiamento di stato di un dispositivo utilizzando immagini, testo e suoni. 4.5 Fornire un metodo di selezione facile da imparare. Anche se l applicazione di controllo potrebbe presentare caratteristiche e funzionalità complesse, dovrebbe pure fornire un metodo di interazione usabile e facile da imparare

22 Capitolo 3 Soluzioni tecniche adottate 3.1 Introduzione Prima di parlare del progetto dell interfaccia utente realizzata è doveroso dedicare un po di tempo per presentare sufficientemente nel dettaglio le soluzioni tecniche con cui l applicativo deve interagire. In particolare, nei capitoli precedenti, si è parlato di un sistema di controllo dell ambiente domotico chiamato DOG e di un driver universale per l eye-tracking chiamato ETU-Driver. Entrambi questi componenti, proposti o consigliati da CO- GAIN, hanno un ruolo essenziale per il progetto trattato in questa dissertazione ed entrambi sono strettamente correlati con l interfaccia utente, nel modo rappresentato nella figura 3.1: Figura 3.1: Come l interfaccia utente è connessa a DOG e all eye-tracker 17

23 3 Soluzioni tecniche adottate Nei paragrafi seguenti, si tratteranno in maniera più dettagliata le caratteristiche dell ambiente domotico e dell ETU-Driver, procedendo quindi a un ingrandimento di alcune parti della figura Ambiente domotico Il termine domotica (o Smart Home) è un neologismo derivante dalla parola latina domus (che, appunto, significa casa) e la parola informatica. La domotica, quindi, è la disciplina che si occupa di studiare tecnologie informatiche e appartenenti all area dell automazione per poterle utilizzarle negli ambienti domestici, al fine di migliorarne il comfort, l abitabilità e di semplificare la vita delle persone mentre vivono in questi ambienti. Figura 3.2: Un esempio di architettura logica di ambiente domotico La domotica si può intendere in differenti modi: da una parte, essa si occupa di automatizzare semplici funzioni della casa come, per esempio, l accensione e lo spegnimento delle luci; dall altra cerca di sviluppare servizi più intelligenti come, 18

24 3 Soluzioni tecniche adottate per esempio, gli scenari, cioè un elenco di attività riguardanti determinati dispositivi domestici che possono venire attivati o disattivati tutti insieme in un certo momento della giornata, a scelta dell utilizzatore. Un ambiente domotico, pertanto, è un ambiente opportunamente progettato e tecnologicamente attrezzato, in cui sono presenti impianti e dispositivi che sfruttano tecnologie che li rendono controllabili da remoto ed eventualmente anche in grado di comunicare tra di loro. Anche se il termine da remoto può dare l idea che la casa venga controllata da un altro posto, al di fuori dell abitazione, in questo contesto si intende semplicemente che un oggetto o una funzionalità della casa può essere controllata senza il bisogno di maneggiare o toccare fisicamente l oggetto in questione. Quindi, l oggetto può anche trovarsi di fronte all utente ma esso lo controlla in remoto grazie a un sistema di eye-tracking o attraverso lo schermo di un computer. Inoltre, un ambiente domotico come quello mostrato in figura 3.2 è composto da una serie di componenti hardware e software. Le componenti hardware sono gli impianti domotici, che comprendono alcuni dispositivi e un gateway, che gestisce la comunicazione con ogni dispositivo appartenente al proprio impianto e con l House Manager. I gateway dei vari impianti domotici, a loro volta, sono collegati con un Domotic House Gateway che gestisce la rete di comunicazione tra i diversi gateway. La componente software, invece, è il cuore del sistema domotico perché ha il compito di gestire i dispositivi della casa, non importa in quale impianto essi si trovino: tale componente prende il nome di House Manager. L House Manager si occupa anche di fornire servizi intelligenti e alcune applicazioni che permettano all utente di interagire con la casa. L House Manager, nel contesto che stiamo considerando, altro non è che DOG, proposto da COGAIN e sviluppato dal gruppo di ricerca del Politecnico e-lite DOG DOG (Domotic OSGi Gateway) è una piattaforma che permette l interfacciamento, la gestione e l integrazione di dispositivi domotici di diversi costruttori in un singolo sistema software. Realizzato con tecnologia OSGi, fornisce un ambiente per gli sviluppatori orientato ai servizi e basato su componenti, offrendo così modi standardizzati di gestire il ciclo di vita del software stesso. Fornisce un framework Java stabile, sicuro e general-purpose che supporta lo sviluppo di applicazioni di servizio estensibili chiamate bundle o, in italiano, moduli, che sono facili da integrare: basta, infatti, che siano conformi ai vincoli di comunicazione definiti nel framework stesso. 19

25 3 Soluzioni tecniche adottate Figura 3.3: L architettura logica di DOG Come illustrato nella figura 3.3, DOG è composto da differenti moduli, che hanno i vari usi e ruoli descritti di seguito: Network Drivers permette l interazione diretta con le componenti hardware dell ambiente domotico. È necessario un driver differente per ogni protocollo di basso livello utilizzato dalle varie componenti. Attualmente è formato da tre bundle: ND Konnex per i sistemi KNX, ND BTicino per i sistemi MyHome BTicino e ND Emulator che permette di emulare i dispositivi fisicamente non disponibili, consentendo così di utilizzare il software anche in assenza di un ambiente domotico reale, cioè in simulazione; Message Dispatcher effettua il routing degli eventi in arrivo dai Network Drivers e i comandi in arrivo dall Executor; contiene, quindi, una tabella di routing per mappare la corrispondenza tra i dispositivi e i Network Drivers che possono comandarli; Executor riceve i comandi dal modulo API, ne controlla la correttezza interagendo con il modulo Status e li esegue inviando i nuovi comandi al Command Dispatcher; House Model contiene la rappresentazione della casa e dei dispositivi appartenenti all ontologia DogOnt, descritta nel prossimo sotto-paragrafo; 20

26 3 Soluzioni tecniche adottate Status è una sorta di cache che contiene lo status dei dispositivi presenti nel sistema; risponde alle richieste mandate dal modulo API, restituendo informazioni sui vari dispositivi; Platform Manager gestisce l installazione, l avvio e la sospensione dei bundle all interno della piattaforma OSGi, fornisce informazioni sullo stato dei bundle e gestisce la sequenza di bootstrap di sistema; Configurator Registry fornisce i dati di configurazione necessari al funzionamento dei singoli moduli; API è il punto di accesso esterno al sistema; fornisce una serie di servizi come l elenco dei dispositivi presenti nella casa, la possibilità di eseguire comandi e quella di registrarsi come listener per ricevere determinati eventi e conoscere lo stato di uno o più dispositivi; XmlRpcConnector espone i servizi offerti dal modello API sottoforma di endpoint XML-RPC: l interfaccia utente utilizzerà questo modulo e il protocollo XML-RPC per interagire con DOG; DogLibrary, infine, specifica le interfacce dei servizi offerti dai bundle, definendo e implementando le classi di sistema e le eccezioni. L interfaccia utente comunicherà con DOG principalmente durante due fasi, quella iniziale in cui l interfaccia riceverà il modello della casa con tutti i suoi dispositivi, insieme con il loro stato e la loro descrizione; e quella operativa in cui l interfaccia comunicherà a DOG i comandi che vuole compiere (per esempio, accendere una luce) e DOG risponderà restituendo l esito dell operazione che gli è stata richiesta ( la luce si è accesa ). Sempre nella fase operativa, DOG potrebbe comunicare all interfaccia che il verificarsi di un evento (qualcuno ha premuto un pulsante e la luce si è accesa) e l interfaccia tratterà questa informazione di conseguenza, generalmente producendo una notifica destinata all utente. La fase operativa, come è facile intuire, è una fase che viene ripetuta diverse volte, fintanto che DOG e l interfaccia sono entrambi in funzione e qualcosa capita all interno dell ambiente domotico DogOnt DogOnt è il modello formale per la rappresentazione di un ambiente domotico, composto da due elementi: un ontologia e un insieme di regole. 21

27 3 Soluzioni tecniche adottate Una ontologia è una rappresentazione formale di una interpretazione condivisa di uno specifico dominio di conoscenza. Non esistendo l ontologia perfetta, la rappresentazione di un determinato dominio può essere formalizzata in una moltitudine di modi e dipende dallo scopo per cui viene creata. Un ontologia assume normalmente una struttura a grafo connesso con concetti e relazioni che li collegano. Le componenti fondamentali di una ontologia sono: Classi - insiemi, collezioni o tipi di oggetti; Attributi - proprietà, caratteristiche o parametri che gli oggetti possono avere e condividere; Relazioni - modi in cui gli oggetti possono essere messi in relazione gli uni con gli altri; Individui - istanze del modello, che sono gli elementi di base. Le classi di un ontologia sono concetti astratti che esprimono una classificazione delle entità rilevanti del dominio. L ontologia ha generalmente una classe radice chiamata Thing da cui discendono tutte le altre. Le classi nell ontologia seguono il principio dell ereditarietà padre-figlio a livello di classe e proprietà. Analizzando la figura 3.4, si può notare che l ontologia di DogOnt si sviluppa lungo cinque rami principali: Building Thing: rappresenta gli oggetti disponibili (controllabili, come una luce, oppure no); Building Environment: rappresenta dove gli oggetti sono collocati; State: rappresenta le configurazioni stabili (gli stati, come acceso o spento ) che gli oggetti controllabili possono assumere; Functionality: rappresenta cosa gli oggetti controllabili possono fare (accendersi e spegnersi, sempre per esempio); la maggior parte degli oggetti istanziabili non ha funzionalità comandabili con più di tre comandi. Domotic Network Component: rappresenta delle caratteristiche peculiari di ogni impianto domotico. Ogni ramo, a sua volta, avrà un certo numero di altri rami figli, a seconda di cosa deve rappresentare: Building Thing, che è uno dei rami dell ontologia più interessanti poiché contiene tutti i dispositivi, gli elementi di mobilio e quelli architetturali 22

28 3 Soluzioni tecniche adottate Figura 3.4: L ontologia DogOnt che ci possono essere nella casa, si divide in Controllable e Uncontrollable, per separare gli oggetti che sono controllabili da quelli che, come il tavolo del soggiorno, non lo sono. DogOnt, inoltre, rappresenta ogni dispositivo come un oggetto che possiede un insieme di funzionalità e di stati. Le funzionalità sono automaticamente aggiunte a ogni istanza del dispositivo, in base alle restrizioni definite al livello di classe. Esse sono condivise da tutti i dispositivi della stessa classe: pertanto, diversi tipi di lampade appartenenti alla stessa classe potranno avere delle funzionalità in comune. D altra parte, invece, gli stati sono peculiari a ogni dispositivo. Quindi, se si volesse ottenere un modello della casa personalizzato e virtuale, per esempio per eseguire alcune simulazioni, basterebbe creare una istanza per ogni camera che si vuole avere nella casa (le stanze si trovano nel ramo Building Environment ); dopodiché basterebbe creare le istanze dei dispositivi che si vogliono 23

29 3 Soluzioni tecniche adottate avere nelle singole stanze, come luci, interruttori o elettrodomestici (si trovano tutti in Building Thing > Controllable > White Goods ) e assegnargli i tipi di funzionalità e i tipi di stato che sono previsti nelle loro classi. L assegnazione dei singoli stati e delle singole funzionalità per ogni dispositivo istanziato nell ontologia viene fatto in maniera automatica proprio grazie al ragionamento basato su regole offerto da DogOnt. Le regole di DogOnt, pertanto, facilitano il processo di modellazione generando automaticamente gli stati adeguati e le funzionalità dei dispositivi domotici, e associandoli al corretto dispositivo attraverso relazioni di tipo semantico. Fornendo alcune modalità di ragionamento, inoltre, DogOnt è in grado di fornire la posizione di un dispositivo domotico nella casa, elencare l insieme delle sue caratteristiche, fornire le caratteristiche tecnologie necessarie per interfacciarsi con quel dispositivo, dire come è composto l ambiente domestico e presentare gli elementi architetturali e di mobilio che sono presenti nella casa. Ci sarebbe ancora molto da dire riguardo questo argomento ma, per gli obiettivi di questa tesi non è necessario sapere altro: l interfaccia utente si collega direttamente con DOG che gli fornisce il modello della casa con tutti i suoi dispositivi e non ha bisogno di modificare né l ontologia né le regole di DogOnt. È sufficiente sapere cos è un ontologia, che i vari dispositivi hanno delle funzionalità e degli stati e che DOG prende da qui il modello della casa, senza il quale nulla potrebbe funzionare. 3.3 Eye Tracking Universal Driver (ETU-Driver) Il driver universale di COGAIN Eye Tracking Universal Driver (ETU-Driver), utilizzato in questo progetto, è stato sviluppato da Oleg Špakov e si presenta come un livello che si pone fra il driver vero e proprio di alcuni modelli di eye-tracker e le applicazioni di terze parti, al fine di permettere il loro utilizzo su eye-tracker di produttori differenti. Figura 3.5: Parte dell architettura dell ETU-Driver 24

30 3 Soluzioni tecniche adottate Il driver, la cui architettura è rappresentata nella figura 3.5, è costituito da una serie di oggetti COM che implementano un unica interfaccia per alcuni eye-tracker supportati e da un set di librerie (chiamate API-Converters), che convertono le API originali dei vari produttori in una API comune utilizzata, appunto, da questo driver universale. Attualmente, il driver universale contiene gli API-Converters dei seguenti eyetracker: ITU GazeTracker; LC EyeGaze; SR EyeLink I/II; SMI iviewx v1.2x e v2.0; Tobii Technologies 1750, P10, D10, T60, T120 e X120. Inoltre, sono disponibili tre API-Converters di simulazione che possono essere utilizzati per scopi di debug, per eseguire applicativi di dimostrazione o per mostrare il comportamento di un interazione basata su eye-tracking in assenza di un eyetracker vero e proprio. Questi tre convertitori sono: Mouse, utilizza la posizione del puntatore del mouse sullo schermo come punto osservato in quell istante. Questa API contiene un algoritmo di fixation detection, i cui parametri sono completamente configurabili tramite le opzioni dell ETU-Driver. Gaze-data file, legge e interpreta un file contenente i dati sullo sguardo registrato precedentemente dal driver universale utilizzando un altro API-Converter, mostrandoli sullo schermo. Simulator, genera scan-path casuali, cioè memorizza su file dei dati casuali, generati come se appartenessero allo sguardo di un utente virtuale. Il driver universale dispone anche di alcuni filtri che sono in gradi di modificare, bloccare o generare dati relativi allo sguardo prima che questi vengano inviati alle applicazioni utente. Tali filtri sono: EyeMouse - questo filtro collega sguardo e mouse, ovvero il puntatore si muove seguendo con il punto osservato. 25