WEKA only deals with flat files

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "WEKA only deals with flat files"

Daniele Marra
7 anni fa
Visualizzazioni

1 WEKA: versions!!there are several versions of WEKA:!!WEKA 3.0: book version compatible with description in data mining book!!weka 3.2: GUI version adds graphical user interfaces (book version is command-line only)!!weka 3.3: development version with lots of improvements!!download:!! G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 96 WEKA only deals with flat age sex { female, chest_pain_type { typ_angina, asympt, non_anginal, cholesterol exercise_induced_angina { no, class { present, 63,male,typ_angina,233,no,not_present 67,male,asympt,286,yes,present 67,male,asympt,229,yes,present 38,female,non_anginal,?,no,not_present... G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 97

2 WEKA only deals with flat age sex { female, chest_pain_type { typ_angina, asympt, non_anginal, cholesterol exercise_induced_angina { no, class { present, 63,male,typ_angina,233,no,not_present 67,male,asympt,286,yes,present 67,male,asympt,229,yes,present 38,female,non_anginal,?,no,not_present... G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 98 G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 99

3 Explorer: pre-processing the data!!data can be imported from a file in various formats: ARFF, CSV, C4.5, binary!!data can also be read from a URL or from an SQL database (using JDBC)!!Pre-processing tools in WEKA are called filters!!weka contains filters for:!!discretization, normalization, resampling, attribute selection, transforming and combining attributes, G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 100 WEKA: Esempio di Classificazione!! Questo esempio illustra l'uso del classificatore C4.5 (J48)!! Dati usati: bank-data.csv!! id identificatore unico!! age età del cliente in anni (numeric)!! sex MALE / FEMALE!! region inner_city/rural/suburban/town!! income reddito del cliente (numeric)!! married sposato? (YES/NO)!! children numero di figli (numeric)!! car possiede un'automobile? (YES/NO)!! save_acct ha un conto di risparmio? (YES/NO)!! current_acct ha un conto corrente? (YES/NO)!! mortgage ha un mutuo (YES/NO)!! pep ha acquistato un PEP (Personal Equity Plan) dopo l'ultimo invio postale? (YES/NO) G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 101

4 Caricamento dati!! prelevare il file da: Cliccare sul tab preprocess -> open file G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 102 Conversione file da CVS a ARFF!! WEKA chiede di convertire il file!! Cliccare su Use Converter G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 103

5 Salvare il file in arff G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 104 Eliminare l identificatore delle istanze G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 105

6 Caratteristiche dei dati!! Un click su uno degli attributi mostrerà le statistiche per quell'attributo. Per gli attributi categorici, si mostra la frequenza di ciascun valore, mentre per quelli continui si mostrano massimo, minimo, media, deviazione standard, ecc!! pannello in basso a destra è una forma di tabulazione incrociata di 2 attributi: Age, PEP. G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 106 Pannello Classify G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 107

7 Classifiers " Trees " J48 G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 108 Parametri di classificazione impostabili!! Fra le opzioni di test selezioniamo 10-fold cross-validation. un metodo sufficientemente accurato quando non si fornisce un test set separato!! Dal combobox sotto il pulsante more options scegliamo PEP, l attributo da predire G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 109

8 Risultato della classificazione!! Cliccando su start inizia l elaborazione, al termine compare sulla destra il risultato!! Informazioni importanti: Correctly e Incorrectly classified Instances!! Confusion Matrix: indica la distribuzione delle previsioni corrette e errate!! Es: 74 osservazioni YES NO, classificate correttamente!! 64 osserv. YES classif. Erroneamente come NO, e viceversa per le rimanenti 30 G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 110 Visualizzazione del modello appreso!! Cliccare col pulsante destro del mouse sul risultato nel pannello Result list e scegliere Visualize tree G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 111

9 Visualizzazione del modello: albero di decisione G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 112 Classificazione di nuove istanze dal modello appreso!! Utilizziamo il nuovo file bank-new.arff, scaricabile dallo stesso URL menzionato in prec.!! Il file ha la stessa struttura di bank.arff ma l ultimo attributo, PEP, è ignoto (? ) G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 113

10 Test options " Supplied test set " Set!! Cliccare su open file e aprire bank-new.arff, chiude la dialog box e cliccare su start G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 114 Memorizzare i dati con i valori predetti!! Ora non vi sono statistiche sull affidabilità della predizione perché PEP è ignoto!! Cliccare col pulsante destro sul risultato prescelto nel pannello Result List e scegliere Visualize classifier errors (non ci sono errori da visualizzare ma consente di salvare i dati con i valori predetti) G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 115

11 Save " bank-predicted.arff G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 116 File dati con il nuovo attributo predetto! Dopo l operazione sono stati aggiunti due file: Instance_number e predictedpep G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 117

12 Utilizzo di WEKA da CLI (linea di comando)!! La GUI di Weka è molto comoda per scegliere, aggiustare i parametri e visualizzare i risultati!! Per applicare i modelli a nuovi dati è più diretto e flessibile l'impiego della linea di comando, utilizzando comunque i parametri stabiliti in precedenza!! Un vantaggio è che otteniamo una stima dell affidabilità di ogni previsione!! Linea di comando è attivata da "Simple CLI" nella finestra principale!! Il comando per generare il modello di classificazione è!! java weka.classifiers.trees.j48 -C M 2 -t dir-data\bank.arff -d dir-data \bank.model!! Le opzioni -C 0.25 e -M 2 sono quelle selezionate in precedenza via GUI!! Viene così mostrato lo stesso risultato visto in precedenza!! Il file bank.model generato lo utilizziamo per classificare nuovi dati con il seguente comando (vedi risultato nella slide successiva):!! java weka.classifiers.trees.j48 -p 9 -l dir-data\bank.model -T dir-data \banknew.arff!! L'opzione -p 9 indica che si vuole predere il valore dell'attributo 9 ("pep"). -l e - T specificano il file del modello e il file dei dati da classificare, rispettivamente. G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 118 Risultato della previsione a linea di comando! Il risultato è un output a 4 colonne: instance_number, previsione, accuratezza, attributo incognito! 0 YES 0.75?! 1 NO ?! 2 YES 0.95?! 3 YES ?! 4 NO ?!!. L accuratezza è utile per separare ad esempio le previsioni più sicure da quelle più incerte G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 119

13 Altri riferimenti!! Testi!! Jiawei Han e Micheline Kamber, Data Mining: Concepts and Techniques, Morgan Kaufmann Publishers, ISBN "!! Data Mining: Practical Machine Learning Tools and Techniques (Second Edition) Ian H. Witten,#Eibe Frank,#Morgan Kaufmann, 2005,#ISBN #(contiene riferimenti a Weka)!! Database per il data mining disponibili online!! (University of California at Irvine)!! (ACM Special Interest Group on Knowledge Discovery and Data Mining) G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 120 Esercizio: riconoscere attacchi di rete!! Prelevare il file da:!! Significato attributi:!! timestamp: istante di campionamento!! PCsampled: indirizzo ip del computer che ha ricevuto attacchi!! tcplistenerprocess: numero di processi in ascolto!! tcpconnectionstate: numero di connessioni (somma di quelle sotto)!! timewait: num. connessioni nello stato time wait (stato intermedio tra la connessione aperta e in chiusura - precedente rispetto al cosewait)!! established: num. connessioni stabilite!! synreceived: num. connessioni che stanno per diventare established!! finwait: num. connessione che stanno per chiudere!! closewait: num. connessione in avanzato stato di chiusura!! DifferentIPS: num. di ip differenti collegati!! 1IP_Address: primo ip con maggiore num. di connessione in ingresso!! 1IP_Connections: num. di connessioni di 1IP_Address!!...!! Port1_Number: num. di porta con maggiori connessioni in ingresso Port1_Connections: num. di connessioni di Port1_Number!!...!! tcpinerrs: num. errori di packet tcp in ingresso (anche senza connessione)!! tcpoutrsts: num. risposte ai packet tcp errati G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 121

14 Esercizio: riconoscere attacchi di rete (ii)!! Attributo classe: Session!! Session0: traffico Normale!! Session1: DOS+Normal Traffic!! DOS su http - causa l esaurimento delle risorse (porte e ram)!! Session2: DDOS+NormalTraffic!! DDOS su http DOS Distribuito proveniente da varie macchine!! Session3: NMAP + Normal traffic!! scansione porte!! Session4: SSH_DOS+Normal Traffic!! DOS sulla porta ssh (fa esaurire la risorsa delle porte e memoria computer)!! Session5: SSH_BruteForcer!! fa una connessione alla volta, una volta established tenta di accedere fornendo user e password G. Moro, DEIS Univ. Bologna - Introduzione al Data Mining 122

Documenti analoghi

Weka Project. Weka. Weka Project. Formato.arff. Modalità di utilizzo di Weka. Formato.arff

Weka Project. Weka. Weka Project. Formato.arff. Modalità di utilizzo di Weka. Formato.arff Weka Project Weka Machine Learning Algorithms in Java Waikato Environment for Knowledge Analysis Algoritmi di Data Mining e Machine Learning realizzati in Java Preprocessing Classificazione Clustering