Analisi discriminante in R Strumenti quantitativi per la gestione

Transcript

1 Analisi discriminante in R Strumenti quantitativi per la gestione Emanuele Taufer Default data LDA con R Output Plot Previsione Tabella di classificazione Cambiare il criterio di classificazione Costruire la curva ROC Crossvalidazione LOOCV Stima del test error rate con LOOCV QDA LOOCV per QDA Confronto LDA QDA Confronto LDA QDA con la curva ROC Riferimenti bibliografici Default data Carichiamo il data set Default library(islr) data(default) head(default) default student balance income 1 No No No Yes No No No No No No No Yes LDA con R La funzione lda(), presente nella libreria MASS, permette di affrontare problemi di classificazione con LDA. La sintassi è analoga a quella che si usa nelle funzioni lm e glm file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 1/9

2 library(mass) lda.fit=lda(default~balance+income+student,data=default) Output lda.fit Call: lda(default ~ balance + income + student, data = Default) Prior probabilities of groups: No Yes Group means: balance income studentyes No Yes Coefficients of linear discriminants: LD1 balance e 03 income e 06 studentyes e 01 Plot plot(lda.fit) file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 2/9

3 Previsione La classificazione delle unità training (o test) può essere fatta con la funzione predict() L output di predict() contiene una serie di oggetti, utilizziamo la funzione names() per vedere quali sono e, per poterli analizzare ed utilizzare, mettiamo il tutto in un data.frame. lda.pred=predict(lda.fit, Default) names(lda.pred) [1] "class" "posterior" "x" previsione< as.data.frame(lda.pred) head(previsione) file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 3/9

4 class posterior.no posterior.yes LD1 1 No No No No No No Tabella di classificazione Costruiamo ora un data.frame, Default.LDA, che contiene i dati training e le previsioni della LDA. Costruiamo inoltre una tabella di classificazione Default.LDA< cbind(default, "pred.def"=lda.pred$class, "pr.def"=round(lda.pred$posterio r,digits=4)) head(default.lda) default student balance income pred.def pr.def.no pr.def.yes 1 No No No No Yes No No No No No No No No No No No Yes No attach(default.lda) addmargins(table(default,pred.def)) pred.def default No Yes Sum No Yes Sum Cambiare il criterio di classificazione Costruiamo una nuova variabile lda.pred.2 che classifica le unità come default=yes se la probabilità di default stimata dal modello di LDA è maggiore di lda.pred.2=rep("no",nrow(default)) lda.pred.2[default.lda$pr.def.yes>0.2]="yes" addmargins(table(default,lda.pred.2)) 0.2 file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 4/9

5 lda.pred.2 default No Yes Sum No Yes Sum Costruire la curva ROC Per costuire la curva ROC è necessario installare la libreria ROCR. Le tre righe di istruzioni indicate sotto fanno il resto library(rocr) pred < prediction(default.lda$pr.def.yes, default) perf < performance(pred, measure = "tpr", x.measure = "fpr") plot(perf, colorize=t,lwd=3) file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 5/9

6 Crossvalidazione LOOCV L opzione CV=TRUE nella funzione lda() produce un LOOCV sui dati. In questo caso l output contiene la classificazione prodotta e le probailità a posteriori (per ciascuna unità esclusa dal data set), per vederne solo una parte è opportuno mettere i risultati in un data.frame lda.fit=lda(default~balance+income+student,data=default,cv=t) names(lda.fit) [1] "class" "posterior" "terms" "call" "xlevels" lda.loocv< data.frame(lda.fit$class,lda.fit$posterior) head(lda.loocv) lda.fit.class No Yes 1 No No No No No No Stima del test error rate con LOOCV Calcoliamo una tabella di classificazione ( default=yes se la probabilità di default stimata dal modello di LDA è maggiore di ) in base ai risultati della LOOCV 0.2 lda.cv.pred.2=rep("no",nrow(default)) lda.cv.pred.2[lda.loocv$yes>0.2]="yes" addmargins(table(default,lda.cv.pred.2)) lda.cv.pred.2 default No Yes Sum No Yes Sum QDA L analisi discriminante quadratica può essere fatta utilizzando la funzione qda() qda.fit< qda(default~balance+income+student,data=default) qda.fit file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 6/9

7 Call: qda(default ~ balance + income + student, data = Default) Prior probabilities of groups: No Yes Group means: balance income studentyes No Yes LOOCV per QDA Analogamente a quanto visto per la LDA, una LOOCV può essere effettuata semplicemente inserendo l opzione CV=TRUE qda.fit< qda(default~balance+income+student,data=default,cv=true) names(qda.fit) [1] "class" "posterior" "terms" "call" "xlevels" qda.loocv< data.frame(qda.fit$class,qda.fit$posterior) head(qda.loocv) qda.fit.class No Yes 1 No No No No No No qda.cv.pred.2=rep("no",nrow(default)) qda.cv.pred.2[qda.loocv$yes>0.2]="yes" addmargins(table(default,qda.cv.pred.2)) qda.cv.pred.2 default No Yes Sum No Yes Sum file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 7/9

8 Confronto LDA QDA Utilizzando i risultati ottenuti, confrontiamo LDA e QDA comparando le stime del test error rate ottenute dalla LOOCV LDA QDA / /9667 La sensitività è pari al % ( ) La specificità è pari al % ( ) / /9667 La sensitività è pari al % ( ) La specificità è pari al % ( ) Confronto LDA QDA con la curva ROC lda.pred < prediction(lda.loocv$yes, default) lda.perf < performance(lda.pred, measure = "tpr", x.measure = "fpr") qda.pred < prediction(qda.loocv$yes, default) qda.perf < performance(qda.pred, measure = "tpr", x.measure = "fpr") plot(lda.perf, col="blue",lwd=2) plot(qda.perf, col="red",lwd=2,add=true) legend(0.6,0.6,c('lda','qda'),col=c('blue','red'),lwd=3) file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 8/9

9 Riferimenti bibliografici An Introduction to Statistical Learning, with applications in R. (Springer, 2013) Alcune delle figure in questa presentazione sono tratte dal testo con il permesso degli autori: G. James, D. Witten, T. Hastie e R. Tibshirani Tobias Sing, Oliver Sander, Niko Beerenwinkel, Thomas Lengauer. ROCR: visualizing classifier performance in R. Bioinformatics 21(20): (2005). file:///c:/users/emanuele.taufer/dropbox/3%20sqg/labs/l4_ _LDA.html 9/9