Per ogni riga, applicando il modello precedente, si ha:

Transcript

1 ALGEBRA MATRICIALE PER REGRESSIONI MULTILINEARI Tips di esempio con i conti per ostacolare i processi di analfabetismo matematico Per le applicazioni con le regressioni lineari multiple possiamo usare un software indirizzati (per es. il programma R, vedere il post relativo), ovvero l'algebra matriciale. Supponiamo di voler trovare la relazione fra due variabili indipendenti X1 e X2 e una variabile dipendente Y, attraverso appunto il modello: Yi = b 0 + b 1 * X 1i + b2 * X 2i cioè stimare i parametri b sulla base di dati campionari. Per l'esercizio partiamo dalle seguenti serie di n=6 dati per Y, X1 e X2 e K=2 variabili indipendenti: Y X1 X Per ogni riga, applicando il modello precedente, si ha: 10 = b0 + b1*1 + b2 * 1 8 = b0 + b1*2 + b2 * 0 5 = b0 + b1*3 + b2 * 1 6 = b0 + b1*4 + b2 * 1 3 = b0 + b1*5 + b2 * 1 1 = b0 + b1*6 + b2 * 0 Esprimiamo in forma matriciale queste 6 equazioni: Y=Xb dove Y è un vettore colonna (6*1), X è una matrice (6*3) di cui la prima sono 6 uno, e b un vettore colonna (3*1). Moltiplicando la matrice X (6*3) per il vettore colonna b (3*1) dovremmo ottenere la Y che ha dimensioni (6*1), infatti:

2 X b Xb b0+b1+b b0+2b b0 b0+3b1+b * b1 = b0+4b1+b2 che è un vettore colonna (6*1) b2 b0+5b1+b b0+6b1+0 Risolviamo l'eq. matriciale che ha come incognita il vettore b che stima i coefficienti ß. Il vettore b ha dimensione (3*0); bisogna rielaborare l'eq. in maniera da isolare b in un membro, mentre al secondo membro ci deve figurare complessivamente un vettore colonna (3*0). Utilizzo un trucco: se moltiplico a sinistra ambedue i membri per la trasposta di X (6*3) che chiamo X' (3*6), X'X è (3*3), ma anche X'Y (3*6) (6*3), ha dimensione proprio (3*3). Da chiarire meglio! Per risolvere l'eq. matriciale in b, inverto la matrice (X'X), ottenendo (X'X) -1. In tal modo si ha: b = (X'X) -1 X'Y Rimane ora da fare questi conti con le operazioni matriciali: trasposta, inversione e prodotto che abbiamo imparato a fare. I CONTI X'X = * = La matrice X'X è simmetrica per cui la trasposta è uguale a se stessa. Traccia del calcolo: 1 a riga di X' * 1 a colonna di X = 1*1+ 1*1+1*1+1*1+1*1+1*1 = c11=6 1 a riga di X' * 2 a colonna di X = 1*1+ 1*2+1*3+1*4+1*5+1*6 = c12=21 1 a riga di X' * 3 a colonna di X = 1*1+ 0*2+1*1+1*1+1*1+1*0 = c13=4 2 a riga di X' * 1 a colonna di X = 1*1+2*1+3*1+4*1+5*1+6*1 = c21=21 2 a riga --- * 2 a colonna --- = = c22=91 2 a riga --- * 3 a colonna = = c23=13 3 a riga * 1 a colonna = 1*1+ 1*0+1*1+1*1+1*1+1*0 = c31=4 3 a riga * 2 a colonna = = c32=13 3 a riga * 3 a colonna = = c33=4

3 X'X = Calcolo il determinante di X'X che serve poi per invertire la stessa matrice. Cerco di annullare 2 elementi della prima riga. 1 - Sottraggo intanto dalla prima riga l'ultima e ottengo: Moltiplica per 4 la prima colonna e ci sottraggo la seconda e ottengo in successione: Calcolo il determinante attraverso l'elemento residuo della prima riga (-8, è negativo perchè l'elemento ha somma indici dispari: c12) moltiplicandolo per il suo complemento algebrico o cofattore; in questo caso : Det=(-28-39)/4=+134. Ho diviso per 4 perchè avevo moltiplicato per 4 la colonna Calcolo il prodotto matriciale : X'*Y = * 5 = Traccia: Prima riga per colonna di Y e sommo i risultati Seconda riga per colonna di Y e sommo i risultati Terza riga per colonna Invertiamo ora X'X per ottenere (X'X) -1 Sostituisco ad ogni elemento di X'X il suo cofattore

4 Calcolo la matrice dei cofattori = Non faccio la trasposta Si ricava ora il vettore b b = (X'X) -1 X'Y (X'X) -1 X'Y b= 1/134 * * Traccia del conto 195*33+(-32)*86+(-91)*24 b*134 = -32*33+8*86+6*24-91*33+6*86+105* b0 b= 1/134 * = = b b Controlliamo con R che X'X * (X'X) -1 = a=c(6,21,4,21,91,13,4,13,4) w=134 b=c(195/w,-92/w,-81/w,-32/w,8/w,6/w,91/w,6/w,105/w) A=matrix(a,3,3) B=matrix(b,3,3) P=A%*%B Trasferiamo questi scrips sulla console di R anche con copia-incolla

5 L'EQUAZIONE DI REGRESSIONE MULTIPLA 'FITTATA' Y= *X *X2