Facoltà di Economia - Università di Sassari Anno Accademico Dispense Corso di Econometria Docente: Luciano Gutierrez.

Transcript

1 Fcoltà di Economi - Università di Sssri Anno Accdemico Dispense Corso di Econometri Docente: Lucino Gutierrez Algebr Linere Progrmm: 1.1 Definizione di mtrice e vettore 1.2 Addizione e sottrzione di mtrici 1.3 Moltipliczione di mtrici 1.4 Trcci di un mtrice qudrt 1.5 Determinnte di un mtrice qudrt 1.6 Rngo di un mtrice 1.7 Invers di un mtrice qudrt 1.8 Soluzione di un sistem di equzioni simultnee 1.9 Mtrici idempotenti 1.10 Mtrici ortogonli 1.11 Differenzizione di mtrici e vettori Lucino Gutierrez Deprtimento di Economi e Sistemi Arborei Tel.: Università of Sssri Fx: Vi E. De Nicol 1, Sssri e-mil: lgutierr@uniss.it web:

2 2 1. Definizione di mtrice e di vettore Immginimo di ver rccolto i dti reltivi l reddito nzionle itlino nel periodo , ll indice dei prezzi l consumo nel periodo e, infine, l livello medio dei tssi di interesse sempre nel periodo Abbimo quindi rccolto i dti reltivi 3 vribili (reddito, indice dei prezzi l consumo e tsso di interesse) e 33 osservzioni (1970,1971,.., 2002). Indicizzimo le vribili. Agli nni viene ttribuito l indice t=1970,1971,.,2002, o denominndo il 1970 come il primo nno, il 1971 come il secondo, e così vi si l 2002 come l nno Tesimo, vremo t=1,2,,t. Alle vribili ttribuimo invece l indice k=1,2,3, o nche k=1,2, K, in cui K nel nostro cso è ugule 3 e individu l vribile livello medio del tsso di interesse. Le tre vribili possono essere rccolte in un mtrice. Un mtrice è un rccolt di vlori orgnizzti in righe e colonne. Ad esempio l nostr mtrice di dti che possimo denominre X è costituit d T righe e K colonne. X x x x x x x x x x K K = T1 T2 TK (1.1) Come si può notre ogni elemento dell mtrice h tipicmente due indici. Un indice di rig t=1,2,,t e un indice di colonn k=1,2,..,k e il generico elemento può essere rppresentto come x tk. L mtrice X si definisce di ordine o dimensione ( T K) K colonne. Nel nostro cso l mtrice è di ordine ( 33 3). in qunto formt d T righe e Nel cso in cui l mtrice si definit d un sol colonn si definisce vettore colonn, es: y y11 y yt1 21 = è un vettore di dimensione ( T 1). Nel cso il vettore si costituito d un sol rig si definisce vettore rig, d esempio: [ ] w= x x x K

3 3 e in questo cso il vettore è di dimensione ( 1 K ). Se si f riferimento l nostro esempio, l rig rccoglie i vlori delle tre vribili, reddito nzionle, livello dei prezzi e tsso di interesse osservte nel Possimo or generlizzre il discorso riferendo l nlisi d un generic mtrice A, con un numero di colonne pri i=1,2,,m e un numero di righe pri j=1,2,..,n, il cui generico elemento è quindi dto d ij. Nel cso in cui m=n, cioè il numero di righe si ugule l numero di colonne, si dice che l mtrice è qudrt e il vettore [ ] nn A n n1 n2 nn n = è noto come digonle principle dell mtrice A. L trspost di un mtrice o di un vettore si ottiene scmbindo le righe con le colonne. Ad esempio l trspost dell mtrice A, e si indic con A è dt d A m m 2 = 1n 2n mn l mtrice A è or di dimensione ( n m) (1.2). Nturlmente se si trspone un vettore colonn si ottiene un vettore rig, mentre se si trspone un vettore rig si ottiene un vettore colonn. Nel cso in cui A= A llor si definisce l mtrice A simmetric. Ad esempio l mtrice è un mtrice simmetric A = Un prticolre cso di mtrice simmetric è l mtrice identità costituit d un mtrice qudrt che h nell digonle principle vlori uguli 1, mentre tutti gli ltri elementi hnno vlore ugule zero :

4 4 I = (1.3) 1.1 Addizione e sottrzione di mtrici L ddizione o l sottrzione di mtrici richiede che le mtrici bbimo l stess dimensione. Se ciò è vero, cioè se le mtrici hnno l stess dimensione (o, in ltri termini, sono dello stesso ordine), l somm (sottrzione) di due mtrice è pri ll somm (sottrzione) di ciscun elemento corrispondente lle due mtrici. Ad esempio dte le due mtrici A e B A= ; ; 3 2 B = C = A+ B = ; D= A B = 5 2 Si noti come vlgno le seguenti relzioni (verificre l (1.6)). 1.3 Moltipliczione di mtrici A± B= B± A (1.4) ( A± B) ± C = A ± ( B ± C) (1.5) A± B = A ± B (1.6) ( ) Per moltiplicre un mtrice per un numero, denominto in lgebr mtricile sclre, si moltiplicno per quel vlore tutti gli elementi dell mtrice k k k k k k k k k k n n A= m1 m2 mn (1.7) Not che uno sclre può essere moltiplicto per un mtrice di qulsisi dimensione. Un po più compless è l moltipliczione tr due mtrici. Supponimo di vere due mtrici A e B e volerne clcolre il prodotto AB. L condizione ffinché il prodotto si

5 5 possibile è che il numero di colonne dell mtrice A si ugule l numero di righe dell mtrice B. In questo cso si dice che le due mtrici sono conformbili. Esempio: ( ) [ ] b b b A = B = 12 ( 23 ) b21 b22 b 23 (1.8) si dice che il prodotto AB esiste, o le due mtrici sono conformbili, in qunto il numero di colonne di A è ugule l numero di righe di B. Non è invece definito il prodotto inverso BA (Perché?) Allor dte due mtrici un di dimensioni ( m n) e l ltr di dimensioni ( p q) prodotto tr le due mtrici esiste se e solo se n mtrice risultto vrà dimensioni ( m q), il = p. In questo cso vremo che l, cioè l mtrice ottenut vrà un numero di righe ugule lle righe dell prim mtrice e un numero di colonne pri l numero di colonne dell second mtrice. Come eseguire l moltipliczione? Esminimo il cso (1.8), ( ) [ ] b b b A = B = 12 ( 23 ) b21 b22 b 23 (1.9) l mtrice risultto, che definimo C, vrà dimensioni ( 1 3), cioè il risultto è il vettore rig C [ c c c ] =. Ciscun elemento di C è ugule ll somm del prodotto dell rig di A per le colonne di B Qundo A contiene più righe? ( 2 2) ( 23 ) ( rig 1 di, colonn 1 di ) ( rig 1 di, colonn 2 di ) ( rig 1 di, colonn 3 di ) c = b + b A B c = b + b A B c = b + b A B b b b c c c ; A = B AB C 21 = 22 b21 b22 b = = 23 c21 c22 c 23 (1.10) Gli elementi di C si ottengono:

6 ( rig 1 di, colonn 1 di ) ( rig 1 di, colonn 2 di ) ( rig 1 di, colonn 3 di ) ( rig 2 di, colonn 1 di ) ( rig 2 di, colonn 2 di ) ( ) c = b + b A B c = b + b A B c = b + b A B c = b + b A B c = b + b A B c = b + b rig 2 di A, colonn 3 di B Esempio 1: Si dt l mtrice A di dimensioni ( 3 3) e il vettore x di dimensioni ( 3 1) x11 A= x= x x 31 clcolre l mtrice risultto Ax x x + x + x Ax= x = 4x + 2x + 2x x 31 5x11+ 1x21 + 4x 31 Esempio 2: Si dto il vettore rig v = [ 1 4 2] e il vettore colonn 2 g = 3. Clcolre il prodotto vg = [ 1 4 2] 3 = [ ] = [ 18]. Il risultto è lo sclre 18. In lgebr mtricile è più complicto il problem dell divisione. In generle non possimo scrivere A/B!!! Sppimo che un quoziente A/B può essere scritto lterntivmente come 1 AB in cui 1 B è l inverso o il reciproco di B. Ciò è vlido per i numeri (sempre che B 0 ). Per le mtrici non sempre srà possibile clcolre come l invers dell mtrice B. Più vnti srà discusso il problem del clcolo delle mtrici inverse. Esempio 3: x x =? x 3 1 B not

7 7 x1 E fcile notre che il risultto è ncor il vettore colonn x 2. Inftti il vettore è x 3 premoltiplicto per l mtrice identità (in questo cso di ordine 3). Quest mtrice svolge nell lgebr linere le stesse funzioni svolte dl numero 1 nell lgebr elementre. Inftti definendo con I l mtrice identità vremo che se l mtrice I è conformbile con l mtrice A possimo sempre scrivere IA=A. 1.4 Trcci di un mtrice qudrt Si definisce trcci dell mtrice qudrt A, e si scrive tr( A ), l somm degli elementi sull digonle principle dell mtrice qudrt A. Regole: (1.12) tr( A) = tr( A ) (1.13) tr( In ) = n (1.14) tr( ka) = ktr( A) (1.15) tr( A± B) = tr( A) ± tr( B) tr( A) = nn. (1.11) Se i prodotti AB e BA esistono (1.16) tr( AB) = tr( BA) Se i prodotti ABC, BCA e CAB esistono (1.17) tr( ABC) = tr( CBA) = tr( BCA) 1.5 Determinnte di un mtrice qudrt Il determinnte di un mtrice qudrt A, definito come det ( A ) o A è uno sclre ssocito ll mtrice A. Clcolo 1. mtrice ( 2 2) : A = il determinnte dell mtrice ( 2 2) A è ugule (1.18)

8 8 Clcolo 2. mtrice ( 3 3) : = = (1.19) A A = (1.20) A = + (1.21) I determinnti destr degli elementi 11, 12, 13, noti come minori ssociti rispettivmente gli elementi 11, 12, 13, possono or essere clcolti utilizzndo l (1.19). Un proprietà importnte dei determinnti è che se due righe (o colonne) sono uguli il determinnte è ugule 0. Ancor di più possimo dire che, se un rig (o colonn) può essere espress come combinzione linere delle ltre righe (o colonne), il determinnte è ugule zero. 1.6 Rngo di un mtrice Se si considerino tutte le mtrici qudrte che si possono estrrre dll mtrice A che hnno un determinnte diverso d zero. Il rngo dell mtrice A è l ordine r più grnde tr le submtrici estrtte d A. Esempio si dt l mtrice A nell (1.20). L mtrice è qudrt di ordine r = 3. Se A 0 llor l mtrice è di rngo 3. Se A = 0, si definisce in questo cso A singolre, llor il rngo di A l mssimo può essere 2. Occorre controllre i determinnti di tutte le mtrici qudrte estribili d A di ordine 2. Se il determinnte di lmeno un di queste submtrici è diverso d zero, llor il rngo dell mtrice A è ugule 2. D qunto prim visto sull definizione di determinnte, il rngo di un mtrice indic il numero di righe (o colonne) linermente indipendenti. Proprietà 1. rngo( In ) = n 2 rngo( ca) = rngo( A) con c 0

9 9 3 rngo( A ) = rngo( A) 4 se A è di ordine ( m n) : rngo( A) min { mn, } { } 5 se A e B sono conformbili llor il rngo( AB) = min rngo( A), rngo( B) 1.7 Invers di un mtrice qudrt Se A e B sono due mtrici di ordine n tli che AB= BA= I, llor l mtrice B è denomint mtrice invers A, cioè B = A 1. L mtrice A possiede un invers se l mtrice h rngo pieno, ossi il rngo è ugule n, o, in ltri termini è non singolre. Avremo quindi che A è diverso d zero, o, in ltri termini, le righe (o le colonne) dell mtrice A sono linermente indipendenti. L invers di un mtrice non singolre è unic. Proprietà: 1. I 1 = I 1 2. ( A ) 1 = A 3. ( A ) 1 = ( A 1 ) 4. ( ) AB B A = con A e B non singolri 1.8 Soluzione di sistemi di equzioni lineri simultnee Le definizioni prim esposte possono essere utilizzte per l soluzione di un sistem di equzioni lineri e srnno utilissime nell nlisi econometric del modello di regressione multivrito. Per rendere immeditmente visibile l utilità dell lgebr linere nell soluzione del sistem di equzioni lineri, osservimo il seguente sistem di m equzioni lineri in n vribili x + x + x = b n n 1 x + x + x = b n n 2 x + x + x = b m1 1 m2 2 mn n m e utilizzndo le nozioni prim pprese può essere scritto come: (1.22)

10 n x1 b n x 2 b 2 = x b m1 m2 mn n m A x = b ( m n) ( n 1) ( m 1) (1.23) Il sistem di equzioni lineri (1.22) può essere riscritto utilizzndo l lgebr linere come Ax = b (1.24) l mtrice A è qudrt e non singolre l soluzione del sistem può essere subito trovt premoltiplicndo mbo i membri per l invers dell mtrice A, cioè e spendo che 1 A A = I, possimo scrivere 1 1 A Ax= A b (1.25) x 1 = A b (1.26) Quest modo di risolvere i sistemi di equzioni lineri è noto come regol di Crmer. Si ben chiro, quest regol vle se e solo se l mtrice A è non singolre, cioè possiede l invers o, se si vuole, le n equzioni sono linermente indipendenti. Se l mtrice A è singolre vuol dire che qulche equzione può essere espresso come combinzione linere delle ltre equzioni. L equzione (equzioni) ridondnte può essere elimint e il sistem può essere risolto, d esempio, con il metodo dell sostituzione. 1.9 Mtrici idempotenti Si definisce mtrice idempotente quell mtrice che moltiplict per se stess è ugule ll mtrice originri, cioè AA=A. Un cso importnte per l nlisi econometric è l mtrice che definimo M dt d ( ' ) 1 M = I X X X X in cui l mtrice X è di dimensioni ( T K). (Domnd: qule è l dimensione dell (1.27) mtrice identità I?) Provimo moltiplicre l mtrice M per se stess ( ' ) ( ' ) 1 1 MM = I X X X X I X X X X Moltiplichimo destr dell ugule membro per membro (1.28)

11 11 ( ' ) ( ' ) ( ' ) ( ' ) I X X X X X X X X + X X X XX X X X (1.29) 1 Osservndo l (1.29) sppimo che ( ) ( ) XX XX = I, d cui ( ' ) ( ' ) ( ' ) ( ' ) I X X X X X X X X + X X X X = I X X X X = M (1.30) 1.10 Mtrici ortogonli L mtrice E si definisce ortogonle se EE = EE = I. L mtrice E non necessrimente è qudrt (nzi nelle ppliczioni che vedremo nell nlisi econometric è spesso un vettore). Ciò che è importnte per l ortogonlità è che il prodotto dell mtrice (o vettore) E per l trspost si un mtrice identità Differenzizione di metrici e vettori Nel seguito si ssumerà sempre che tutte le derivte esistono e sono continue. Nell nlisi econometric bbimo lcune volte bisogno di clcolre le derivte di un funzione obiettivo rispetto un vettore di prmetri. Esempio l funzione: ( ) y= f x (1.31) in cui y è uno sclre e x è un vettore di K vribili può essere differenzit. Avremo llor un vettore di derivte (przili), ossi L (1.32) è not come grdiente di y. y x1 y x y xk 2 y x= (1.32) Nel cso y non si uno sclre m un vettore di dimensioni ( T 1) dovremo clcolre le derivte di ciscun elemento del vettore y per ciscun delle K vribili, ossi y x y x K y x= yt x1 yt x K (1.33) Quest mtrice di derivte è not come mtrice Jcobin di y rispetto l vettore di vribili x. Ritornndo ll (1.31), clcolimo or le derivte seconde dello sclre y rispetto l vettore di vribili x. Si ottiene un mtrice in cui, nell digonle principle bbimo le

12 12 derivte seconde 2 2 y x i, mentre gli ltri elementi dell mtrice sono costituiti dlle derivte miste y xi xj. L mtrice di derivte seconde è not come mtrice Hessin. Alcune derivte importnti per l nlisi econometric: Si: y un vettore di dimensioni ( T 1) X un mtrice di dimensioni ( T K) β un mtrice di dimensioni ( K 1) 1) ( 2β Xy ) β 2) β ( XX ) β β in cui ( ) XX è un mtrice simmetric. 1) Not che il prodotto ( 2yXβ ) è uno sclre (controll!!): 2 [ β β β ] 1 2 K x x x T y1 x21 x22 x 2T y 2 x x x y K1 K2 KT T (1.34) Il prodotto nell (1.34) è uno sclre che può essere scritto usndo le sommtorie come: (1.35) 2 T K β x y k tk t t= 1 k = 1 e l generic derivt dell (1.35) rispetto βk come T K T 2 yx t tkβk βk = 2 yx t tk t= 1 k= 1 (1.36) t= 1 Clcolndo tutte le K derivte è possibile riunirle tutte in un solo vettore rig di dimensione ( 1 K ) in modo comptto come Esercizio: Clcolre ( 2yXβ ) ( β Xy) 2 β = 2Xy (1.37) β. Quli differenze noti rispetto ll (1.37)? 2) β ( XX ) β β in cui ( ) XX è un mtrice simmetric.

13 13 Anche in questo cso il prodotto β ( XX ) ( XX ) = A di dimensioni ( K K) sommtori srà ugule β è uno sclre. Definimo l mtrice. Il prodotto tr prentesi qudr scritto in termini di K K ijββ i j (1.38) i= 1 j= 1 Not nell sommtori che qundo i=j, ββ = β. Inoltre, dto che l mtrice A è 2 i j i simmetric, per i j vremo degli ddendi nell (1.38) per i quli ββ = ββ (1.39) ij i j ji j i Per cui potrnno essere rggruppti come 2 ij ββ i j. Il grdiente llor può essere fcilmente clcolto: ( XX ) 2A 2( XX) β β β = β = β (1.40)