Il modello di regressione lineare classico
|
|
- Valentino Berardi
- 7 anni fa
- Visualizzazioni
Transcript
1 Università di Pavia Il modello di regressione lineare classico Eduardo Rossi
2 Ipotesi Il modello di regressione lineare classico y t = x tβ + ε t t = 1,...,N Y = Xβ + ε Se il modello ha un intercetta allora una colonna di X è uguale a un vettore di 1. Per convenzione 1 X 1 =. 1 Eduardo Rossi c - Macroeconometria 2
3 Ipotesi A.1 Il modello è lineare nei parametri. A.2 I termini di disturbo sono additivi. A.3 I parametri sono costanti. A.4 Tutte le variabili rilevanti sono comprese nella X mentre le grandezze irrilevanti sono comprese nel termine di disturbo. A.5 Non ci sono variabili omesse. Eduardo Rossi c - Macroeconometria 3
4 Ipotesi A.6 La X è non stocastica. (In seguito rimuoveremo questa ipotesi). A.7 La X ha rango colonna pieno, uguale a K. A.8 Il termine di disturbo è un white noise (rumore bianco) E[ε t ] = 0 media zero E[ε 2 t] = σ 2 omoschedasticità E[ε t ε τ ] = 0 t τ assenza di correlazione seriale Eduardo Rossi c - Macroeconometria 4
5 Ipotesi In forma matriciale E[ε] = 0 V ar[ε] E[εε ] = σ 2 I N Eduardo Rossi c - Macroeconometria 5
6 Esempio N = 3 E[εε ] = E = E ε 1 ε 2 ε 3 [ ε 2 1 ε 1 ε 2 ε 1 ε 3 ε 2 ε 1 ε 2 2 ε 2 ε 3 ] ε 1 ε 2 ε 3 = ε 3 ε 1 ε 3 ε 2 ε 2 3 σ σ 2 0 = σ2 I N 0 0 σ 2 Eduardo Rossi c - Macroeconometria 6
7 Stima OLS Stimatore OLS min β (y Xβ) (y Xβ) β = (X X) 1 X y Proprietà stimatore OLS in campioni finiti β = (X X) 1 X y = (X X) 1 X [Xβ + ε] β = β + (X X) 1 X ε E( β) = β + E[(X X) 1 X ε] = β + E[(X X) 1 X ε] E( β) = β + (X X) 1 X E[ε] = β + (X X) 1 X 0 Eduardo Rossi c - Macroeconometria 7
8 Proprietà stimatore OLS 1. β è uno stimatore corretto (non distorto): E( β) = β 2. la matrice di varianza e covarianza di β è: E[( β β)( β β) ] = E[((X X) 1 X ε)((x X) 1 X ε) ] = (X X) 1 X E[εε ]X(X X) 1 = (X X) 1 X σ 2 I N X(X X) 1 = σ 2 (X X) 1 X X(X X) 1 = σ 2 (X X) 1 3. Lo stimatore OLS β è BLUE (Best Linear Unbiased Estimator)(Teorema di Gauss-Markov). Eduardo Rossi c - Macroeconometria 8
9 Teorema di Gauss-Markov Lo stimatore OLS è BLUE nel senso che rispetto ad ogni altro stimatore lineare (ottenuto attraverso una trasformazione lineare di y) del tipo b = Cy dove C : (K N) V ar(b) V ar( β) è una matrice semidefinita positiva. Eduardo Rossi c - Macroeconometria 9
10 Teorema di Gauss-Markov Prova: Consideriamo i seguenti stimatori, lineari in y, di β b = (A + C)y β = Ay con C 0, A = (X X) 1 X. b = (A + C)y = (A + C)Xβ + (A + C)ε b = AXβ + CXβ + (A + C)ε ma AX = I K b = β + CXβ + (A + C)ε Eduardo Rossi c - Macroeconometria 10
11 Teorema di Gauss-Markov E[b] = β + CXβ + (A + C)E[ε] E[b] = β + CXβ Per la correttezza (non distorsione) di b è sufficiente che b = (A + C)y CX = 0 Eduardo Rossi c - Macroeconometria 11
12 Teorema di Gauss-Markov Ora, b β = (A + C)ε V ar[b] E[(b β)(b β) ] = E[(A + C)εε (A + C) ] = (A + C)E[εε ](A + C) = (A + C)σ 2 I N (A + C) = σ 2 (A + C)(A + C) ma CA = CX(X X) 1 = 0 perchè CX = 0 per la correttezza (AC = 0). Quindi, V ar[b] = σ 2 (AA + CC ) Eduardo Rossi c - Macroeconometria 12
13 Teorema di Gauss-Markov V ar[ β] = σ 2 (X X) 1 = σ 2 AA V ar[b] = σ 2 [(X X) 1 + CC ] = V ar[ β] + σ 2 CC V ar[b] V ar[ β] = σ 2 CC CC è una matrice almeno semidefinita positiva, α (CC )α 0 α indichiamo con γ α C, per ogni γ è verificato che: γ γ 0. Eduardo Rossi c - Macroeconometria 13
14 Teorema di Gauss-Markov Se C 0 allora almeno un elemento lungo la diagonale principale di CC è diverso da zero con u i{v ar[b] V ar[ β]}u i = σ 2 u i{cc }u i > 0 u i = [0,...,0, 1, 0,...,0] quindi per almeno un i è vero che V ar[b i ] V ar[ β i ] > 0. Eduardo Rossi c - Macroeconometria 14
15 Coefficiente di Determinazione Bontà della regressione (Goodness of Fit) y = ŷ + ε = X β + ε per un osservazione: y t = ŷ t + ε t = x t β + ε t Se la regressione contiene l intercetta: ε t = 0 t y t = t t y = ŷ ŷ t + ε t = t t ŷ t Eduardo Rossi c - Macroeconometria 15
16 Coefficiente di Determinazione Se esprimiamo le variabili in deviazione dalla loro media (variabili centrate): y t y = ŷ t y + ε t = (x t x) β + εt = (x 2t x 2 ) β 2 + (x 3t x 3 ) β (x Kt x K ) β K + ε t Le variabili centrate sono ortogonali a ι = [1, 1,...,1]. Per tutte le osservazioni: M ι y = M ι X β + M ι ε M ι [I N ι(ι ι) 1 ι ] = [I N 1 N ιι ] Eduardo Rossi c - Macroeconometria 16
17 Coefficiente di Determinazione M ι X = [I N 1N ] ιι X = X ι [ ] X 1...X K = [X 1...X K ] [ ] ιx 1...ιX K = [ (X 1 ιx 1 )...(X K ιx K ) ] M ι X 1 = [I N 1N ] ιι X 1 = 0 M ι è simmetrica e idempotente M ι = M ι M ι M ι = M ι Eduardo Rossi c - Macroeconometria 17
18 Coefficiente di Determinazione M ι ε = ε data l ortogonalità con X: ε M ι X = ε X = 0 Eduardo Rossi c - Macroeconometria 18
19 Coefficiente di Determinazione La Total Sum of Squares (TSS): (y t y) 2 = y M ι y t R 2 = β X M ι X β y M ι y = (X β + ε) M ι (X β + ε) = βx M ι X β + 2 ε M ι X β + ε ε = β X M ι X β + ε ε = 1 ε ε y M ι y β X M ι X β è la Explained Sum of Squares (ESS), ε ε è la Sum of Squared Residuals (SSR). R 2 è il coefficiente di determinazione. L R 2 è compreso tra 0 e 1 ed è una misura della proporzione della variabilità in y attribuibile alla variabilità delle variabili esplicative. Eduardo Rossi c - Macroeconometria 19
20 Coefficiente di Determinazione L R 2 è anche interpretabile come il coefficiente di correlazione multipla y e ŷ. Infatti, dato Ora ŷ M ι ŷ = β X M ι X β ŷ = X β ŷ = y ε ŷ M ι ŷ = ŷ M ι (y ε) = ŷ M ι y ŷ M ι ε = ŷ M ι y β X ε = ŷ M ι y. Eduardo Rossi c - Macroeconometria 20
21 Coefficiente di Determinazione R 2 = ŷ M ι ŷ y M ι y = (ŷ M ι y)(ŷ M ι ŷ) (y M ι y)(ŷ M ι ŷ) = = = (ŷ M ι y) 2 (y M ι y)(ŷ M ι ŷ) (ŷ M ιm ι y) 2 (y M ιm ι y)(ŷ M ιm ι ŷ) [ t (ŷ t ŷ)(y t y)] 2 /N 2 t (y t y) 2 /N t (ŷ t ŷ) 2 /N questo è il coefficiente di correlazione tra y e i valori stimati ŷ. Eduardo Rossi c - Macroeconometria 21
22 Interpretazione geometrica di R 2 R 2 non centrato. Dal teorema di Pitagora: y = P X y + (I P X )y = P X y + M X y y y = y P X y + y M X y = y P XP X y + y M XM X y y 2 = P X y 2 + M X y 2 = ESS + SSR Ru 2 = ESS TSS = P Xy 2 y 2 = 1 M Xy 2 y 2 θ è l angolo fra y e P X y. = cos 2 (θ) Eduardo Rossi c - Macroeconometria 22
23 Interpretazione geometrica di R 2 Per ogni θ, 1 cos(θ) 1 allora 0 R 2 u 1. Se θ = 0 y = X β, R 2 u = 1. Se θ = 1 y = ε, R 2 u = 0. R 2 u dipende dai dati solo attraverso i residui ed i valori stimati. E invariante a trasformazioni non singolaridei regressori. Il valore di R 2 u è invariante a cambiamenti nella scala di y. Tuttavia l R 2 u non è invariante ai cambiamenti nelle unità che cambiano l angolo θ. Eduardo Rossi c - Macroeconometria 23
24 Interpretazione geometrica di R 2 Consideriamo un semplice cambiamento di unità di misura, aggiungiamo una costante α ad ogni elemento di y: y + αι = Xβ + ε Se assumiano che la matrice includa una costante segue che P X ι = ι M X ι = 0 y + αι = P X (y + αι) + M X (y + αι) = P X y + αι + M X y R 2 u = P Xy + αι 2 y + αι 2 Eduardo Rossi c - Macroeconometria 24
25 Interpretazione geometrica di R 2 Scegliendo un α sufficientemente grande, possiamo aumentare l R 2 u ed avvicinarlo ad 1, perchè per ogni α molto grande il termine αι domina completamente i termini P X y e y nel numeratore e denominatore. L R 2 dalla regressione che usa variabili centrate è chiamato R 2 centrato : Rc 2 = P XM ι y 2 M ι y 2 = 1 M Xy 2 M ι y 2 non è influenzato dall aggiunta di una costante al regredendo. L R 2 centrato è molto più usato dell R 2 u. R 2 u non ha senso nelle regressioni senza un termine costante o di suoi equivalenti in termini di variabili dummy. Quando una regressione non include una costante R 2 c > 1 o R 2 c < 0, secondo il tipo di calcolo adottato. Eduardo Rossi c - Macroeconometria 25
26 Interpretazione geometrica di R 2 Entrambe le versioni dell R 2 sono una valida misura della bontà della regressione solo quando le stime sono OLS β. Per ogni altro stimatore β, che non implichi X β (y X β): 1 y X β 2 y 2 X β y 2 Se si sceglie di definire R 2 nei termini dei residui, usando la prima delle espressioni, non si può garantire che questa sia positiva e se scegliamo di definirlo in termini di X β non possiamo garantire che sia minore di 1. Quando sono usati altri stimatori diversi dall OLS allora dobbiamo essere molto cauti nell interpretare l R 2. Eduardo Rossi c - Macroeconometria 26
27 Osservazioni influenti e leverage Regressione semplice: y = β 1 ι + β 2 x + ε I valori stimati appartengono alla retta di regressione: ŷ t = β 1 + β 2 x t t = 1,...,N E la coordinata x che dà al punto la sua posizione di alto leverage, ma è la coordinata y che determina se la posizione di alto leverage è realmente effettivo risultando in una sostanziale influenza sulla linea di regressione. Se una o poche osservazioni in una regressione sono altamente influenti, nel senso che una loro cancellazione dal campione cambierebbe alcuni elementi di β in modo sostanziale, allora dovremo analizzare con molta attenzione i dati che stiamo utilizzando. Eduardo Rossi c - Macroeconometria 27
28 Osservazioni influenti e leverage Per rimuovere l effetto della t-th osservazione usiamo una variabile dummy, e t, un vettore N 1 che ha il t-esimo elemento uguale a 1 e tutti gli altri 0 (vettore di una base naturale). Includendo e t come regressore y = Xβ + αe t + ε usando il teorema FWL abbiamo le stesse stime dei parametri e gli stessi residui della regressione di M t y su M t Xβ, dove M t = I e t (e te t ) 1 e t = I e t e t M t y = y e t e ty = y y t e t M t X = X e t e tx = X e t x t dove la t-esima riga di X è rimpiazzata da zeri. Eduardo Rossi c - Macroeconometria 28
29 Osservazioni influenti e leverage La regressione di M t y su M t Xβ dà le stesse stime che avremmo ottenuto se avessimo cancellato la t-esima osservazione. Siano P Z e M Z proiettori ortogonali su e da i sottospazi coperti da (X,e t ). I valori stimati e i residui della regressione: sono y = Xβ + αe t + ε y = P Z y + M Z y = X β (t) + αe t + M Z y Premoltiplicando per P X per ottenere P X y = X β (t) + αp X e t dove usiamo M Z P X = 0 perchè annulla sia X che e t. Eduardo Rossi c - Macroeconometria 29
30 Osservazioni influenti e leverage Ma P X y = X β e così X( β (t) β) = αp X e t Possiamo calcolare la differenza β (t) β. Attraverso il teorema FWL la stima di α da y = Xβ + αe t + ε è la stessa che si ottiene dalla regressione di M X y su M X e t α = (e tm XM X e t ) 1 e tm XM X y = e tm X y e tm X e t ε t = e tm X y è il t-esimo elemento di M X y, i residui dalla regressione che include tutte le osservazioni. Eduardo Rossi c - Macroeconometria 30
31 Osservazioni influenti e leverage e tm X e t è l elemento diagonale t-esimo di M X : e tm X e t = e t(i P X )e t = e tie t e tp X e t = 1 h t dove h t = e tp X e t. Sustituendo α = ε t 1 h t Premoltiplicando X( β (t) β) = αp X e t per (X X) 1 X (X X) 1 X X( β (t) β) = α(x X) 1 X P X e t β (t) β = α(x X) 1 X e t Eduardo Rossi c - Macroeconometria 31
32 Osservazioni influenti e leverage Sostituendo α: β (t) β = α(x X) 1 X e t = ε t (X X) 1 x t 1 h t quando o è grande ε t o lo è h t o lo sono entrambi, l effetto della t-esima osservazione su almeno alcuni elementi di β è verosimilmente sostanziale. Una tale osservazione è detta influente. E evidente che l influenza di un osservazione dipende sia da ε t che da h t. E più grande se l osservazione ha un ampio residuo, che è collegato alla sua coordinata y. h t è collegato alla coordinata x di un punto che determina il leverage, o l influenza potenziale, della corrispondente osservazione. Osservazioni con un ampio h t hanno un alto leverage. Un punto di leverage non è necessariamente influente ma ha il potenziale per esserlo. Eduardo Rossi c - Macroeconometria 32
33 Osservazioni influenti e leverage Gli elementi diagonali di P X. Possiamo esprimere h t come h t = e tp X e t = P X e t 2 allora h t 0. Poichè e t = 1 h t = P X e t e t 2 per ogni proiettore ortogonale P X ed ogni vettore y R N P X y y l ipotenusa è più lunga di entrambi i lati di un triangolo rettangolo. Così 0 h t 1 Quando vi è un termine costante, nessuno delle h t può essere minore di 1/N. Eduardo Rossi c - Macroeconometria 33
34 Osservazioni influenti e leverage Se X consistesse solo di una costante ι, e tp ι e t = e t(ι(ι ι) 1 ι )e t = 1 N h t = P ι e t 2 = 1 N Se ci sono altri regressori perchè 1 N = P ιe t 2 = P ι P X e t 2 P X e t 2 = h t P ι P X = P ι dato che ι sta in Col(X), ι = Xe 1 P ι = (Xe 1 (e 1X Xe 1 ) 1 e 1X ) Eduardo Rossi c - Macroeconometria 34
35 Osservazioni influenti e leverage P ι P X = (Xe 1 (e 1X Xe 1 ) 1 e 1X )P X = (Xe 1 (e 1X Xe 1 ) 1 e 1X ) = P ι Sebbene h t non possa essere zero in condizioni normali, c è un caso speciale nel quale è uguale a 1. Se una colonna di X è la variabile dummy e t : h t = e tp X e t = e te t = 1 In una regressione con N osservazioni and K regressori, la media di h t è uguale a K/N: N h t = t=1 N e tp X e t = tr(p X ) = tr(x(x X) 1 X ) = K t=1 Eduardo Rossi c - Macroeconometria 35
36 Osservazioni influenti e leverage Quando per una data matrice di regressori, gli elementi diagonali di P X sono tutti vicini al loro valore medio nessuna osservazione ha molto leverage. X ha un balanced design. Se alcuni degli h t > K/N ed altri sono conseguentemente più piccoli, la X ha un unbalanced design. La h t tende ad essere più grande per valori dei regressori che sono lontani dai valori medi del campione. Eduardo Rossi c - Macroeconometria 36
37 Inclusione ed esclusione di osservazioni Sensitività delle stime OLS all inclusione o esclusione di osservazioni. β stima ottenuta con y,x di N osservazioni. La stima con N + 1 osservazioni ottenute con l inclusione di un punto arbitrario (y,x) aggiunto alle osservazioni iniziale: Y N+1 = y y X N+1 = X x X N+1X N+1 = [ X x ] X x = X X + xx β N+1 = (X N+1X N+1 ) 1 X N+1Y N+1 Eduardo Rossi c - Macroeconometria 37
38 Inclusione ed esclusione di osservazioni β N+1 = (X X + xx ) 1 (X y + xy) Lemma: Se A e D sono matrici nonsingulari, allora (A + BDC) 1 = A 1 A 1 B(D 1 + CA 1 B) 1 CA 1 Ponendo A = X X B = x C = x D = 1 Eduardo Rossi c - Macroeconometria 38
39 Inclusione ed esclusione di osservazioni (X X + xx ) 1 = (X X) 1 (X X) 1 xx (X X) h con h = x (X X) 1 x. β N+1 = [(X X) 1 (X X) 1 xx (X X) 1 ] (X y + xy) 1 + h = β (X X) 1 xx 1 + h = β + (X X) 1x(y β x) 1 + h β + (X X) 1 xy 1 + h Eduardo Rossi c - Macroeconometria 39
Minimi quadrati ordinari Interpretazione geometrica. Eduardo Rossi
Minimi quadrati ordinari Interpretazione geometrica Eduardo Rossi Il MRLM Il modello di regressione lineare multipla è usato per studiare le relazioni tra la variabile dipendente e diverse variabili indipendenti
DettagliIl modello di regressione lineare multipla con regressori stocastici
Università di Pavia Il modello di regressione lineare multipla con regressori stocastici Eduardo Rossi Il valore atteso condizionale Modellare l esperimento casuale bivariato nel quale le variabili casuali
DettagliUniversità di Pavia Econometria Esercizi 4 Soluzioni
Università di Pavia Econometria 2008-2009 Esercizi 4 Soluzioni Maggio, 2009 Istruzioni: I commenti devono essere concisi! 1. Dato il modello di regressione lineare, con K regressori con E(ɛ) = 0 e E(ɛɛ
DettagliIl modello di regressione lineare multivariata
Il modello di regressione lineare multivariata Eduardo Rossi 2 2 Università di Pavia (Italy) Aprile 2015 Rossi MRLM Econometria - 2015 1 / 39 Outline 1 Notazione 2 il MRLM - Assunzioni 3 OLS 4 Proprietà
Dettagli1. variabili dicotomiche: 2 sole categorie A e B
Variabile X su scala qualitativa (due categorie) modello di regressione: variabili quantitative misurate almeno su scala intervallo (meglio se Y è di questo tipo e preferibilmente anche le X i ) variabili
DettagliAnalisi di Regressione Multivariata. β matrice incognita dei coeff. di regressione (regr. lineare in β)
Analisi di Regressione Multivariata Regressione: metodologia per dedurre info e per anticipare risposte di una variabile dip. Modello classico di regressione lineare: Y {z} n k = {z} X β + ρ {z} {z} n
DettagliIl modello di regressione lineare multipla. Il modello di regressione lineare multipla
Introduzione E la generalizzazione del modello di regressione lineare semplice: per spiegare il fenomeno d interesse Y vengono introdotte p, con p > 1, variabili esplicative. Tale generalizzazione diventa
DettagliStatistica. Capitolo 12. Regressione Lineare Semplice. Cap. 12-1
Statistica Capitolo 1 Regressione Lineare Semplice Cap. 1-1 Obiettivi del Capitolo Dopo aver completato il capitolo, sarete in grado di: Spiegare il significato del coefficiente di correlazione lineare
Dettagli2. SPECIFICAZIONE DI UN MODELLO DI REGRESSIONE MULTIPLA
CAPITOLO QUARTO IL MODELLO DI REGRESSIONE MULTIPLA SOMMARIO:. Introduzione. -. Specificazione di un modello di regressione multipla. - 3. Stima con il metodo dei minimi quadrati ordinari (OLS). - 4. Proprietà
DettagliMODELLO DI REGRESSIONE LINEARE. le ipotesi del modello di regressione classico, stima con i metodi dei minimi quadrati e di massima verosimiglianza,
MODELLO DI REGRESSIONE LINEARE le ipotesi del modello di regressione classico, stima con i metodi dei minimi quadrati e di massima verosimiglianza, teorema di Gauss-Markov, verifica di ipotesi e test di
DettagliEsercitazione del
Esercizi sulla regressione lineare. Esercitazione del 21.05.2013 Esercizio dal tema d esame del 13.06.2011. Si consideri il seguente campione di n = 9 osservazioni relative ai caratteri ed Y: 7 17 8 36
DettagliStatistica 1 A.A. 2015/2016
Corso di Laurea in Economia e Finanza Statistica 1 A.A. 2015/2016 (8 CFU, corrispondenti a 48 ore di lezione frontale e 24 ore di esercitazione) Prof. Luigi Augugliaro 1 / 35 Il modello di regressione
DettagliProprietà asintotiche dello stimatore OLS
Università di Pavia Proprietà asintotiche dello stimatore OLS Eduardo Rossi Sequenze Consideriamo un infinita sequenza di variabili indicizzate con i numeri naturali: X 1, X 2, X 3,...,X N,... = {X N }
DettagliStatistica Applicata all edilizia: il modello di regressione
Statistica Applicata all edilizia: il modello di regressione E-mail: orietta.nicolis@unibg.it 27 aprile 2009 Indice Il modello di Regressione Lineare 1 Il modello di Regressione Lineare Analisi di regressione
DettagliNel modello omoschedastico la varianza dell errore non dipende da i ed è quindi pari a σ 0.
Regressione [] el modello di regressione lineare si assume una relazione di tipo lineare tra il valore medio della variabile dipendente Y e quello della variabile indipendente X per cui Il modello si scrive
DettagliEsercitazione 5 Sta/s/ca Aziendale
Esercitazione 5 Sta/s/ca Aziendale David Aristei 12 maggio 2015 Si è interessa/ ad analizzare le determinan/ a livello aziendale della produ>vità del lavoro (PL, in migliaia di euro per dipendente) di
Dettaglis a Inferenza: singolo parametro Sistema di ipotesi: : β j = β j0 H 1 β j0 statistica test t confronto con valore t o p-value
Inferenza: singolo parametro Sistema di ipotesi: H 0 : β j = β j0 H 1 : β j β j0 statistica test t b j - b s a jj j0 > t a, 2 ( n-k) confronto con valore t o p-value Se β j0 = 0 X j non ha nessuna influenza
DettagliMetodi statistici per l economia (Prof. Capitanio) Slide n. 10. Materiale di supporto per le lezioni. Non sostituisce il libro di testo
Metodi statistici per l economia (Prof. Capitanio) Slide n. 10 Materiale di supporto per le lezioni. Non sostituisce il libro di testo 1 REGRESSIONE LINEARE Date due variabili quantitative, X e Y, si è
DettagliANALISI DELLE SERIE STORICHE
ANALISI DELLE SERIE STORICHE De Iaco S. s.deiaco@economia.unile.it UNIVERSITÀ del SALENTO DIP.TO DI SCIENZE ECONOMICHE E MATEMATICO-STATISTICHE FACOLTÀ DI ECONOMIA 24 settembre 2012 Indice 1 Funzione di
DettagliRegressione Lineare Semplice e Correlazione
Regressione Lineare Semplice e Correlazione 1 Introduzione La Regressione è una tecnica di analisi della relazione tra due variabili quantitative Questa tecnica è utilizzata per calcolare il valore (y)
DettagliUniversità di Pavia Econometria. Cambiamento di regime nei parametri Test di stabilità. Eduardo Rossi
Università di Pavia Econometria Cambiamento di regime nei parametri Test di stabilità Eduardo Rossi Università di Pavia Cambiamento di regime nei parametri Funzione del consumo C t = β 1 + β 2 Y t + ǫ
Dettaglilezione 9 AA Paolo Brunori
AA 2016-2017 Paolo Brunori Dove siamo arrivati? - la regressione lineare multipla ci permette di stimare l effetto della variabile X sulla Y tenendo ferme tutte le altre variabili osservabili che hanno
DettagliRegressione multipla
Regressione multipla L obiettivo è costruire un modello probabilistico per spiegare la variabile y tramite più di una variabile indipendente x 1, x 2,..., x k. Esempio: Per un efficiente progettazione
DettagliRegressione Mario Guarracino Laboratorio di Sistemi Informativi Aziendali a.a. 2006/2007
Regressione Esempio Un azienda manifatturiera vuole analizzare il legame che intercorre tra il costo mensile Y di produzione e il corrispondente volume produttivo X per uno dei propri stabilimenti. Volume
DettagliFasi del modello di regressione
Fasi del modello di regressione Specificazione del modello: scelta del tipo di funzione da utilizzare per descrivere un fenomeno; definizione delle ipotesi di base Stima dei parametri: uso di stimatori
DettagliUniversità di Pavia. Test diagnostici. Eduardo Rossi
Università di Pavia Test diagnostici Eduardo Rossi Test diagnostici Fase di controllo diagnostico: controllo della coerenza tra quanto direttamente osservato e le ipotesi statistiche adottate Ipotesi MRLM
DettagliIl modello di regressione lineare multivariata
Il modello di regressione lineare multivariata Eduardo Rossi 2 2 Università di Pavia (Italy) Aprile 2013 Rossi MRLM Econometria - 2013 1 / 39 Outline 1 Notazione 2 il MRLM 3 Il modello partizionato 4 Collinearità
DettagliFacoltà di Scienze Statistiche Corso di Laurea in Statistica ed Informatica per l Azienda ESERCIZI DI ALLENAMENTO a.a.
Facoltà di Scienze Statistiche Corso di Laurea in Statistica ed Informatica per l Azienda ESERCIZI DI ALLENAMENTO a.a. 2008 PARTE I 1. Si consideri il seguente modello di regressione lineare su dati cross
Dettaglilezione 7 AA Paolo Brunori
AA 2016-2017 Paolo Brunori dove siamo arrivati? - se siamo interessati a studiare l andamento congiunto di due fenomeni economici - possiamo provare a misurare i due fenomeni e poi usare la lineare semplice
DettagliLa regressione lineare semplice
La regressione lineare semplice Il modello di regressione lineare semplice - 1 y = β 0 + βx + ε 10 8 Una retta nel piano Variabile Y 6 4 2 0 0 1 2 3 4 Variabile X 1 Il modello di regressione lineare semplice
DettagliCorrelazione e regressione
Correlazione e regressione Correlazione 1 Come posso determinare il legame tra due o più variabili? Correlazione COEFFICIENTE DI CORRELAZIONE (r di Pearson) massimo consumo di ossigeno e prestazione nelle
DettagliOld Faithful, Yellowstone Park. Statistica e biometria. D. Bertacchi. Dati congiunti. Tabella. Scatterplot. Covarianza. Correlazione.
Coppie o vettori di dati Spesso i dati osservati sono di tipo vettoriale. Ad esempio studiamo 222 osservazioni relative alle eruzioni del geyser Old Faithful. Old Faithful, Yellowstone Park. Old Faithful
DettagliMetodi statistici per la ricerca sociale Capitolo 11. Regressione Multipla e Correlazione
Metodi statistici per la ricerca sociale Capitolo 11. Regressione Multipla e Correlazione Alessandra Mattei Dipartimento di Statistica, Informatica, Applicazioni (DiSIA) Università degli Studi di Firenze
DettagliUniversità di Siena. Teoria della Stima. Lucidi del corso di. Identificazione e Analisi dei Dati A.A
Università di Siena Teoria della Stima Lucidi del corso di A.A. 2002-2003 Università di Siena 1 Indice Approcci al problema della stima Stima parametrica Stima bayesiana Proprietà degli stimatori Stime
DettagliGeometria analitica: curve e superfici
Geometria analitica: curve e superfici geometriche algebriche e matrici e isometrie Riduzione Invarianti Studio di coniche Intersezione con rette e tangenti in forma parametrica 006 Politecnico di Torino
DettagliRichiami di Algebra Lineare
Richiami di Algebra Lineare Eduardo Rossi Università degli Studi di Pavia Corso di Econometria Marzo 2015 Rossi Algebra Lineare 2015 1 / 41 Vettori Prodotto interno a : (n 1) b : (n 1) a b = a 1 b 1 +
DettagliSTATISTICA (2) ESERCITAZIONE Dott.ssa Antonella Costanzo
STATISTICA (2) ESERCITAZIONE 7 11.03.2014 Dott.ssa Antonella Costanzo Esercizio 1. Test di indipendenza tra mutabili In un indagine vengono rilevate le informazioni su settore produttivo (Y) e genere (X)
DettagliRango di una matrice e teorema di Rouché-Capelli
Rango di una matrice e teorema di Rouché-Capelli Sappiamo che a una matrice m n, A, è associata l applicazione lineare L A : R n R m, L A (X) = AX, X R n. Definizione 1. Lo spazio nullo di A, N (A), è
DettagliRELAZIONI e CORRISPONDENZE
RELAZIONI e CORRISPONDENZE Siano X e Y due insiemi non vuoti si chiama relazione tra X e Y un qualunque sottoinsieme del prodotto cartesiano: X x Y = {(x,y): x X, y Y} L insieme costituito dai primi (secondi)
DettagliMetodi di regressione multivariata
Metodi di regressione multivariata Modellamento dei dati per risposte quantitative I metodi di regressione multivariata sono strumenti utilizzati per ricercare relazioni funzionali quantitative tra un
DettagliRichiami di Algebra Lineare
Richiami di Algebra Lineare Eduardo Rossi Università degli Studi di Pavia Corso di Econometria Marzo 2012 Rossi Algebra Lineare 2012 1 / 59 Vettori Prodotto interno a : (n 1) b : (n 1) a b = a 1 b 1 +
DettagliVariabili indipendenti qualitative. In molte applicazioni si rende necessario l introduzione di un fattore a due o più livelli.
Variabili indipendenti qualitative Di solito le variabili nella regressione sono variabili continue In molte applicazioni si rende necessario l introduzione di un fattore a due o più livelli Ad esempio:
DettagliAnalisi della regressione multipla
Analisi della regressione multipla y = β 0 + β 1 x 1 + β 2 x 2 +... β k x k + u 2. Inferenza Assunzione del Modello Classico di Regressione Lineare (CLM) Sappiamo che, date le assunzioni Gauss- Markov,
DettagliLaboratorio di Statistica Aziendale Modello di regressione lineare multipla
Laboratorio di Statistica Aziendale Modello di regressione lineare multipla Michela Pasetto michela.pasetto2@unibo.it Definizione del modello OLS (semplice) L obiettivo della regressione lineare è di valutare
DettagliDescrizione per la costruzione del modello di regressione
Descrizione per la costruzione del modello di regressione Formulazione delle Ipotesi Ricerca delle variabili esplicative Dati Modello Stima dei parametri Verifica Modello IL MODELLO DI REGRESSIONE LINEARE
DettagliGeometria Prova scritta, appello unico, sessione autunnale Corso di laurea in fisica A.A 2017/2018 Canali A C, e L Pa
Geometria Prova scritta, appello unico, sessione autunnale Corso di laurea in fisica A.A 27/28 Canali A C, e L Pa Durata: 2 ore e 3 minuti Simone Diverio Alessandro D Andrea Paolo Piccinni 7 settembre
Dettaglilezione 13 AA Paolo Brunori
AA 2016-2017 Paolo Brunori popolazione studiata e popolazione di interesse - popolazione studiata: popolazione da cui è stato estratto il campione - popolazione di interesse: popolazione per la quale ci
DettagliRichiami di Algebra Lineare
Università di Pavia Richiami di Algebra Lineare Eduardo Rossi Vettori a : (n 1) b : (n 1) Prodotto interno a b = a 1 b 1 + a 2 b 2 +... + a n b n Modulo (lunghezza): a = a 2 1 +... + a2 n Vettori ortogonali:
DettagliRichiami di statistica e loro applicazione al trattamento di osservazioni topografiche e geodetiche
Richiami di statistica e loro applicazione al trattamento di osservazioni topografiche e geodetiche Ludovico Biagi Politecnico di Milano, DIIAR ludovico.biagi@polimi.it (materiale didattico preparato in
DettagliAnalisi delle serie storiche parte V Modelli autoregressivi
Analisi delle serie storiche parte V Modelli autoregressivi a.a. 2016/2017 Economiche Internazionali 1 Definizioni introduttive Autoregressione: modello di regressione che spiega una serie temporale con
DettagliCapitolo 12 La regressione lineare semplice
Levine, Krehbiel, Berenson Statistica II ed. 2006 Apogeo Capitolo 12 La regressione lineare semplice Insegnamento: Statistica Corso di Laurea Triennale in Ingegneria Gestionale Facoltà di Ingegneria, Università
DettagliDaniela Lera A.A
Daniela Lera Università degli Studi di Cagliari Dipartimento di Matematica e Informatica A.A. 2016-2017 Richiami Algebra Lineare Spazio normato Uno spazio lineare X si dice normato se esiste una funzione
DettagliLa regressione fuzzy. Capitolo I limiti della regressione classica. a cura di Fabrizio Maturo
Capitolo 14 La regressione fuzzy a cura di Fabrizio Maturo 14.1 I limiti della regressione classica L analisi di regressione offre una possibile soluzione per studiare l effetto di una o più variabili
DettagliModelli Statistici per l Economia. Regressione lineare con regressori multipli
Modelli Statistici per l Economia Regressione lineare con regressori multipli 1 Esempio: Dimensione della classe e risultato dell istruzione Y = punteggio nei test X = rapporto studenti/insegnanti Potremmo
DettagliLa regressione (S. Terzi) 1. Retta di regressione (regressione lineare semplice)
La regressione (S. Terzi) 1. Retta di regressione (regressione lineare semplice) Date n coppie di osservazioni (x i,y i ), i=1,,n si desidera fare un interpolazione dei punti attraverso una retta: y* =
Dettagli1 Alcuni risultati sulle variabili Gaussiane multivariate
Il modello lineare-gaussiano e il filtro di Kalman Prof. P.Dai Pra 1 Alcuni risultati sulle variabili Gaussiane multivariate In questo paragrafo verranno enunciate e dimostrate alcune proprietà del valor
DettagliStima dei sistemi di equazioni simultanee
Università di Pavia Stima dei sistemi di equazioni simultanee Eduardo Rossi University of Pavia Stima dei SES Limited Information OLS 2STLS K CLASS H CLASS Full Information FIMLE 3STLS FIIV Eduardo Rossi
DettagliEsercitazione 5 - Statistica (parte II) Davide Passaretti 9/3/2017
Esercitazione 5 - Statistica (parte II) Davide Passaretti 9/3/2017 Contents 1 Inferenza sulla regressione semplice 1 1.1 Test sulla pendenza della retta................................... 1 1.2 Test sull
DettagliSistemi II. Sistemi II. Elisabetta Colombo
Corso di Approfondimenti di Matematica per Biotecnologie, Anno Accademico 2011-2012, http://users.mat.unimi.it/users/colombo/programmabio.html 1 2 3 con R.C.+ o 1.10 Rango massimo e determinante con R.C.+
Dettagli5. Per determinare il miglior grado del polinomio di una regressione polimoniale
Principi di Econometria 55 di tempo prof. Brunori Nome e cognome 16/01/2017 Matricola versione A Potete consegnare solo le risposte multiple o sia le risposte multiple che quelle aperte. Nel secondo caso
DettagliR - Esercitazione 6. Andrea Fasulo Venerdì 22 Dicembre Università Roma Tre
R - Esercitazione 6 Andrea Fasulo fasulo.andrea@yahoo.it Università Roma Tre Venerdì 22 Dicembre 2017 Il modello di regressione lineare semplice (I) Esempi tratti da: Stock, Watson Introduzione all econometria
DettagliLa multicollinearità sorge quando c è un elevata correlazione tra due o più variabili esplicative.
Lezione 14 (a cura di Ludovica Peccia) MULTICOLLINEARITA La multicollinearità sorge quando c è un elevata correlazione tra due o più variabili esplicative. In un modello di regressione Y= X 1, X 2, X 3
DettagliCorso di Laurea in Matematica Analisi Numerica (1 mod., 6 crediti, 48 ore, a.a , lez.3)
Docente: Marco Gaviano (e-mail:gaviano@unica.it) Corso di Laurea in Matematica Analisi Numerica (1 mod., 6 crediti, 48 ore, a.a. 2014-2015, lez.3) 1 Analisi Numerica 1 mod. a.a. 2014-2015, Lezione n.3
DettagliIl problema lineare dei minimi quadrati
Il problema lineare dei minimi quadrati APPLICAZIONE: Il polinomio di migliore approssimazione nel senso dei minimi quadrati Felice Iavernaro Dipartimento di Matematica Università di Bari 15 Gennaio 2009
DettagliVariabili tutte osservabili: regressione Si parla di regressione quando si ha a disposizione un campione sperimentale di numerosità n della forma X 1
Modelli lineari Come motivazione di ciò che stiamo per fare, pensiamo ai dati indicatori_benessere.txt. Quando li abbiamo esaminati nella lezione 1 tramite la rappresentazione nel piano delle componenti
DettagliTest F per la significatività del modello
Test F per la significatività del modello Per verificare la significatività dell intero modello si utilizza il test F Si vuole verificare l ipotesi H 0 : β 1 = 0,, β k = 0 contro l alternativa che almeno
DettagliLe derivate parziali
Sia f(x, y) una funzione definita in un insieme aperto A R 2 e sia P 0 = x 0, y 0 un punto di A. Essendo A un aperto, esiste un intorno I(P 0, δ) A. Preso un punto P(x, y) I(P 0, δ), P P 0, possiamo definire
DettagliForme bilineari e prodotti scalari
Forme bilineari e prodotti scalari Avvertenza: Gli argomenti che esponiamo brevemente in queste note sono tutti trattati in maggior dettaglio nel capitolo del libro di testo Abate De Fabritiis. Nel corso
Dettagli3. Vettori, Spazi Vettoriali e Matrici
3. Vettori, Spazi Vettoriali e Matrici Vettori e Spazi Vettoriali Operazioni tra vettori Basi Trasformazioni ed Operatori Operazioni tra Matrici Autovalori ed autovettori Forme quadratiche, quadriche e
DettagliLezione 18. Statistica. Alfonso Iodice D Enza Università degli studi di Cassino. Lezione 18. A. Iodice
Statistica Alfonso Iodice D Enza iodicede@unicas.it Università degli studi di Cassino () Statistica 1 / 45 Outline 1 2 3 4 5 () Statistica 2 / 45 Modello di In molte applicazioni il ruolo delle variabili
DettagliAnalisi della Regressione Lineare
Analisi della Regressione Lineare Master in Tecnologie Bioinformatiche 29/09/06 Adriano Decarli 1 29/09/06 Adriano Decarli 2 29/09/06 Adriano Decarli 3 29/09/06 Adriano Decarli 4 29/09/06 Adriano Decarli
DettagliStima del valore di una costante in presenza di rumore esponenzialmente correlato. Carlo Fisicaro
Stima del valore di una costante in presenza di rumore esponenzialmente correlato Carlo Fisicaro OBIETTIVO Stimare il valore della costante β adimensionale per mezzo di misurazioni soggette a rumore stocastico
DettagliIl modello di regressione (VEDI CAP 12 VOLUME IEZZI, 2009)
Il modello di regressione (VEDI CAP 12 VOLUME IEZZI, 2009) Quesito: Posso stimare il numero di ore passate a studiare statistica sul voto conseguito all esame? Potrei calcolare il coefficiente di correlazione.
DettagliLa regressione logistica
La regressione logistica Supponiamo che la variabile di interesse y sia una variabile dicotoma, che assuma solo i valori 0 ovvero 1, corrispondenti a successo o insuccesso. Sia p = P (S) = P (Y = 1) la
Dettagli5 febbraio Soluzione esame di geometria - 12 crediti Ingegneria gestionale - a.a COGNOME... NOME... N. MATRICOLA...
5 febbraio 015 - Soluzione esame di geometria - 1 crediti Ingegneria gestionale - a.a. 014-15 COGNOME.......................... NOME.......................... N. MATRICOLA............. La prova dura ore.
DettagliCorso di Geometria BIAR, BSIR Esercizi 10: soluzioni
Corso di Geometria 2010-11 BIAR, BSIR Esercizi 10: soluzioni 1 Geometria dello spazio Esercizio 1. Dato il punto P 0 = ( 1, 0, 1) e il piano π : x + y + z 2 = 0, determinare: a) Le equazioni parametriche
DettagliArgomenti della lezione:
Lezione 7 Argomenti della lezione: La regressione semplice Il modello teorico Il calcolo dei parametri Regressione lineare Esamina la relazione lineare tra una o più variabili esplicative (o indipendenti,
DettagliRegressione lineare con un solo regressore (Cap 4)
Regressione lineare con un solo regressore (Cap 4) La regressione lineare è uno strumento che ci permette di stimare e di fare inferenza sui coefficienti angolari di una popolazione. Il nostro scopo è
DettagliRestrizioni lineari nel MRLM: esempi
Restrizioni lineari nel MRLM: esempi Eduardo Rossi 2 2 Università di Pavia (Italy) Maggio 2013 Rossi Restrizioni lineari: esempi Econometria - 2013 1 / 22 Funzione di produzione Cobb-Douglas Esempio GDP
DettagliAnalisi statistica e matematico-finanziaria II. Alfonso Iodice D Enza Università degli studi di Cassino e del Lazio Meridionale
delle sui delle Analisi statistica e matematico-finanziaria II Alfonso Iodice D Enza iodicede@unicas.it Università degli studi di Cassino e del Lazio Meridionale sulle particolari ali dei dati Outline
Dettaglilezione 4 AA Paolo Brunori
AA 2016-2017 Paolo Brunori dove eravamo arrivati - abbiamo individuato la regressione lineare semplice (OLS) come modo immediato per sintetizzare una relazione fra una variabile dipendente (Y) e una indipendente
Dettagli= (cioè le due terne di numeri direttori ( devono essere ) proporzionali). Tale uguaglianza non è verificata, poiché risulta ρ
Alcuni esercizi sullo spazio euclideo R Nel seguito R indicherà lo spazio euclideo tridimensionale standard, dotato del riferimento cartesiano naturale (pag 56-57 del libro Nota: gli esercizi proposti
DettagliUniversità di Siena. Corso di STATISTICA. Parte seconda: Teoria della stima. Andrea Garulli, Antonello Giannitrapani, Simone Paoletti
Università di Siena Corso di STATISTICA Parte seconda: Teoria della stima Andrea Garulli, Antonello Giannitrapani, Simone Paoletti Master E 2 C Centro per lo Studio dei Sistemi Complessi Università di
DettagliProbabilità e Statistica
Diario delle lezioni e del tutorato di Probabilità e Statistica a.a. 2014/2015 www.mat.uniroma2.it/~caramell/did 1415/ps.htm 02/03/2015 - Lezioni 1, 2 Breve introduzione al corso. Fenomeni deterministici
DettagliUniversità degli Studi di Bergamo Corso integrato di Analisi 1 (Geometria e Algebra Lineare) 3 settembre 2009 Tema A
Università degli Studi di Bergamo Corso integrato di Analisi (Geometria e Algebra Lineare) settembre 009 Tema A Tempo a disposizione: ore. Calcolatrici, libri e appunti non sono ammessi. Ogni esercizio
Dettaglib vettore(termine noto) y* proiezione ortogonale di b
Carla Guerrini 1 Sistemi sovradeterminati Sia A una matrice m n ove m > n sia b R m trovare una soluzione del sistema sovradeterminato Ax = b significa cercare di esprimere un vettore di R m come combinazione
DettagliNel modello di regressione Multivariata abbiamo più variabili risposta (tipicamente poche), in particolare avremo:
Lezione 15 (a cura di Giovanni Mariani) Regressione Multivariata Consideriamo yiyr, con r = numero variabili risposta xixk, con k = numero varibili esplicative Nel modello di regressione Multivariata abbiamo
Dettagli25 - Funzioni di più Variabili Introduzione
Università degli Studi di Palermo Facoltà di Economia CdS Statistica per l Analisi dei Dati Appunti del corso di Matematica 25 - Funzioni di più Variabili Introduzione Anno Accademico 2013/2014 M. Tumminello
DettagliRegressione & Correlazione
Regressione & Correlazione Monia Ranalli Ranalli M. Dipendenza Settimana # 4 1 / 20 Sommario Regressione Modello di regressione lineare senplice Stima dei parametri Adattamento del modello ai dati Correlazione
DettagliIstituzioni di Matematiche Modulo A (ST)
Istituzioni di Matematiche Modulo A (ST V II foglio di esercizi ESERCIZIO. Nei seguenti sistemi lineari, discutere l insieme delle soluzioni al variare del parametro t, o dei parametri t e τ, in R. 5 x
DettagliLezione 6 Richiami di Geometria Analitica
1 Piano cartesiano Lezione 6 Richiami di Geometria Analitica Consideriamo nel piano due rette perpendicolari che si intersecano in un punto O Consideriamo ciascuna di queste rette come retta orientata
DettagliDispensa di Statistica
Dispensa di Statistica 1 parziale 2012/2013 Diagrammi... 2 Indici di posizione... 4 Media... 4 Moda... 5 Mediana... 5 Indici di dispersione... 7 Varianza... 7 Scarto Quadratico Medio (SQM)... 7 La disuguaglianza
DettagliAnno Accademico DIARIO DEL CORSO SSIS Didattica della matematica per la scuola superiore 1. 9 novembre 2004
Anno Accademico 2004-2005 DIARIO DEL CORSO SSIS Didattica della matematica per la scuola superiore 1 SILVANO DELLADIO 9 novembre 2004 Costruzione di Z, Q, R e C, dando per scontato N. Teoria ingenua (fatta
DettagliSoluzioni dello scritto di Geometria del 28 Maggio 2009
Soluzioni dello scritto di Geometria del 8 Maggio 9 1) Trovare le equazioni del sottospazio V(w, x, y, z) R 4 generato dalle quaterne c 1 = (,,, 1) e c = (, 1, 1, ). ) Trovare una base per OGNI autospazio
DettagliMODELLO DI REGRESSIONE LINEARE. le ipotesi del modello di regressione classico, stima con i metodi dei minimi quadrati e di massima verosimiglianza,
MODELLO DI REGRESSIONE LINEARE le ipotesi del modello di regressione classico, stima con i metodi dei minimi quadrati e di massima verosimiglianza, teorema di Gauss-Markov, verifica di ipotesi e test di
DettagliMetodi statistici per la ricerca sociale Capitolo 13. Combinare regressione e ANOVA: predittori categoriali e quantitativi
Metodi statistici per la ricerca sociale Capitolo 13. Combinare regressione e ANOVA: predittori categoriali e quantitativi Alessandra Mattei Dipartimento di Statistica, Informatica, Applicazioni (DiSIA)
DettagliESERCITAZIONE SUI PUNTI STAZIONARI DI FUNZIONI LIBERE E SULLE FUNZIONI OMOGENEE
ESERCITAZIONE SUI PUNTI STAZIONARI DI FUNZIONI LIBERE E SULLE FUNZIONI OMOGENEE 1 Funzioni libere I punti stazionari di una funzione libera di più variabili si ottengono risolvendo il sistema di equazioni
Dettagli