Sequenze (Sistemi) di Variabili Aleatorie Se consideriamo un numero di variabili aleatorie, generalmente dipendenti si parla equivalentemente di:

Transcript

1 Sequenze (Sistemi) di Variabili Aleatorie Se consideriamo un numero di variabili aleatorie, generalmente dipendenti si parla equivalentemente di: N-pla o Sequenza di Variabili Aleatorie Sistema di Variabili Aleatorie Vettore Aleatorio Spesso si usa il simbolismo vettoriale per una sequenza (sistema) di variabili aleatorie. 1

2 Vettori Aleatori colonna e riga 1 N X.. X.. X T 1 N X X X

3 Funzioni di Distribuzione e Densità N-dimensionali Date N variabili aleatorie X,X,...,X 1 N la Distribuzione Congiunta di esse è data da: F x, x,..., x 1 N P X x, X x,..., X x 1 1 N N 3

4 Distribuzione e Densità Congiunta Tale funzione, definita per ogni monotona non decrescente con x i ed inoltre: F,..., 1 x i tra e è La derivata della distribuzione rispetto ai suoi argomenti: f x,..., x 1 N N F x,..., x x x... x 1 N 1 N è la Densità Congiunta delle variabili aleatorie X i. 4

5 Funzioni di Distribuzione e Densità N-dimensionali P X,..., X D 1 N f x,..., x dx dx D 1 N 1 N Saturando rispetto ad alcune variabili l integrale (ponendo pari ad i corrispondenti termini della funzione di distribuzione) si ottiene la densità (distribuzione) congiunta delle rimanenti variabili. 5

6 Esempio: N 4 F x, x F x,,x, f x, x 1 3 f x,x, x, x dxdx 6

7 Le variabili aleatorie Variabili Aleatorie Indipendenti indipendenti se gli eventi X ogni i. Allora: X i sono dette (mutuamente) i i x sono indipendenti per pertanto,...,... F x x F x F x 1 N 1 N,...,... f x x f x f x 1 N 1 N 7

8 Variabili Aleatorie Indipendenti Ogni sottoinsieme di un insieme di variabili aleatorie indipendenti è, a sua volta, un insieme di variabili indipendenti. Se N variabili aleatorie sono indipendenti a coppie, non è detto che esse siano (mutuamente) indipendenti. 8

9 Trasformazione di Variabili Aleatorie Date X 1,X,...,X N v.a. con densità congiunta le funzioni: f X x 1,x,...,x N Y g X, X,..., X N Y g X, X,..., X 1 N Y g X, X,..., X N N 1 N 9

10 Trasformazione di Variabili Aleatorie (segue) definiscono le N variabili aleatorie Y,Y,...,Y 1 N la cui densità congiunta si determina risolvendo: g 1 x1, x,..., xn y1 g,,..., x1 x xn y g,,..., N x1 x xn y N 10

11 Trasformazione di Variabili Aleatorie (segue) Se tale sistema non ha soluzione per alcuni valori di y i, allora per tali valori: f,..., Y y1 yn 0 Se il sistema ammette un'unica soluzione allora: f y,..., y Y 1 N f x,..., x X 1 N J x,..., x 1 N x,..., 1 x N, 11

12 dove: J x 1 g1 g1... x1 x N,..., x N gn g N... x1 xn è lo Jacobiano della trasformazione e J indica il valore assoluto del determinate di J x 1,..., x N. 1

13 Trasformazione di Variabili Aleatorie (segue) Se le soluzioni del sistema sono più di una, si f y,..., y i termini sommano nella espressione Y 1 N corrispondenti, in maniera del tutto analoga ai casi monodimensionali e bidimensionali. 13

14 La Matrice di Covarianza La covarianza delle variabili aleatorie X i e X j è: con E X X EX X ij i i j j i j i j i E X i j E X j 14

15 La Matrice di Covarianza Nel caso di N variabili aleatorie appartenenti a considerano le N coppie del tipo i j N R, si X,X e si valutano le relative covarianze (matrice N N): M X N 1 N N1 N NN 15

16 La Matrice di Covarianza Utilizzando il formalismo dei vettori colonna: X T con il vettore dei valori attesi X, X,...,X 1 N T X 1,,..., N M E X X EX X T T T X X X La matrice di covarianza è simmetrica: T X M = M X 16

17 Bivariata Gaussiana e Retta di Regressione Vettore Gaussiano bidimensionale (N = ): X X 1 X, 1 con 1 e varianze di X 1 e X, che sono correlate secondo un coefficiente di correlazione pari a. Matrice di covarianza vale: M X T 1 1 E X X 1 17

18 Bivariata Gaussiana e Retta di Regressione da cui risulta: -1 M X M X 1 det Applicando la definizione di multivariata reale per N = si ottiene la densità congiunta o Bivariata Gaussiana: 1 1 T f x exp x x X X det M X -1 M 18

19 Bivariata Gaussiana e Retta di Regressione 1 1 x x x x f X x 1,x exp La densità marginale è data da: 1 x 1 1 f X x 1 1 exp 1 1. f x,x 1 1 f X X x 1 x1 exp q X 1 f X x

20 con x 11 x11 x x x11 1 q x11 x11 x x Ovvero: q 1 x11 x 1 = 1 1 x x x x fx X x 1 x1 exp 1 1 0

21 ovvero una densità gaussiana con valor medio: e varianza: + x1 1 1 che diventa nulla per 1. Pertanto la curva di regressione: EX x x x coincide con la retta di regressione. 1 1

22 Bivariata Gaussiana: 0,, r 0 X Y X Y

23 Bivariata Gaussiana: 0, 4, 1, r 0 X Y X Y 3

24 Bivariata Gaussiana: 0,,, r 0.7 X Y X Y 4

25 Bivariata Gaussiana: 0, 4, 1, r 0.7 X Y X Y 5

26 Bivariata Gaussiana: 0,,, r 0.99 X Y X Y 6

27 Bivariata Gaussiana: 0, 4, 1, r 0.99 X Y X Y 7

28 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza Dato il vettore bidimensionale: Y Y Y con Y ~N0,1 e Y ~N0,1 indipendenti η 0,η 0 σ 1,σ 1 M Y EY Y I matrice identità Si vuole determinare la matrice A tale che il vettore: X A Y abbia matrice di covarianza assegnata: M X 1 ρ ρ 1 Docenti: Gaspare Galati Gabriele Pavan 8

29 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza M X EX X EAY Y A AEY Y A A A Calcolo degli autovalori di M X : det 1λ ρ Calcolo degli autovettori di M X : ρ 1 λ 0 1 λ ρ 0 λ λ1ρ 0 λ 1 ρ λ 1ρ v v v v v v Docenti: Gaspare Galati Gabriele Pavan 9

30 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza Calcolo degli autovettori di M X : M X v λ v M X v λ v Autovettore associato a λ 1ρ: 1 ρ ρ 1 v v 1ρv 1 ρv v v ρv v ρ v v v ρv v v ρ v v 1 v 1 normalizzato Docenti: Gaspare Galati Gabriele Pavan 30

31 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza Autovettore associato a λ 1ρ: 1 ρ ρ 1 v v 1ρv 1 ρv v v ρv v ρ v v v ρv v v ρ v v v 1 1 normalizzato Docenti: Gaspare Galati Gabriele Pavan 31

32 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza Matrice degli autovettori e degli autovalori: 1 1 U 1 Λ 1ρ ρ AUΛ / 1 1 M X UΛU M X A A UΛU A A 1 1ρ ρ Docenti: Gaspare Galati Gabriele Pavan 3

33 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza X ay by X ay by a b Jx,x a a f y f x b b ab Y A X 1 ρ detm X / 1 πdetm Y / exp 1 Y M Y Y 1 πdetm X / exp 1 X M X X Docenti: Gaspare Galati Gabriele Pavan 33

34 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Bivariata Gaussiana Rappresentazione mediante Matrice di Covarianza M X 1 ρ ρ 1 M X 1 ρ ρ 1 f x 1 π1 ρ exp 1 1 1ρ x x 1 ρ ρ 1 x x f x 1 π1 ρ exp 1 1 1ρ x ρx x x Docenti: Gaspare Galati Gabriele Pavan 34

35 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale v.a. Gaussiane indipendenti, con media e varianza : La densità congiunta vale: y f y exp N 1 1 i i Y N/ 1... N i1 i (1) e può essere scritta come l'esponenziale di una forma quadratica: Docenti: Gaspare Galati Gabriele Pavan 35

36 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale 1 T 1 f Y y exp y y c () dove è il vettore dei valori medi e 1 N diag,,..., è la matrice di covarianza (diagonale). La costante c è così definita: N exp c 1N... N det 1 N Come trasformare Y per avere X con assegnata M X? (3) Docenti: Gaspare Galati Gabriele Pavan 36

37 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale Supponendo i valori attesi di Y nulli, si consideri la seguente trasformazione: X U Y (4) con U matrice invertibile e ortogonale, cioè -1 T U U, -1 *T H (nel campo complesso U U U ). 1 f X x fy y det J yu dove J è lo Jacobiano della trasformazione T x y g x. Docenti: Gaspare Galati Gabriele Pavan 37

38 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale Nel caso in esame, essendo U ortogonale, si ha: J U T e det J 1 Pertanto utilizzando il teorema fondamentale con J U T si ha, dalle () e (4): 1 T f X x exp T x -1 T x c U U 1 T exp x -1 T U U x c Docenti: Gaspare Galati Gabriele Pavan 38

39 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale -1-1 T Possiamo indicare con A il prodotto U U ; si dimostra di seguito che A =M X. Si ricorda che se A ha autovalori distinti, come qui supponiamo, allora vale la decomposizione spettrale: A=U U dove U è la matrice unitaria le cui colonne sono gli autovettori di A e la matrice diagonale degli autovalori di A. T Docenti: Gaspare Galati Gabriele Pavan 39

40 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale Usando la regola A B B A e ricordando che -1 T U U, si ha che l inversa di A ha decomposizione: -1-1 T A =U U -1-1 pertanto se è vero che A =M X ne consegue che: M X =U U T Docenti: Gaspare Galati Gabriele Pavan 40

41 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale Si determini ora la matrice di covarianza di X: T T T MX E X X E UY Y U ricordando che T M E YY Y M U E YY U UU X T T T (5) Docenti: Gaspare Galati Gabriele Pavan 41

42 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale Inoltre si ha: X in quanto U è unitaria. L'espressione della multivariata reale gaussiana diviene: 1 1 T -1 f x exp x x X N 1 M X det M La matrice corrisponde alla matrice diagonale degli autovalori di M X, mentre la matrice U è la matrice ortogonale le cui colonne sono gli autovettori di M X. X Docenti: Gaspare Galati Gabriele Pavan 4

43 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Multivariata Gaussiana Reale La trasformazione inversa della (4): T Y U X rende la matrice di covarianza M X in forma diagonale (ovvero trasforma X in un vettore Y di variabili indipendenti). Docenti: Gaspare Galati Gabriele Pavan 43

44 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Densità e distribuzioni condizionate La densità condizionata delle variabili aleatorie X n,..., X k+1 assumendo X k = x k,, X 1 = x 1, è pari a: f x,..., x f x n,...,xk1 x k,...,x 1 f x,..., x 1 n 1 k f x,..., x f x x,..., x f x,..., x 1 n n n1 1 n1 1 f x,..., x f x x,..., x... f x x, x f x x f x 1 n n n Docenti: Gaspare Galati Gabriele Pavan 44

45 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Densità e distribuzioni condizionate Per rimuovere variabili situate sulla sinistra o sulla destra della linea di condizionamento esiste la regola seguente. Ad esempio f x, x x 3 1 f integrando rispetto a x si ottiene: x, x, x 1 3 f x 1 1 f x,,,, 1 x3 f x3 x x1 dx f x1 x x3 dx f x f x f x x Docenti: Gaspare Galati Gabriele Pavan 45

46 Corso di Teoria dei Fenomeni Aleatori AA 01/13 Densità e distribuzioni condizionate Per rimuovere le variabili a destra della linea di condizionamento, ad esempio supponiamo di voler eliminare x e x 3 da,,,,, f x x x x f x x x f x x x x Integrando ambo i membri rispetto a x e x 3, si ottiene:,,, f x x x x f x x x dx dx f x x si moltiplica per la densità condizionata di tali variabili, assumendo fisse le rimanenti variabili, e poi si integra. Docenti: Gaspare Galati Gabriele Pavan 46