Frequenza relativa e probabilità

Transcript

1 Frequenza relativa e probabilità La La probabilità e' e' un un numero con con cui cuisi si descrivono i i fenomeni che che possono essere essere pensati come come risultato di di un un esperimento che che cambia cambia al al ripetersi dell esperimento stesso stesso (pur (pur mantenendo le le medesime condizioni operative). Esempio: Esperimento: Lancio Lancio casuale di di un un dado dado Risultato: Numero sulla sulla faccia faccia superiore del del dado dado Insieme dei dei possibili risultati (elementari): S={,,3,4,5,6} Evento: qualsiasi sottoinsieme dell insieme dei dei risultati risultati A={,}; B={,4,6}; ecc. ecc. Se Se si si esegue esegue un un numero N di di prove prove sufficientemente elevato, sia sia l esperienza sia sia la la teoria teoria della della probabilità mostrano che che la la frequenza relativa relativadei dei singoli singoli risultati risultati (k=,,3,4,5,6) (o (o di di un un qualsiasi evento) evento) è prossima alla alla loro loro probabilità: NA f P( A) A = N

2 Frequenza relativa e probabilità f A = N N A P( A) A f P( A) f S = P( S) = f AUB = f + f f P( AU B) = P( A) + P( B) P( AI B) A B AIB f A B = f A + fb f ( ) ( ) ( ) ( ) + AB P A+ B = P A + P B P AB

3 Variabile casuale numero reale associato ad un evento ( ) Funzione di distribuzione a = P( a) F P( a a + da) da d da ( ) ( ) Densità di probabilità p a = F a =

4 Variabile casuale continua Le Le variabili casuali sono continue quando possono assumere un un insieme continuo di di valori (e (e quindi i i possibili risultati sono in in numero infinito). Esempio: v.c. v.c. Uniforme Assume con con la la stessa stessa probabilità un un qualsi qualsi valore valore reale reale valore valore compreso tra tra e ( ) Funzione di distribuzione F a = P( a) = a d da ( ) ( ) Densità di probabilità p a = F a =

5 Variabile casuale discreta Le Le variabili casuali sono discrete quando possono assumere un un insieme discreto di di valori (e (e quindi i i possibili risultati sono in in numero finito). Esempio: v.c. v.c. Legata Legata al al numero sulla sulla faccia faccia superiore del del dado. dado. F p ( a) Funzione di distribuzione = P( a) = u( a ) + u( a ) u( a 6) d da Densità di probabilità 6 ( a) = F ( a) = δ( a ) + δ( a 6) δ( a 6) 6 6

6 Uso della densità di probabilità Dalla Dalla densità densitàdi di probabilità p(a) p(a) è facile facile calcolare la la probabilità che che la la variabile casuale assuma un un valore valore compreso in in un un intervallo a,, a.. Basta Basta sommare! si si ottiene ottiene l area l area sottesa sottesa dalla dalla ddp ddpnell intervallo d interesse. ( < ) = a P a Si noti che a a p ( a) da P ( < < ) = p ( a) da =.. Dunque l area l area sottesa sottesa dalla dalla ddp ddp di di una una qualunque variabile casuale è unitaria a a

7 Variabili casuali continue Il Il concetto di di frequenza relativa relativaviene viene recuperato approssimando l insieme continuo di di valori valori con con un un numero finito finito di di intervallini di di misura misura (discretizzazione). Ad Ad esempio, se se la la v.c. v.c. può può variare variare con con continuità tra tra e gradi, gradi, non non commettiamo un un grosso grosso errore errore approssimando l intervallo continuo con con intervallini contigui larghi larghi La La variabile casuale è diventata discreta (ci (ci sono sono possibili risultati risultati dell esperimento) e possiamo approssimare la la probabilità come come limite limite della della frequenza relativa relativa per per N elevato.

8 =rand(,); hist(,) Istogramma dei risultati di una V.C. uniforme

9 =rand(,); hist(,) All'aumentare del numero di prove, l'istogramma tende alla frequenza relativa moltiplicata per il numero di prove

10 =rand(,); [X,N]=hist(,); bar(n,x/*) All'aumentare del numero di prove e del numero di intervalli, l'istogramma diviso per il numero di prove e per la dimensione degli intervalli tende alla densita' di probabilita'

11 =randn(,); hist(,) All'aumentare del numero di prove, l'istogramma tende alla frequenza relativa moltiplicata per il numero di prove. 4 4 V.C. gaussiana

12 =randn(,); [X,N]=hist(,); d=(n()-n()); bar(n,x//d) All'aumentare del numero di prove e del numero di intervalli, l'istogramma diviso per il numero di prove e per la dimensione degli intervalli tende alla densita' di probabilita' V.C. gaussiana

13 Valor medio di una variabile casuale Il Il valor valor medio mediom,, detto detto anche anche valore valore atteso attesoe [] [] o momento (statistico) di di ordine ordine uno, uno, di di una una variabile casuale è definito definito come come segue. segue. m [ ] = = E a p (a) da Il valor medio di una variabile casuale è l ascissa del baricentro dell area sottesa dalla densità di probabilità. p(a) p(a) m X a m X a Il valor medio della somma di variabili casuali è la somma dei valori medi

14 Valore quadratico medio e varianza Il Il valor valor quadratico medio medioe [ [ X [ ( ], ], detto detto anche potenza statistica o momento (statistico) di di ordine ordine σ, =, Edi di Xuna una mvariabile X ) ] = ( acasuale m ) f X ( è a ): : da = = E X [ ] m E[ X ] + m = E[ X ] m m + m = E[ X ] m X X E [ ] X X = a p (a) da X X La La varianza σ (detta (detta anche anche momento centrale di di ordine ordine ) ) di di una una variabile casuale è il il valore valore quadratico medio medio della della differenza tra tra e il il suo suo valor valor medio medio m σ = E [ ] [ ] m ) = E m ( La La radice radice quadrata della della varianza è detta detta deviazione standard (o (o scarto scarto quadratico medio) medio) della della variabile casuale σ = σ

15 =rand(,); z=rand(,); b=/*+/*z; [B,N]=hist(a,); bar(n,b/*) La d.d.p. della somma di v.c. indipendenti è data dalla convoluzione delle d.d.p

16 Introduzione ai processi casuali Il rumore termico Un classico e importante esempio utile a introdurre il concetto di processo casuale e rappresentato dalla debole tensione elettrica v (t) esistente ai capi di un resistore. Questa tensione, variabile nel tempo, e causata dal movimento caotico degli elettroni dovuto ad una temperatura del materiale superiore allo zero assoluto. Se si misura la tensione v (t) si ottiene, secondo quanto detto in precedenza, un segnale deterministico. v (t) t

17 Introduzione ai processi casuali () Se si prende un secondo resistore identico al primo e posto alla stessa temperatura e si esegue la misura della tensione elettrica ai suoi capi, si otterra di nuovo un segnale deterministico v (t), con caratteristiche simili ma diverso dal precedente dato che gli elettroni si muovono in modo diverso. v (t) v (t) t t

18 Introduzione ai processi casuali (3) Se il nostro scopo e determinare l effetto del rumore termico del resistore su un apparecchiatura elettronica, non e di nessuna utilità conoscere deterministicamente il comportamento della tensione v (t) ai capi del primo resistore se poi il resistore effettivamente montato nell apparecchiatura e il secondo. E utile invece riuscire a descrivere quelle che sono le caratteristiche della tensione di rumore comuni a tutti i resistori dello stesso tipo e a quella temperatura. In questo modo, qualsiasi sia il resistore (di quel valore e a quella temperatura) montata nell apparecchiatura, potremo dire, per esempio, con quale probabilità si presenteranno certi valori di tensione o quale sarà il valore atteso della potenza di rumore. Si abbandona dunque il concetto di certezza (proprio dei segnali deterministici) per passare a quello dell incertezza, descritto dalla teoria della probabilità, proprio dei processi casuali.

19 Introduzione ai processi casuali (4) Un processo casuale e : l insieme di tutti i segnali deterministici (detti le realizzazioni del processo) generati da altrettante sorgenti uguali, ma indipendenti tra loro. ESEMPIO Dimensione d'insieme Dimendsione Temporale

20 Introduzione ai processi casuali (5) Per ogni tempo t si ottiene una variabile casuale che viene descritta attraverso la sua ddp Dimensione d'insieme Dimendsione Temporale t

21 Introduzione ai processi casuali (6) Per ogni coppia di tempi t e t si ottiengono variabili casuali che viengono descritte attraverso la loro ddp congiunta Dimensione d'insieme Dimendsione Temporale t t

22 ESEMPIO ( t) = cos(π.t + ϑ) ϑ V.C. Unif. - π Dimensione Temporale Dimensione d'insieme

23 ESEMPIO (t ) = cos(π.t + ϑ ) ϑ V.C. Unif. - π

24 ESEMPIO ( t) = cos(π.t + ϑ) ϑ V.C. Unif. - π N=; fi=rand(,n)**pi; =cos(fi); hist(,)

25 ESEMPIO ( t) = cos(π.t + ϑ) ϑ V.C. Unif. - π N=; fi=rand(,n)**pi; =cos(fi); [X,M]=hist(,); bar(m,x/n*5) p ( a) = π a

26 =randn(,);

27 =randn(,); y=randn(,); plot(,y,'.') ais('square') Lo "scatterplot" di v.c. è una visualizzazione indicativa della densita' di probabilità congiunta 4 V.C. gaussiane indipendenti 3 y

28 L'istogramma dei risultati di V.C. Gaussiane indipendenti con valor medio nullo e e varianza unitaria =randn(,); y=randn(,); Fy=hist3([' y'],{-5:.:5-5:.:5}); imagesc((-5:.:5),(-5:.:5),fy) colorbar

29 All'aumentare del numero di prove, l'istogramma tende alla frequenza relativa moltiplicata per il numero di prove. =randn(,e7); y=randn(,e7); Fy=hist3([' y'],{-5:.:5-5:.:5}); imagesc((-5:.:5),(-5:.:5),fy) colorbar

30 All'aumentare del numero di prove e del numero di intervalli, l'istogramma diviso per il numero di prove e per la dimensione degli intervalli tende alla densita' di probabilita' congiunta. =randn(,e7); y=randn(,e7); Fy=hist3([' y'],{-5:.:5-5:.:5}); Py=Fy/e7/(.*.); imagesc((-5:.:5),(-5:.:5),py) colorbar

31 La densità condizionata si ottiene leggendo la congiunta in un particolare valore di (es: =.5) e dividendo il risultato per la somma dei valori letti moltiplicata per la dimensione dell'intervallo (. nel nostro esempio): =.5; n=(+5)/.; Py=Py(:,n)/sum(Py(:,n)*.); plot((-5:.:5),py)

32 X(n+)=.955*(n)+.3*randn(,);

33 =randn(,); y=randn(,); a=; b=.955*+.3*y; plot(a,b,'.') ais('square') 3 V.C. gaussiane correlate b a

34 L'istogramma dei risultati di V.C. Gaussiane correlate =randn(,); y=randn(,); a=; b=.955*+.3*y; Fab=hist3([a' b'],{-5:.:5-5:.:5}); imagesc((-5:.:5),(-5:.:5),fab) colorbar

35 All'aumentare del numero di prove, l'istogramma tende alla frequenza relativa moltiplicata per il numero di prove. =randn(,e7); y=randn(,e7); a=; b=.955*+.3*y; Fab=hist3([a' b'],{-5:.:5-5:.:5}); imagesc((-5:.:5),(-5:.:5),fab) colorbar

36 All'aumentare del numero di prove e del numero di intervalli, l'istogramma diviso per il numero di prove e per la dimensione degli intervalli tende alla densita' di probabilita' congiunta. =randn(,e7); y=randn(,e7); a=; b=.955*+.3*y; Fab=hist3([a' b'],{-5:.:5-5:.:5}); Pab=Fab/e7/(.*.); imagesc((-5:.:5),(-5:.:5),pab) colorbar

37 La densità condizionata si ottiene leggendo la congiunta in un particolare valore di (es: =) e dividendo il risultato per la somma dei valori letti moltiplicata per la dimensione dell'intervallo (. nel nostro esempio): =; n=(+5)/.; Pb=Pab(:,n)/sum(Pab(:,n)*.); plot((-5:.:5),pb)

38 X(n+)= -.955*(n)+.3*randn(,);

39 =randn(,); y=randn(,); a=; b=-.955*+.3*y; plot(a,b,'.') ais('square') V.C. gaussiane correlate b a

40 Predizione MMSE (Minimum Mean Square Error) La predizione del futuro dato il presente che minimizza l'errore quadratico medio è data dal valor medio del futuro condizionato al presente, cioè dal valo medio della densità di probabilità condizionata: ˆ t ( ) ( ) t = E ( t ) = a La predizione MMSE coincide con la più semplice predizione lineare nel caso di processi casuali gaussiani : ( t ) = ρ ( t t ) ( t ) ˆ Tuttavia la predizione MMSE coincide con la predizione lineare in molti altri processi casuali.

41 ESEMPIO ( t) = cos(π.t + ϑ) ϑ V.C. Unif. - π p ( a) m = = π a σ =

42 ESEMPIO ( t) = cos(π.t + ϑ) ϑ V.C. Unif. - π R ( τ ) = cos( π. τ ) ( τ ) C ρ ( τ ) = = cos σ ( π. τ ) ρ ( τ ) = quando τ = 5 + k 5

43 ( t) = cos(π.t + ϑ) ( t ) cos( π. t +φ) = φ = ± acos ( ( t )) π. t ( t ).8.6 A B t

44 [.( t t ) ( ( ))] A ( t) = cos π + acos t B [.( t t ) ( ( ))] ( t) = cos π acos t ( t ).8.6 A B t

45 ( t ) = cos[ π.( t t ) ( ( t ))] A + B acos ( t ) = cos[ π.( t t ) ( ( t ))] acos ( t ).8.6 A B t t

46 ( t ) = cos[ π.( t t ) ( ( t ))] A + B acos ( t ) = cos[ π.( t t ) ( ( t ))] acos p ( ) ( t ) a ( ) t ( t ) ( ) A B t a

47 t ( t ) 4. t = = ( t ) cos ( ( t )) A B [ ] [ ( )] t A = π + acos B t = cos π acos ( ) ( ) t t

48 [ ] [ ( )] t ( t ) cos ( ( t )) A = π + acos B t = cos π acos ( ) ( ) p ( ) ( t ) a ( ) t ( t ) ( ) A B t a

49 ( t ) = cos[ π.( t t ) ( ( t ))] A + B acos ( t ) = cos[ π.( t t ) ( ( t ))] acos ˆ ( ) ( t ) ( ) ( ) ( ) A t + B t t = E = = cos = ρ [ π.( t t )] cos[ acos( ( t ))] ( t t ) ( t ) t = = p ( ) ( t ) a ( ) t ( t ) ( ) A B t a