Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Teoria della probabilità A.A

Transcript

1 Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Teoria della probabilità A.A Alberto Perotti Esperimento casuale Esperimento suscettibile di più risultati possibili Il risultato non può essere predetto con certezza Esempi: Lancio di una moneta Lancio di un dado Calcio di rigore Misura della resistenza di un resistore 2 1

2 Spazio campione È l insieme di tutti i risultati possibili di un esperimento casuale e si indica con S Esempi: Lancio di una moneta: S = {testa, croce} = {T, C}, S = 2 Lancio di un dado: S = {1, 2, 3, 4, 5, 6}, S = 6 Calcio di rigore: S = {gol, parata, palo, traversa, fuori} Misura della resistenza: In questo caso, si parla di spazio campione continuo 3 Evento Ogni sottoinsieme dello spazio campione è detto evento Esempi: Lancio di una moneta: l evento è uscito testa è indicato con {testa} o {T} Lancio di un dado: l evento uscita di un numero dispari è E = {1, 3, 5} Calcio di rigore: l'evento non gol è N = {parata, palo, traversa, fuori}. 4 2

3 Probabilità di un evento Ad ogni evento si associa una probabilità, valore in [0, 1], in modo da soddisfare i seguenti assiomi: Assioma I: Assioma II: Assioma III: se A e B sono incompatibili ( ) 5 Corollari La probabilità dell evento impossibile è La probabilità che non si verifichi A è Siano A e B due eventi qualsiasi: 6 3

4 Probabilità congiunta L evento corrisponde all occorrenza congiunta degli eventi A e B. La probabilità congiunta dei due eventi si indica con 7 Eventi statisticamente indipendenti Quando il verificarsi dell evento A non influisce sul verificarsi dell evento B, si dice che i due eventi sono statisticamente indipendenti. In questo caso, vale il seguente risultato: 8 4

5 Probabilità condizionata È la probabilità dell evento A condizionata al verificarsi dell evento B. È definita nel seguente modo: Se A e B sono statisticamente indipendenti: 9 Probabilità condizionata Esempio (lancio di un dado): qual è la probabilità che esca un numero minore o uguale a 3, dato che è uscito un numero dispari? A = {1, 2, 3} B = {1, 3, 5} P{ A, B} P{1,3} 2 / 6 P{ A B} = = = = P{ B} P{1,3,5} 3/

6 Teorema della probabilità totale Sia A 1,, A N una partizione dello spazio campione La probabilità di un qualsiasi evento B vale: 11 Teorema di Bayes Vale la seguente relazione: Se A e B sono eventi statisticamente indipendenti, allora è immediato verificare che 12 6

7 Esperimento di Bernoulli È un esperimento causale avente due possibili risultati, successo (S) e insuccesso (I). È caratterizzato dalla probabilità di successo p. La probabilità di insuccesso vale quindi 1 p. 13 Esercizio 1 Un giocatore di basket deve eseguire 3 tiri liberi. La probabilità che centri il canestro è p = Calcolare la probabilità che il giocatore segni 3 punti. 2. Calcolare la probabilità che il giocatore segni 2 punti. 14 7

8 Esercizio 1 (cont.) L esperimento può essere considerato come l esecuzione di 3 esperimenti di Bernoulli consecutivi indipendenti con probabilità di successo p = 0.8. Lo spazio campione è costituito dalle 8 possibili combinazioni di successo (1) e insuccesso (0) S = {000, 001, 010, 100, 011, 101, 110, 111} La probabilità che il giocatore centri il canestro per 3 volte è P 3 = P{111} = p 3 = Esercizio 1 (cont.) La probabilità che il giocatore segni due punti può essere ottenuta come la somma di 3 termini P 2 = P P P 110 dove P 011 = (1 p) p 2 è la probabilità che il giocatore sbagli il primo tiro ed esegua correttamente gli altri due. Analogamente, P 101 = p (1 p) p = P 011 e P 110 = p 2 (1 p) = P 011 Si ottiene P 2 = 3 (1 p) p 2 =

9 Esercizio 2 Calcolare la probabilità che esca il numero 53 sulla ruota del lotto di Venezia. Calcolare la probabilità che esca il numero 53 su almeno una delle ruote del lotto. 17 Esercizio 2 (cont.) Considerando una sola ruota, lo spazio campione S consiste di tutte le possibili quintuple non ordinate di valori interi compresi tra 1 e 90: Il numero di quintuple non contenenti il numero 53 è Quindi, la probabilità che non esca il 53 è 18 9

10 Esercizio 2 (cont.) Infine, la probabilità che esca il 53 è 19 Esercizio 2 (cont.) La probabilità che non esca il 53 su alcuna delle 10 ruote vale Quindi la probbailità che il 53 venga estratto su almeno una ruota vale 20 10

11 Esercizio 3 In una biblioteca sono contenuti n I = 5 libri in italiano, n F = 7 in francese e n E = 10 in inglese. Calcolare la probabilità che, estraendo due libri a caso, siano in due lingue diverse. Suggerimento: 21 Esercizio 3 (cont.) Lo spazio campione S consiste di tutte le possibili coppie di libri. Di tutte le possibili coppie di libri consistono di entrambi i libri in italiano consistono di entrambi i libri in francese consistono di entrambi i libri in inglese

12 Esercizio 3 (cont.) La probabilità di scegliere due libri scritti nella stessa lingua vale dunque Infine: 23 Esercizio 4 In un gruppo di r persone, qual è la probabilità che almeno due persone festeggino il compleanno lo stesso giorno? Supporre che tutti gli anni siano di 365 giorni

13 Esercizio 4 (cont.) Lo spazio campione è costituito da 365 r possibili risultati. La probabilità che tutte le r persone compiano gli anni in giorni diversi è 365 r! r P{ D} = r 365 La probabilità che almeno due persone compiano gli anni lo stesso giorno è 1 P{ D} 25 Esercizio 5 Una sequenza di n simboli binari (bit) è trasmessa su un canale. Per ogni bit trasmesso, il canale commette errore con probabilità p. Gli eventi {errore sul bit i-esimo} e {errore sul bit j-esimo} sono indipendenti se i j. X 1 p 1 1 Tale modello è chiamato canale binario simmetrico. 0 p p 1 p 0 Y 26 13

14 Esercizio 5 (cont.) Analiticamente, si descrive il canale nel seguente modo Calcolare la probabilità che il canale introduca k o più errori nella trasmissione degli n bit. 27 Esercizio 5 (cont.) La trasmissione di n bit equivale all esecuzione ripetuta di n esperimenti casuali di Bernoulli indipendenti con probabilità di successo 1 p. La probabilità di avere esattamente i errori vale dove è il numero di sequenze binarie con esattamente i errori e p i (1-p) n-i è la probabilità che si verifichi una sequenza con i errori

15 Esercizio 5 (cont.) Poiché, se i j, si ha { i errori} { j errori} = La probabilità di avere k o più errori vale infine 29 Esercizio 6 Un codice a ripetizione di rate 1/3 consiste nel ripetere ciascun bit d ingresso 3 volte. Ogni blocco di 3 bit viene trasmesso su un canale binario simmetrico con probabilità di errore p = Il decodificatore, nel caso in cui i tre bit non siano tutti uguali, decide a maggioranza. Calcolare la probabilità di errore del sistema di trasmissione

16 Esercizio 6 (cont.) Si ha errore quando, in un blocco di 3 bit, 2 bit sono affetti da errore, oppure tutti i bit sono affetti da errore: 31 Variabile casuale Una variabile casuale (VC) è una funzione reale definita sullo spazio campione: a ciascun punto s S la VC fa corrispondere un valore reale = ξ(s). Per ogni numero reale, l insieme {s: ξ(s) = } è un evento. Per ogni intervallo ( 1, 2 ), l insieme {s: ξ(s) [ 1, 2 ]} è un evento

17 Variabile casuale (cont.) Esempio 1: lancio di una moneta. Si può associare all evento {testa} ({T}) il valore 0 e all evento {croce} ({C}) il valore 1. Si ottiene una variabile casuale discreta binaria. 33 Variabile casuale (cont.) Esempio 2: lancio di un dado. Si può associare al punto s i = {è uscito il numero i} il valore = ξ(s i ) = i. Si ottiene una variabile casuale discreta

18 Variabile casuale (cont.) Esempio 3: misura di resitenza. Si può associare l evento {il risultato della misura è r} al valore = ξ(r) = r. Si ottiene una variabile casuale continua. 35 Distribuzione cumulativa È una funzione reale definita nel seguente modo: Proprietà: Estremi: F è monotona non decrescente: 36 18

19 Distribuzione cumulativa (cont.) Esempio 1 (cont.): lancio di una moneta. P{T} = ½ P{C} = ½ 1 F ξ () Distribuzione cumulativa (cont.) Esempio 2 (cont.): lancio di un dado. P{è uscita la faccia i} = 1/6 1 F ξ ()

20 Distribuzione cumulativa (cont.) Esempio 3 (cont.): misura di resistenza. La distribuzione cumulativa è una funzione continua. R 0 : valore nominale della resistenza F ξ () 1 0 R 0 39 Densità di probabilità È una funzione reale definita nel seguente modo: Significato: è la probabilità dell evento 40 20

21 Densità di probabilità (cont.) Proprietà: Non negativa: Legami con la distribuzione cumulativa: 41 Densità di probabilità (cont.) Esempio 1 (cont.): lancio di una moneta. P{T} = ½ P{C} = ½ f ξ () ½

22 Densità di probabilità (cont.) Esempio 2 (cont.): lancio di un dado. P{è uscita la faccia i} = 1/6 f ξ () 1 / Densità di probabilità (cont.) Esempio 3 (cont.): misura di resistenza. La densità di probabilità è una funzione continua. R 0 : valore nominale della resistenza f ξ () 0 R

23 Densità di probabilità (cont.) Data una VC con densità di probabilita f ξ (), la probabilità dell evento {a < ξ < b} vale f ξ () 0 a b 45 Valor medio Il valor medio (o valore atteso) di una VC è definito nei seguenti modi VC discreta cha assume i valori i : VC continua con densità di probabilità f ξ (): 46 23

24 Valor medio (cont.) Esempio 1 (cont.): lancio di una moneta. P{T} = ½ P{C} = ½ f ξ () ½ Valor medio (cont.) Esempio 2 (cont.): lancio di un dado. P{è uscita la faccia i} = 1/6 f ξ () 1 /

25 Valor medio (cont.) Esempio 3 (cont.): misura di resistenza. È necessario conoscere l espressione analitica della densità di probabilità Se f ξ (R 0 + ) = f ξ (R 0 ), R +, il valor medio è R 0. f ξ () 1 0 R 0 49 Varianza La varianza di una VC è definita nel seguente modo: Fornisce informazioni su quanto la funzione densità di probabilità è concentrata intorno al suo valor medio. La grandezza è il valor quadratico medio, e coincide con la varianza per le VC il cui valore atteso è nullo

26 Varianza (cont.) VC discreta cha assume i valori i : 2 2 [( ξ E[ ξ ]) ] = ( E[ ξ ]) P{ ξ = E } VC continua con densità di probabilità f ξ (): 2 [( ξ E[ ξ ]) ] = i i i 2 E ( E[ ξ ]) f ( ) d ξ 51 Varianza (cont.) Esempio 1 (cont.): lancio di una moneta. P{T} = ½ P{C} = ½ ½ f ξ ()

27 Varianza (cont.) Esempio 2 (cont.): lancio di un dado. P{è uscita la faccia i} = 1/6 f ξ () 1 / Varianza (cont.) Esempio 3 (cont.): misura di resistenza. È necessario conoscere l espressione analitica della densità di probabilità e il valor medio di ξ. f ξ () 0 R

28 Densità uniforme Densità di probabilità uniforme in [a,b] f ξ () 1 / (b-a) 1 a F ξ () b a b 55 Densità uniforme (cont.) Valor medio: Varianza 56 28

29 Densità uniforme - esempi Variabile casuale ξ distribuita uniformemente in [5, 12]: 57 Densità di Bernoulli Un esperimento ha probabilità di successo p e probabilità di insuccesso 1 p Tipicamente, si associa all evento {successo} il valore 1 e all evento {insuccesso} il valore 0 Le funzioni distribuzione cumulativa e denstià di probabilità valgono 58 29

30 Densità binomiale Eseguendo n esperimenti di Bernoulli indipendenti con probabilità di successo p, la probabilità di ottenere esattamente k successi vale Definendo la VC ξ come il numero di successi, si ottiene 59 Densità Gaussiana Densità di probabilità Gaussiana (o normale) N(µ, σ 2 ) La funzione erf() è chiamata funzione errore

31 Densità Gaussiana (cont.) Esempio: densità Gaussiana (o normale) µ: valor medio σ : deviazione standard σ 2 : varianza f ξ () σ = 0.5 σ = 1 σ = 2 µ 61 Densità Gaussiana (cont.) Data una VC ξ Gaussiana con media µ e deviazione standard σ, la probabilità dell evento {ξ > a} è data da La funzione erfc() = 1 erf() è la funzione errore complementare 1 0 F ξ () µ a 62 31

32 Distribuzione cumulativa congiunta di due VC Date due VC ξ 1 e ξ 2, si definisce la funzione reale dove 63 Distribuzione cumulativa congiunta di due VC (cont.) Proprietà: Osservando che {ξ 2 < 1} è l evento certo, si ha Analogamente Inoltre 64 32

33 Densità di probabilità congiunta di due VC Date due VC ξ 1 e ξ 2, si definisce la funzione reale La densità di probabilità marginale rispetto a ξ 1 è ottenibile integrando la congiunta rispetto a 2 : 65 Distribuzione cumulativa e densità condizionate Data una VC ξ, si definisce la distribuzione cumulativa di ξ condizionata all evento A come La corrispondente densità di probabilità condizionata vale 66 33

34 Distribuzione cumulativa e densità condizionate (cont.) Esempio: se A è l evento {ξ a}, si ottiene F ξ ( ξ a) f ξ ( ξ a) 1 0 a 0 a 67 Esercizio 7 Una VC ξ ha la seguente densità di probabilità: 1 f ξ ( ) = [ u( 1) u( 3) ] 2 dove u() è la funzione gradino unitario Verificare che f ξ () sia una densità di probabilità. Calcolare la funzione distribuzione cumulativa. Calcolare inoltre la probabilità dei seguenti eventi: (1) (2) (3) (4) { ξ 4} { ξ 2} { ξ 1} {2 ξ 5 2 } 68 34

35 Esercizio 7 (cont.) Una funzione densità di probabilità deve soddisfare la seguente proprietà: Nel nostro caso: 69 Esercizio 7 (cont.) La distribuzione cumulativa può essere calcolata come F ( ) ξ = P{ ξ } = f = ξ ( y) dy 70 35

36 Esercizio 7 (cont.) 71 Esercizio 8 Una VC ξ ha la seguente densità di probailità: Calcolare la probabilità dei seguenti eventi: Calcolare inoltre 72 36

37 Esercizio 8 (cont.) (1) (2) (3) Infine: Riferimenti bibliografici [P] [G] G. Prati, Videocorso Teoria dei Segnali R. Gaudino, Appunti sulle esercitazioni relative alla Teoria dei Segnali, Comunicaz_elettr_richiami.pdf [BB] S. Benedetto, E. Biglieri, Teoria della Probabilità e Variabili Casuali, Bollati Boringhieri, Torino,