IL CONCETTO DI FENOMENO ALEATORIO

Transcript

1 IL CONCETTO DI FENOMENO ALEATORIO Osservazione di Fenomeni Naturali (fisici, chimici,...) Sociali (economici, finanziari, psicologici,...) sui quali è difficile fare una previsione a causa di meccanismi molto complessi che li regolano. 1

2 Esempio: IL CONCETTO DI FENOMENO ALEATORIO Tutti sappiamo che una goccia di pioggia cade sempre. Ma se si studia la sua velocità o si cerca di stabilire il punto esatto di caduta la risposta è tutt altro che univoca. Considerando una seconda goccia, pure se osservata con la massima accuratezza, difficilmente si avrà un risultato compatibile o univoco. Fenomeno Aleatorio 2

3 INCERTEZZA DEL RISULTATO Momentanea - (concetto di probabilità soggettiva ) Esempio: l esito di una partita che si giocherà questa sera Fisica e Tecnologica Esempio: stabilire istante per istante posizione, velocità e accelerazione di un insieme di corpi. Esempio: le molecole di un gas meccanica statistica Intrinseca Esempio: principio di indeterminazione di Heisenberg (1927) meccanica quantistica Psicologica e sociologica Esempio: quanto la pubblicità incide sulla vendita di un prodotto 3

4 IL METODO STATISTICO Alle domande come: Quanto è casuale o aleatorio il risultato a cui si è pervenuti e che fiducia riporre in esso? Quanto si può scommettere sulla validità dell ipotesi A rispetto a B con un rischio accettabile? Si può rispondere solo all interno di una logica probabilistica ( matematica dell incerto ) definendo metodi statistici in grado di pervenire a leggi generali partendo dall osservazione di tanti casi singoli o dall analisi del grado di fiducia. 4

5 IL METODO STATISTICO Trasformare un PROBLEMA REALE (non trattabile deterministicamente) in un PROBLEMA STATISTICO 5

6 ESEMPI DI PROBLEMI STATISTICI Problemi connessi al monitoraggio e alla misura di un parametro (serie storiche) - Temperatura - Livello dei bacini fluviali - Cambio euro-dollaro - Come evolve nel tempo il prezzo delle azioni della società X nella borsa Y - Problemi di marketing Problemi connessi alla misure di variazioni - Tolleranze di fabbricazione - Stabilità di un mercato azionario - accuratezza di un sistema - accuratezza di un processo produttivo 6

7 ESEMPI DI PROBLEMI STATISTICI Problemi nella trasmissione di segnali: - Ricezione di informazione in presenza di disturbi (es. rumore) - Decodifica di segnali segreti (crittografia) Problemi psicologici, sociologici, economici di dipendenza: - Legame tra professione e possesso di beni - Legame tra livello scolastico e livello di benessere - Dipendenza delle vendite dagli investimenti pubblicitari - Dipendenza di una malattia dall età del soggetto Problema della dipendenza statistica e della correlazione 7

8 ESEMPI DI PROBLEMI STATISTICI Problemi di stima: - Determinazione della popolazione nel Valutazione annua e previsione dell inflazione - Calcolo del fabbisogno finanziario di uno Stato in un dato anno finanziario Problema della previsione statistica 8

9 Un esempio reale Lancio di due dadi con le facce numerate da 1 a 6 e scommessa sulla somma X dei valori sulle due facce superiori indicate con Y 1 e Y 2 : 1 ( ), Y ( 1,2,3,4,5,6) Y 1,2,3,4,5,6 2 X = Y1+ Y2 X ( 2,3,4,...,11,12) Domanda: Conviene scommettere su X = 7 piuttosto che su X = 10? 9

10 Approccio Sperimentale Si effettuano N lanci (prove) e si contano il numero di occorrenze di ciascuna faccia. Si riportano i risultati in un diagramma a barre. Ad esempio per N = 50: Diagramma a barre della frequenza assoluta 10

11 Su 100 lanci (prove) si ottiene: Diagramma a barre della frequenza assoluta 11

12 Su 500 lanci (prove) si ottiene: Diagramma a barre della frequenza assoluta 12

13 Su 1000 lanci (prove) si ottiene: Diagramma a barre della frequenza assoluta 13

14 Su lanci (prove) si ottiene: Si vede che al crescere delle prove la frequenza assoluta si stabilizza mostrando un andamento triangolare con massimo per X = 7. Conviene scommettere sul 7. 14

15 Su lanci (prove) si ottiene: Si vede che al crescere delle prove la frequenza assoluta si stabilizza mostrando un andamento triangolare con massimo per X = 7. Conviene scommettere sul 7. 15

16 Considerazioni sull esempio del lancio di due dadi Alla faccia di un singolo dado associamo un valore numerico: variabile aleatoria discreta 1 ( ) Y 1,2,3,4,5,6 Caratterizzazione del secondo dado: stesso comportamento del primo, ma nuova variabile Y 2 indipendente dalla precedente ( ) Y 1,2,3,4,5,6 2 Dado non truccato o regolare: concetto di variabilità uniforme (modello uniforme). Dado truccato : il risultato è sbilanciato su una faccia (modello non uniforme) 16

17 Dado NON truccato: Variabilità Uniforme Per un dado non truccato il numero di occorrenze atteso per ogni faccia, su N prove, è costante e pari a N / se N =

18 Dado truccato: Variabilità non Uniforme In questo caso il dado è sbilanciato a favore delle facce con numerazione inferiore. 18

19 Considerazioni sull esempio del lancio di due dadi (continua) Modello probabilistico di un oggetto fisico. Nell esempio del dado regolare, normalizzando il numero di occorrenze rispetto al numero di prove, ci si aspetta di ottenere 1/6 quando N

20 Considerazioni sull esempio del lancio di due dadi (continua) X è definito dalla somma: X = Y1+ Y2, cioè la variabile X è funzione di una coppia di variabili ( Y,Y 1 2). Dopo aver osservato e contato tutti i valori assunti da X è necessario un Test Statistico per verificare l adattamento del modello alla realtà, cioè ai dati osservati. 20

21 Probabilità nel continuo Esempio: Una freccia raggiunge un bersaglio nel punto P, indicando con X e Y le coordinate di P, la distanza dal centro del bersaglio è Lanciando N frecce sul bersaglio con centro nell origine: 2 2 R = X + Y. P(X,Y) 21

22 Diagramma a barre della frequenza assoluta di R (distanza dal centro) 22

23 Aumentando il numero di prove 23

24 Diagramma a barre della frequenza assoluta di R Il diagramma a barre tende ad una curva continua se il numero N di prove tende ad infinito e la larghezza delle barre è presa sempre più piccola. 24

25 Diagramma a barre della frequenza assoluta di R Il diagramma a barre tende ad una curva continua se il numero N di prove tende ad infinito e la larghezza delle barre è presa sempre più piccola. 25

26 Esempio applicativo o Istallazione di un traliccio sul tetto dell edificio di Ingegneria dell Informazione per la posa dell antenna di una stazione di riferimento differenziale GPS. o Problema: Il vento (fenomeno aleatorio) se fa oscillare il traliccio altera le misure. o Impiego dei dati misurati dalla stazione meteo sperimentale (Edificio di Ingegneria Industriale Prof. A. Spena) per progettare il traliccio destinato al sostegno dell antenna. 26

27 (Dati gentilmente forniti dal Prof. A. Spena e dalla Dott.ssa C. Cornaro) 27

28 Esempio: Capacità di Canale, Banda e Rumore Il limite teorico C della cadenza di bit che si può trasmettere senza Ps errori in funzione della banda del canale B e del rapporto tra la Pn potenza ricevuta P s e la potenza di rumore P n, è: P s C = B log2 1+ bit/s Pn Claude E. Shannon,

29 Capacità di Canale, Banda e Rumore 29

30 IL MODELLO PROBABILISTICO REALTÀ = Componente Osservabile + Componente NON Osservabile VEDERE la realtà (osservazioni, acquisizioni, misure) CAPIRE la realtà all interno di una impostazione probabilistica nella quale l esistente è esaminato in rapporto a ciò che poteva accadere o che verosimilmente accadrà. AGIRE sulla realtà per raggiungere scopi predefiniti. La descrizione e la comprensione orientate verso l azione generano il modello definito in funzione di una finalità operativa. 30

31 IL MODELLO PROBABILISTICO DATI ANALISI STATISTICA MODELLO CALCOLO DELLE PROBABILITÀ MODELLO MATEMATICO PER LA VALUTAZIONE IN CONDIZIONI DI INCERTEZZA (Esempio: Controllo del Traffico Aereo) 31

32 Definizione di fenomeno aleatorio M E TO D I S T A TI S T I C I MISURE O RILEVAMENTI SINTESI DI DATI INFORMAZIONI ANALISI PROBABILISTICA MONDO ESTERNO AZIONI PREVISIONE PER PROGETTO O VERIFICA PROBABILITÀ DI EVENTI DI INTERESSE Calcolo delle probabilità e statistica: connessioni operative nel lavoro dell ingegnere 32

33 Richiami di teoria degli Insiemi Definizione di Insieme: Una riunione in tutto di oggetti ben distinti (Cantor) (collezione) Classe: estensione di una proprietà P A p Insieme universale (S oppure Ω ): riunisce tutti gli insiemi Insieme vuoto ( ): non contiene alcun elemento 33

34 Classificazione degli Insiemi Insiemi Finiti Infiniti Infinito numerabile Infinito non numerabile 34

35 Rappresentazione degli Insiemi Diagrammi di Venn S S S A A B A B A B A B Rappresentazione Unione di due insiemi Intersezione di due dell'insieme A di due insiemi 35

36 Operazioni sugli insiemi E (E- F) E F A A Insieme Complementare Differenza F E E (E F) ( E F) ( F E) F E F- E F F Differenza Differenza Simmetrica 36

37 Principali proprietà delle operazioni tra insiemi [commutatività] A B= B A A B= B A [associatività] ( A B) C = A ( B C) ( A B) C = A ( B C) [idempotenza] A A= A A A= A [distributività] A ( B C) = ( A B) ( A C) A ( B C) = ( A B) ( A C) A = A S = S A S = A A = A Teoremi di De Morgan: A B = A B A B = A B 37

38 Corrispondenza tra operazioni su insiemi e logica booleana Operazioni su Insiemi Operazione corrispondente nella logica booleana Nome Simbolo nome Simbolo Simbolo Unione Circuitale Somma + A Z (OR) B Intersezione Prodotto A (AND) B Z Complementare A,A', A c Negazione A, A di A (NOT) Differenza EΔ F OR E F A simmetrica esclusivo B Z (XOR) A B Z

39 Rappresentazione di una Partizione dell insieme A S A B1 B2 B4 B5 B3 B A = B1 B2 B3 B4 B5 i B = i, j 5 i j j 39

40 Richiami di Calcolo combinatorio Esempio Quante parole di m = 3 lettere possono essere scritte utilizzando solo le N = 5 vocali? (esempio: aoe, iii, uaa,...) Attraverso un diagramma ad albero è facile verificare che si possono scrivere 5 5 5= 125 parole di tre lettere. In generale vale il seguente principio Se una scelta può essere fatta in r modi diversi, per ciascuno dei quali una seconda scelta può essere effettuata in s modi diversi, e, per ciascuno dei modi in cui si sono compiute le prime due scelte, una terza scelta può essere effettuata in t modi diversi (così a seguire ) allora la successione di tutte le scelte può essere compiuta in r t s modi diversi. 40

41 Calcolo combinatorio Esempio Se 6 persone si vogliono mettere in fila da sinistra a destra, in quanti modi diversi possono farlo? Formulazione equivalente: Se 6 persone arrivano contemporaneamente ad uno sportello, in quanti modi diversi possono mettersi in coda? Per il primo posto abbiamo 6 possibilità, per il secondo 5 possibilità,, per l ultimo posto 1 possibilità. Le 6 persone possono mettersi in fila (coda) in = 720 = 6! modi diversi. In generale vale il seguente principio Dati n oggetti, essi si possono "mettere in fila" (o mettere in coda, o mettere in colonna ) in n! modi diversi. Dove: n! = n ( n 1) ( n 2 )

42 Calcolo combinatorio Esempio In una classe di 25 alunni, si devono scegliere 6 "volontari" per l interrogazione. In quanti modi può essere effettuata la scelta? Gruppi di 6 alunni che si possono estrarre dai 25. In questo esempio l ordine con cui si presentano i 6 alunni nel gruppo non è rilevante, cioè tutti i gruppi ordinati costituiti dagli stessi ragazzi contano una sola volta Combinazioni 42

43 Richiami di calcolo combinatorio Le disposizioni Le disposizioni (inglese: permutations) di N oggetti presi "ad m ad m" sono i gruppi ordinati (configurazioni) ottenuti prendendo in un dato ordine m oggetti su N. Il numero di tali disposizioni è indicato con N D. m 43

44 Disposizioni di tre oggetti a, b, c (N = 3) N m CONFIGURAZIONI D m 1 a, b, c 3 2 ab, ac, bc, 6 ba, ca, cb 3 abc, acb, bac, 6 bca, cab, cba ab e ba costituiscono due disposizioni distinte 44

45 Le Disposizioni (segue) Per ricavare una espressione per N D m, si procede per induzione: N N 2 1 N D1 = N ( ) ( ) D = D N 1 = N N 1 N N 3 2 ( ) ( )( ) D = D N 2 = N N 1 N 2 N m ( ) ( ) D = N N 1... N m + 1 Nel caso m = N si hanno le permutazioni (o permutazioni semplici): N N ( )( ) D = N! = N N 1 N Esempio: numero di nomi di siti Web con tre lettere distinte D = i ( 3 i 26 = ) 45

46 Le combinazioni Le combinazioni di N oggetti presi "ad m ad m" sono i gruppi non ordinati di m oggetti presi da un insieme di N oggetti. Il loro numero è indicato con N C m. Combinazioni di tre oggetti a, b, c (N = 3) N m CONFIGURAZIONI C m 1 a, b, c 3 2 ab, ac, bc 3 3 abc 1 46

47 Legame tra Disposizioni e Combinazioni La relazione tra il numero di disposizioni ed il numero di combinazioni è e quindi C N m D N m = m! C N m ( ) ( )! N N N 1 N m+ 1 N = m = = m! m!( N m)! N C m uguaglia il coefficiente binomiale dello sviluppo del binomio Si intende che: Esempio: N = 1 0 N a+ b = a b m= 0 m ( ) D3 C3 = = 2 i 600 3! N N m N m. 47

48 Il coefficiente binomiale I coefficienti N m sono rappresentati da (triangolo di Tartaglia): Esempio: (N = 1) 1 1 (N = 2) (N = 3) (N = 4) Combinazioni delle 26 lettere dell alfabeto a gruppi di 10: 26 C10 = 5 i i, D 26! = esplosione combinatoria. 48

49 Esperimenti ed Eventi Esperimento casuale È un procedimento di osservazione (misura di una tensione, riconoscimento di una carta, etc.) dello stato finale del sistema sottoposto ad un processo, che si suppone ripetibile un numero illimitato di volte con le stesse modalità di esecuzione. Risultato dell esperimento È lo stato finale del sistema, specificato dai parametri che in un dato esperimento vengono presi in esame. 49

50 Insieme Universale (o Spazio Campione S) ( * ) È l'insieme di tutti i risultati possibili di un esperimento casuale, può essere finito o infinito. Prova Ogni esecuzione dell'esperimento prende il nome di prova. Evento Un evento è un insieme di risultati ed è pertanto un insieme appartenente ad S (un sottoinsieme di S). ( * ) Spesso l Insieme Universale è indicato con Ω. 50

51 Eventi particolari L'evento impossibile è quello che non si verifica in nessuna prova. L'evento certo è quello che si verifica in ogni prova. Esempio: Nell'esperimento costituito dall'estrazione di una carta, l evento certo è l'estrazione di uno qualsiasi dei quattro semi: cuori, quadri, fiori, picche; l evento impossibile è l'estrazione di una carta che non esiste. 51

52 Esperimento: lancio di un dado y Esperimenti ed Eventi - ESEMPIO Tavolo y 0 Si possono definire gli eventi semplici a) Faccia del dado: [ 1,2,3,4,5,6] 0 x x 0 b) La coppia di numeri reali ( x 0,y 0) che individua la posizione baricentro sul tavolo 52

53 Operazioni sugli eventi Il complementare di un evento A o "negato" A (cioè il non verificarsi di A) è un evento. A = { Tutti gli elementi di S che ad A}. L'unione di più eventi è un evento composto da tutti i risultati che costituiscono i singoli eventi. Per due eventi A e B si scrive A anche A + B. B o L'intersezione di più eventi è un evento composto dai soli risultati comuni a tutti gli eventi. Per due eventi A e B si scrive A A B. B o anche La differenza di due eventi A e B (si scrive A B) è un evento composto dai risultati di A che non fanno parte di B. 53

54 Operazioni sugli eventi A B A C Spazio Campione S lancio di un dado A c A: Faccia pari B: Faccia multipla di tre C: A intersezione B = faccia 6 54

55 Eventi incompatibili Due eventi sono incompatibili se la loro intersezione è l evento impossibile (è nulla), cioè gli eventi non hanno elementi (risultati) in comune. Si scrive A B =. A B S 55

56 Numero di eventi definibili Dato un esperimento con N possibili risultati (la cardinalità di S vale N), il numero di eventi definibili eguaglia il numero di sottoinsiemi dello spazio campione S: Esempio: 2 N (inclusi e S) Se un esperimento ammette 3 risultati: A, B, C, possiamo definire, oltre all evento impossibile { }, i 3 eventi semplici: { A }, { B }, { C } ed i 4 eventi composti: { A + B}, { A + C}, { B + C}, { A B C}

57 Campi Il risultato di operazioni (unione, intersezione, complementazione) su eventi è ancora un evento. La classe degli eventi costituisce quindi un campo o algebra, cioè un insieme chiuso rispetto alla somma (o unione), al prodotto (o intersezione) ed alla complementazione. Nello specificare un esperimento casuale occorre definire la classe degli eventi in modo che il risultato di somme, prodotti e complementazioni di eventi sia ancora un evento. Tale aspetto è poco rilevante dal punto di vista ingegneristico. 57

58 Esempio di risultati Esperimento: lancio di una freccia contro il piano YZ (bersaglio). Eventi definibili: i punteggi ( i 0,1,2,3) sottoinsiemi di S: f i =, e costituiti dai seguenti {( ) 2 + ( ) 2 > 2 } f : z z y y R Z Z0 R2 R1 f3 R0 f0 { 2 < ( ) 2 + ( ) 2 2 } f : R z z y y R Y0 Y { 2 < ( ) 2 + ( ) 2 2 } f : R z z y y R {( ) 2 + ( ) 2 2 } f : z z y y R X 58

59 Il concetto di probabilità Nel corso della storia, il concetto di probabilità è stata oggetto di numerose interpretazioni. Storicamente il concetto di probabilità di un evento si è sviluppato in diversi contesti, a partire dai giochi d'azzardo, seguendo due filoni principali: descrizione di una proprietà oggettiva dell'evento; rappresentazione del grado di fiducia nutrito nel verificarsi dell'evento. 59

60 Il concetto di Probabilità - Esempi (a) Probabilità come descrizione di una proprietà oggettiva dell evento. Esempio la probabilità di ottenere 4 lanciando due dadi Dado Spazio Campione Dado 1 (b) Probabilità come grado di fiducia nel verificarsi di un evento: - Valore delle Azioni di una Società nella giornata di domani - Superamento di un esame universitario 60

61 Il concetto di probabilità (segue) Le quattro interpretazioni più significative sono le seguenti: Assiomatica (Kolmogorov, 1933); Frequentista (Von Mises e Laplace); Classica (principio della ragione insufficiente, H. Bernoulli, 1713); Soggettiva (De Finetti). 61

62 La teoria assiomatica La teoria assiomatica, introdotta da A. N. Kolmogorov nel 1933 si basa sulla definizione di alcune caratteristiche (assiomi) che deve possedere la probabilità P( A ) dell evento A. Riferimento bibliografico A. N. Kolmogorov, Concetti fondamentali di teoria della probabilità a cura di Luigi Accardi, Edizioni TEKNOS, Roma,

63 La teoria assiomatica (segue) Essa deve soddisfare i seguenti tre assiomi: I. P( A ) è un numero non negativo: P( A) 0 II. L'evento certo S ha probabilità unitaria: P( S) = 1 III. Se due eventi A e B non hanno elementi comuni (sono incompatibili o disgiunti ) la probabilità dell'evento unione è uguale alla somma delle probabilità dei singoli eventi P( A B) = P( A) + P( B) 63

64 La teoria assiomatica (segue) L'assioma III. comporta che, se A 1,A 2,...,A N sono disgiunti ( ) = ( ) + ( ) + + ( ) P A A... A P A P A... P A 1 2 N 1 2 N Ciò va esteso al caso di un numero infinito di eventi: ( ) ( ) ( ) P A A... = P A + P A (assioma III. bis dell'additività infinita). 64

65 L interpretazione frequentista Si effettua, per un numero N di volte e sempre nelle medesime condizioni, un esperimento in cui si può osservare se l evento d interesse si è verificato oppure no. La frequenza relativa f ( ) N A di un evento A è il rapporto tra il numero di volte n( A ) in cui si è verificato l evento A ed il numero N di prove dell'esperimento: N f N ( A) ( ) n A N ( ) ( ) f A P A N 65

66 L interpretazione frequentista (segue) La frequenza relativa gode delle seguenti proprietà: La frequenza relativa dell'evento certo è unitaria f ( S) = 1 La frequenza relativa di un qualsiasi evento A è non negativa f ( A) 0 Se A e B sono eventi incompatibili si ha f ( A+ B) = f ( A) + f ( B) dato che A e B non possono presentarsi simultaneamente. 66

67 La definizione classica La probabilità di un evento A è il rapporto tra i possibili risultati favorevoli all'evento A, n( A ), ed il numero N dei possibili risultati: ( ) p A n( A) Osservazione: n( A ) ed N non sono i risultati effettivi di un esperimento, ma i possibili risultati di esso, cioè sono la cardinalità di A (numero di elementi di A) e di S rispettivamente. N 67

68 La definizione classica (continua) La definizione classica presenta delle ambiguità e conduce a risultati non corretti nel caso in cui i vari risultati possibili non siano equiprobabili. Principio della ragione insufficiente Si deve inserire nella definizione classica la condizione che i diversi risultati possibili siano equiprobabili. 68

69 Applicazione della definizione classica al lancio di due dadi Es.: Nel lancio di due dadi calcolare la probabilità che la somma sia 7. Soluzione 1 Soluzione 2 Soluzione 3 Possibili risultati Possibili risultati Possibili risultati 2, 3,..., 7,..., possibilità Risultati favorevoli 7 1 risultato p 1 11 = NO! Coppie (1+1), (1+2),..., (6+6) 21 possibilità (non distinguendo tra primo e secondo dado) Risultati favorevoli (1+6), (2+5), (3+4) 3 risultati 3 1 p = = NO! 21 7 Coppie (1+1), (1+2),...,(6+6) 36 possibilità (distinguendo tra primo e secondo dado) Risultati favorevoli 1+6, 6+1,2+5,5+2,3+4,4+3 : 6 risultati 6 1 p = =

70 Critiche alla definizione classica La definizione classica di probabilità fa uso del concetto di equiprobabile, cioè del concetto stesso che dovrebbe definire. L'assegnazione dei valori di probabilità secondo la definizione classica non tiene conto dell'esperienza. A volte la condizione di equiprobabilità non ha giustificazioni logiche a priori se non la ragione insufficiente e può essere solamente estrapolata dall'esperienza. L'utilizzo della definizione classica è limitato ai casi in cui i possibili risultati sono equiprobabili e conduce ad ambiguità quando i possibili risultati sono infiniti. 70

71 Considerazioni sulle definizioni di probabilità Teoria assiomatica della probabilità: Pregio: consente uno sviluppo completo e privo di contraddizioni ed è possibile considerare oggetti ai quali attribuire opportuni modelli probabilistici (dado). Limite: nulla dice in ordine ai valori numerici delle probabilità. Teoria frequentista della probabilità: Pregio: permette di ricavare valori di probabilità non in contraddizione col metodo assiomatico e inoltre di gettare un primo ponte verso la statistica. Limite: i valori di probabilità sono ricavati per N finito. 71

72 Il Paradosso di Bertrand Dato un cerchio C di raggio r si deve trovare la probabilità p che una corda AB, selezionata a caso, sia più lunga della lunghezza (pari a r 3) del lato del triangolo equilatero iscritto. 72

73 Soluzione n. 1 del paradosso di Bertrand 2 r π 4 1 p = = 2 π r 4 A r/2 M r B 73

74 Soluzione n. 2 del paradosso di Bertrand Arco DE 2πr / 3 1 p = = = Circonferenza 2πr 3 B E A 74

75 Soluzione n. 3 del paradosso di Bertrand GH r 1 MH = MG = r / 2 p = = = FK 2r 2 F G A M r/2 B r/2 H K 75

76 Il Paradosso di Bertrand Il paradosso deriva dalla imprecisa definizione dell'esperimento contenuta nella frase: "selezionare a caso una corda AB" che dà adito a tre interpretazioni diverse e quindi a tre esperimenti diversi. 76

77 Probabilità condizionata ed indipendenza Legame tra eventi: per valutare quantitativamente questa dipendenza si introduce il concetto di probabilità condizionata. Se A e B sono due eventi di uno spazio campione S, con P( B) 0 si definisce la probabilità condizionata di A rispetto a B (o probabilità di A dato B ), e si indica con P( A B ), il rapporto: ( ) P A B = ( ) ( ) P AB P B A B S (AB è l evento intersezione di A con B) 77

78 Probabilità condizionata - Esempio Lanciando due dadi (uno rosso e uno nero), si vuole ricavare la probabilità che la somma delle facce sia 3 dato che (condizionata a) il dado rosso presenti la faccia 1, 2, 3. N = valore della faccia del dado nero; R = valore della faccia del dado rosso; S = somma: S = R+ N; P ( S = 3 R = 3) = 0 1 P( S = 3 R = 2) = 6 1 P( S = 3,R = 1) 1 P( S = 3 R = 1) = = 36 = P( R = 1)

79 Esempio (segue) In grigio l evento { S = 3} In tratteggio gli eventi condizionanti: { R = 1,R }{ = 2,R }{ = 3} Dado nero 6 5 R=1R=2 R=3 Spazio Campione Dado rosso 79

80 Probabilità condizionata di eventi particolari Se A e B sono incompatibili, allora P A B = 0 AB = ( ) Se A B allora A B S AB = A P( A B) Se B A allora ( ) ( ) P A = P B ( ) P A A B S A AB = B P( A B) = 1 (infatti se si verifica B, si verifica sicuramente anche A). B S 80

81 La probabilità condizionata secondo l'interpretazione della frequenza relativa Se si ripete N volte l'esperimento casuale e si indica con n( A ), n( B ) e n( AB ) rispettivamente il numero di volte in cui si presenta l'evento A, l'evento B e ed entrambi: ( ) P A B ( ) n AB P( AB) = N = P( B) n( B) N ( ) ( ) n AB n B Quindi, la probabilità condizionata di A rispetto a B è uguale, approssimativamente, alla frequenza relativa con cui si presenta l'evento A nella successione di prove in cui si verifica l'evento B. 81

82 Proprietà della probabilità condizionata I) P( A B) 0 II) P( S B) = 1 La probabilità dell unione di due eventi, dato un terzo evento M, gode della seguente proprietà: III) Se AB = allora ( + unione,. Intersezione) 1 P( A + B M) = P( A M) + P( B M) = P( A M) P( B M) P M + M ( ) A B S 82

83 Fattorizzazione delle probabilità congiunte Nel caso di due eventi: P( AB) = P( A ) P( B A) = P( B) P( A B) Nel caso di tre eventi: P( ABC) = P( C BA) P( BA) = P( C BA) P( B A) P( A) Per N eventi: ( 1 2 N) ( N 1 N 2 1) ( N N 1 N 2 1) P( A A ) P( A A A ) P( A A A A ) P A A A = P A A A P A A A A = = = = N 2 1 N 1 N 2 1 N N 1 N = P( A ) P( A A )... P( A A A A ) P( A A A A) N 1 N 2 N 3 1 N N 1 N

84 Eventi indipendenti Due eventi A e B si dicono statisticamente indipendenti se e solo se la probabilità della loro intersezione si fattorizza nel prodotto delle loro probabilità: P( AB) = P( A) P( B) Gli eventi A 1,A 2,...,A N si dicono mutuamente statisticamente indipendenti se e solo se la probabilità dell'intersezione di un qualunque loro insieme è uguale al prodotto delle probabilità di ogni evento in questo insieme: ( ) ( ) ( ) ( ) k k k = k k k P A A A P A P A P A 1 2 r 1 2 r r:1< r N 1 ki N 84

85 Esempio di eventi indipendenti e dipendenti B,,, 1 1 R 1 R 2 A R 3 R 4 S Condizione di indipendenza: 1 85

86 Prove Indipendenti e Dipendenti - Esempi Nell esperimento del lancio di due monete (due lanci consecutivi o un lancio contemporaneo di entrambe) è ragionevole pensare che il presentarsi di testa o croce su una moneta non modifichi le probabilità sull altra. (Indipendenza tra le prove) Nella estrazione di due palline da un urna con reinserimento della pallina estratta, per l estrazione della prima pallina tutti i risultati possibili sono equiprobabili così come per la seconda estrazione che è una replica della precedente. (Indipendenza tra le prove) Nella estrazione di due palline da un urna senza reinserimento della pallina estratta, per la seconda estrazione si modifica lo stato del sistema, e quindi lo spazio campione S in relazione alla pallina estratta precedentemente. (Dipendenza tra le prove) 86

87 Prove Indipendenti - Esempio Un urna contiene 9 palline Nere e 1 pallina Bianca. Si estraggono in successione due palline con reinserimento della prima estratta. Si vince se almeno una delle due palline è bianca. Calcolare la probabilità di vittoria Prima Estrazione: P( B) = P( N) 9 = 10 La seconda estrazione opera sullo stesso sistema, e quindi è una replica della precedente. 87

88 Quindi si ha: Prove Indipendenti - Esempio (segue) ( ) P B 1 10 = P( N) 9 = 10 ( ) ( ) ( ) ( ) P Vincere = P B,B + P B,N + P N,B = = + + = Si può calcolare la probabilità di vincere anche come: 9 9 P( Vincere) = 1 P( Perdere) = 1 P( N,N ) = 1 =

89 Prove Dipendenti - Esempio Un urna contiene 9 palline Nere e 1 pallina Bianca. Si estraggono in successione due palline senza reinserimento della pallina estratta. Si vince se almeno una delle due palline è bianca. Calcolare la probabilità di vittoria Prima Estrazione: P( B) = P( N) 9 = 10 Seconda estrazione: P( B B) = 0 P( N B) = 1 ( ) P B N 1 9 = P( N N) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) P Vincere = P B,B + P B,N + P N,B = P B P B B + P B P N B + P N P B N = = = P( Vincere) = 1 P( Perdere) = 1 P( N,N ) = 1 = =

90 Indipendenza di eventi e probabilità condizionata Se A e B sono indipendenti allora ( ) P A B ( ) P B A ( ) ( ) ( ) ( ) P( B) = P AB P A P B P A P B = = ( ) ( ) ( ) ( ) P( A) ( ) = P AB P A P B P B P A = = Si può dire che "se due eventi sono indipendenti il condizionamento di un evento dall'altro non ne altera la probabilità". ( ) Il concetto di indipendenza statistica è fondamentale: esso rende la teoria della probabilità qualcosa di più di una semplice teoria della misura. 90

91 Probabilità dell Unione di eventi Disgiunti A B B A B A B PA ( + B)= PA ( ) + PB ( - A) = PA ( ) + PB ( ) - PAB ( ) Per eventi indipendenti P( A+ B) = P( A) + P( B) P( A) P( B) 91

92 Rappresentazione di una Partizione dello Spazio Campione S S A 1 A 2 A 3 B A 4 A 5 A S = A1 A2 A3 A4 A5 i A = i, j 5 i j j 92

93 Teorema della probabilità totale La probabilità di un evento B definito su uno spazio campione S può essere espressa mediante le probabilità condizionate. Teorema: Data una partizione di S negli m eventi disgiunti: A 1,A 2,...,A m (incompatibili) la probabilità P( B ) è: P( B) = P( A ) P( B A ) P( A ) P( B A ) Dimostrazione: 1 1 m m B = B S = B ( A1+ A Am) ( ) ( 1 2 m) ( 1) ( m) P( B A ) P( A )... P( B A ) P( A ) P B = P B A + A A = P B A P B A = = m m 93

94 Esempio: il Canale Numerico Probabilità di Errore Canale Numerico Disturbi Rumore Sorgente Numerica Trasmettitore Canale di Trasmissione Ricevitore a s(t) r(t) â Utente Messaggio Numerico Trasmesso Segnale Portante il Messaggio Segnale Ricevuto Messaggio Numerico Ricevuto Se { â = a} { C} = { Decisione Corretta} Se { â a} { E} = { Decisione Errata} Probabilità di Errore: Prob{ Errore} = P{ E} = 1 P{ C} 94

95 Canale Numerico Si opera una trasformazione tra simboli trasmessi e ricevuti A a i A Canale di Trasmissione Numerico b j B = { } B = { } a,a,...,a 0 1 M 1 b,b,...,b 0 1 M 1 Probabilità a priori : P( a i ) i = 0,1,2,...,M 1 Probabilità congiunte : ( ) Probabilità a posteriori : ( ) Probabilità di transizione : ( ) p a,b i, j = 0,1,2,...,M 1 i i j p a b i, j = 0,1,2,...,M 1 j j p b a i, j = 0,1,2,...,M 1 i 95

96 Sorgente binaria con Canale Numerico binario simmetrico Sorgente binaria Probabilità a priori Probabilità di transizione ( = ) = p( b a ) = 1 ε p( b a ) P a 0 P ( = ) = p( b a ) P a 1 P 1 1 P0 + P1 = 1 P 0 P 1 a = Probabilità di Errore ( ) ( ) ( ) 0 a = ε 1 ε b = 0 b = = ε = ε p( b a ) = 1 ε P E = P p b a + P p b a = P ε + P ε = ε ε ε

97 Prob. di Errore di bit all uscita del Filtro Adattato: PAM M-ario

98 Il teorema di Bayes Discende direttamente da quello della Probabilità Totale. Teorema: Data una partizione A 1,A 2,...,A m di S ed un evento B, la probabilità dello i-esimo evento A i condizionata a B è: Dimostrazione: ( ) P A B i = P( Ai) P( B Ai) ( ) ( ) + + ( ) ( ) P B A P A... P B A P A 1 1 m m La probabilità congiunta di A i e B si può scrivere in due maniere ( i ) = ( i) ( i) ( ) = ( ) ( ) P AB P A P B A P AB P B P A B i i 98

99 Il teorema di Bayes (segue) Combinando queste due espressioni si ottiene ( ) P A B i ( i) P( B Ai) P( B) P A = = = P( Ai) P( B Ai) ( ) ( ) + + ( ) ( ) P A P B A... P A P B A 1 1 m m dove nello scrivere l'espressione a denominatore, si è usato il Teorema della Probabilità Totale. 99

100 Teorema di Bayes - Esempio Un medico sa che un sintomo, indicato con E (es. una febbre associata ad un dato quadro clinico) è l effetto di sole tre malattie: H 1, H 2, H 3. La ricerca medica ha stabilito che: P( E H1 ) = 0.90 ( 2 ) P E H 0.10 = ( ) inoltre le probabilità di contrarre le malattie sono: P( H1 ) = 0.03 ( 2 ) P H 0.70 = ( ) P E H = P H = 0.27 Un paziente mostra il sintomo E, il medico a quale malattia attribuisce la causa? 100

101 Soluzione: Teorema di Bayes - Esempio Bisogna calcolare le: P( H i E ) i = 1,2,3 Calcolo delle probabilità a posteriori ( ) P H E i ( i) P( Hi) P( E) P E H = per i = 1,2,3 ( ) ( ) ( ) ( ) ( ) ( ) ( ) P E = P E H P H + P E H P H + P E H P H = P( H 1 E ) = ( 2 ) P H E = ( ) P H E =

102 Teorema di Bayes - Esempio A priori la malattia 2 H è la più probabile ( ( ) P H = 0.70), ma il sintomo E è con maggiore verosimiglianza associato a H 1 che sembra essere una malattia rara ( P( H1 ) = 0.03). A posteriori (presenza del sintomo) il medico propende per H