Introduzione alla teoria della probabilità Teoria della probabilità Primi sviluppi nel XVII secolo (Pascal( Pascal, Fermat, Bernoulli); Nasce nell ambito dei giochi d azzardo; d La prima formalizzazione rigorosa si deve a Laplace (1812). 8 e 10 novembre 2011 Statistica sociale 2 1
Teoria della probabilità Prima di cominciare a parlare di probabilità, è utile riprendere alcune nozioni sugli insiemi; La teoria della probabilità,, infatti, è tutta basata sugli insiemi,, che, nel linguaggio probabilistico, si chiameranno eventi. 8 e 10 novembre 2011 Statistica sociale 3 Insieme Un insieme è una collezione di oggetti diversi tra loro, e generalmente non ordinati, del tipo: A = {a 1, a 2,..., a n } Un insieme che non contiene elementi si chiama insieme vuoto: = { } 8 e 10 novembre 2011 Statistica sociale 4 2
Operazioni con gli insiemi 8 e 10 novembre 2011 Statistica sociale 5 Operazioni con gli insiemi 8 e 10 novembre 2011 Statistica sociale 6 3
Unione e intersezione di insiemi 8 e 10 novembre 2011 Statistica sociale 7 Insieme complementare di A 8 e 10 novembre 2011 Statistica sociale 8 4
Insieme complementare di A (detto anche non A ) A 8 e 10 novembre 2011 Statistica sociale 9 Alcune definizioni spazio campione (o spazio campionario, o spazio degli eventi) = insieme di tutti gli esiti possibili di un esperimento aleatorio; punti campione = elementi di evento = sottoinsieme dello spazio campione (semplice o complesso), in simboli E uno spazio campione è discreto se contiene un numero finito di elementi o se è un insieme infinito numerabile; uno spazio campione è continuo se contiene una infinità non numerabile di punti. 8 e 10 novembre 2011 Statistica sociale 10 5
Un evento può essere: certo quando si presenta con certezza: in questo caso l evento coincide con lo spazio campione (E = ); impossibile quando non può mai verificarsi: in questo caso coincide con l insieme vuoto (E = ); semplice quando non può essere scomposto ulteriormente: coincide con un punto dello spazio campionario complesso (o composto) quando è dato da un insieme di eventi semplici, cioè da un sottoinsieme E di, E 8 e 10 novembre 2011 Statistica sociale 11 La teoria della probabilità La teoria della probabilità si occupa del comportamento degli esperimenti aleatori. Che cos è un esperimento aleatorio? 8 e 10 novembre 2011 Statistica sociale 12 6
Esperimento aleatorio Un esperimento aleatorio è un esperimento il cui esito non può essere predetto con certezza prima di essere eseguito. 8 e 10 novembre 2011 Statistica sociale 13 Esperimento aleatorio vs esperimento deterministico In questo, un esperimento aleatorio si differenzia rispetto agli esperimenti deterministici, come ad esempio gli esperimenti della fisica classica (es. caduta di un grave, ecc.), il cui esito può essere predetto con certezza praticamente assoluta. 8 e 10 novembre 2011 Statistica sociale 14 7
Esperimento aleatorio vs esperimento deterministico - Lanciare una moneta e osservare l'esito che produce (testa o croce), oppure -Lasciare cadere un grave e misurare il tempo che impiega a raggiungere il suolo Sono entrambi esperimenti. 8 e 10 novembre 2011 Statistica sociale 15 Esperimento deterministico Se l'esperimento consiste nella misurazione del tempo impiegato da un grave a raggiungere il suolo, se conosciamo le condizioni iniziali del sistema e risolviamo le equazioni del moto, è possibile predire con esattezza lo stato del sistema, in ogni suo istante. 8 e 10 novembre 2011 Statistica sociale 16 8
Esperimento aleatorio Se l'esperimento consiste nel lancio di una moneta, non è possibile stabilire con certezza se l'esito di un singolo lancio sarà testa o croce. 8 e 10 novembre 2011 Statistica sociale 17 Lo spazio campione (o spazio campionario) Come già accennato, l insieme costituito da tutti gli eventi elementari che costituiscono i risultati possibili di un esperimento aleatorio si dice spazio campione (o spazio campionario, o spazio degli eventi) e ciascun evento semplice si dice punto campione. 8 e 10 novembre 2011 Statistica sociale 18 9
Esempio: lancio di un dado Nel caso dell'esperimento costituito dal lancio di un dado, lo spazio campione è l insieme dei punti campione corrispondenti ai sei eventi elementari, cioè alle sei facce del dado e i, con i = 1, 2,, 6: = {e 1, e 2, e 3, e 4, e 5, e 6 } Ciascuno degli esiti possibili che costituiscono lo spazio campione si chiama punto campione 8 e 10 novembre 2011 Statistica sociale 19 Esempio = {e 1, e 2, e 3, e 4, e 5, e 6 } e 1 e 5 e 3 e 2 e 4 e 6 8 e 10 novembre 2011 Statistica sociale 20 10
Esempio: estrarre una carta Nel caso dell esperimento estrarre una carta da un mazzo, lo spazio campione è costituito dalle 52 carte del mazzo. = {1, 2,, 13} X {Cuori, Quadri, Fiori, Picche} 8 e 10 novembre 2011 Statistica sociale 21 Spazi campione finiti e infiniti Si possono distinguere tre tipi di spazio campione: spazio campione finito spazio campione infinito numerabile spazio campione infinito non numerabile 8 e 10 novembre 2011 Statistica sociale 22 11
Spazio campione finito Lo spazio campione finito è costituito da un numero finito di elementi. 8 e 10 novembre 2011 Statistica sociale 23 Esempio: il lotto Un urna contiene 90 palline numerate. Per l esperimento estrazione di una pallina dall urna, lo spazio campione sarà finito e sarà costituito da 90 punti campione, ciascuno dei quali corrisponde a una delle palline. 8 e 10 novembre 2011 Statistica sociale 24 12
Spazio campione infinito numerabile Lo spazio campione infinito numerabile è uno spazio campione infinito nel quale a ogni punto campione può essere associato un numero naturale. 8 e 10 novembre 2011 Statistica sociale 25 Spazio campione infinito non numerabile Si dice infinito non numerabile uno spazio campione i cui eventi semplici sono tali per cui, fissati due di essi, è sempre possibile determinarne almeno un terzo intermedio. Ad esempio, l insieme dei numeri reali R, o un suo sottoinsieme, è uno spazio campione non numerabile. 8 e 10 novembre 2011 Statistica sociale 26 13
Spazi campione discreti e continui Lo spazio campione si dice discreto se è uno spazio finito o infinito numerabile. Lo spazio campione si dice continuo se è uno spazio infinito non numerabile. 8 e 10 novembre 2011 Statistica sociale 27 Evento Si dice evento l insieme costituito da uno o più dei possibili risultati di un esperimento aleatorio. 8 e 10 novembre 2011 Statistica sociale 28 14
Eventi Eventi elementari Eventi complessi 8 e 10 novembre 2011 Statistica sociale 29 Eventi elementari Gli eventi elementari sono costituiti da uno solo dei possibili risultati di un esperimento aleatorio. 8 e 10 novembre 2011 Statistica sociale 30 15
Eventi complessi (o composti) Gli eventi complessi sono costituiti da più di uno dei possibili risultati di un esperimento aleatorio. Un evento complesso può sempre essere scomposto in eventi elementari. Se un evento non risulta ulteriormente scomponibile, allora è un evento elementare. 8 e 10 novembre 2011 Statistica sociale 31 Eventi complessi Nello spazio campione associato a un esperimento aleatorio, un evento composto corrisponde ad un insieme che contiene più di un punto campione. Un evento è un sottoinsieme dello spazio campionario. 8 e 10 novembre 2011 Statistica sociale 32 16
Esempio Dato l esperimento costituito dal lancio di un dado, viene definito l'evento A: si osserva un numero dispari. A={1,3,5} A è un evento complesso. 8 e 10 novembre 2011 Statistica sociale 33 Esempio Nel caso dell esperimento lancio di un dado, viene definito l'evento E 2 : si osserva la faccia 2. A={2} Dato che tale evento corrisponde a un solo punto dello spazio campione, E 2 è un evento elementare. 8 e 10 novembre 2011 Statistica sociale 34 17
Ancora sugli eventi Dati due eventi A e B, essi si dicono: Incompatibili o disgiunti quando non hanno alcun elemento in comune: A B = Compatibili quando hanno almeno un punto campione in comune: A B Complementari quando sono disgiunti e la loro unione dà luogo allo spazio campione: A B = In questo caso B si dice complementare di A e si indica con A C 8 e 10 novembre 2011 Statistica sociale 35 Eventi 8 e 10 novembre 2011 Statistica sociale 36 18
Spazio probabilizzato Una volta descritto lo spazio campione di cui disponiamo, il passo che dobbiamo fare adesso consiste nell associare delle misure, che chiameremo probabilità, a ciascuno degli eventi del nostro spazio campione. 8 e 10 novembre 2011 Statistica sociale 37 Spazio probabilizzato Uno spazio probabilizzato si costruisce assegnando una numero reale P, chiamato probabilità, a ciascun evento dello spazio campione. 8 e 10 novembre 2011 Statistica sociale 38 19
Spazio probabilizzato Arrivati a questo punto, dobbiamo quindi capire che cosa si intende con la nozione di probabilità. 8 e 10 novembre 2011 Statistica sociale 39 Probabilità: : tre definizioni Storicamente, la teoria della probabilità non è stata in grado di produrre una definizione univoca di probabilità,, accettata da tutti. Le definizioni di probabilità sono tre: 1) la definizione classica (Pascal( Pascal); 2) la definizione frequentista (Von( Mises); 3) la definizione soggettivista o bayesiana (De Finetti) 8 e 10 novembre 2011 Statistica sociale 40 20
Definizione classica (Pascal) Se un evento si può verificare in N modi mutuamente esclusivi e tutti ugualmente probabili, se m di questi possiedono una caratteristica E, la probabilità di E è il rapporto tra il numero di casi favorevoli e il numero totale dei casi possibili P(E) = = casi favorevoli / casi possibili = = m / N Esempio: lancio di un dado. Se il dado non è truccato, ognuna delle 6 facce ha la stessa probabilità di uscire: 1/6, perché i casi possibili sono 6, e non c è una faccia che sia più probabile delle altre. 8 e 10 novembre 2011 Statistica sociale 41 Pro e contro della definizione classica Problemi della definizione classica: 1) non sempre posso dire che gli eventi sono equiprobabili (esempio: il dado è truccato); 2) il numero di casi deve essere finito. Aspetti positivi: - è una definizione immediatamente operativa: - Infatti, posso determinare la probabilità facendo uso del calcolo combinatorio. 8 e 10 novembre 2011 Statistica sociale 42 21
Esempio 8 e 10 novembre 2011 Statistica sociale 43 Definizione frequentista (o a posteriori) Von Mises Si ripete un esperimento N volte e se un evento con una certa caratteristica E si verifica m volte, la frequenza relativa di successo sarà data da: f(e) = frequenza assoluta di E / numero di ripetizioni = = m / E Solo apparentemente la formula è uguale a quella Della definizione classica; in realtà, in questo caso, la frequenza relativa di E è soltanto una stima della vera probabilità P(E) 8 e 10 novembre 2011 Statistica sociale 44 22
Definizione frequentista (o a posteriori) Nella concezione frequentista della probabilità, per probabilità di un evento si intende il limite a cui tende la frequenza relativa delle prove in cui l evento si verifica (frequenza relativa dei casi favorevoli ), quando il numero di prove, tutte effettuate nelle stesse condizioni, tende all infinito: P( E) lim N f ( E) lim N m N p 8 e 10 novembre 2011 Statistica sociale 45 Problemi della definizione frequentista In situazioni concrete, il passaggio al limite su cui si basa la definizione è di difficile o impossibile attuazione: le prove sono troppe! Non è sempre possibile assicurare l invarianza delle condizioni in cui si realizzano le prove. 8 e 10 novembre 2011 Statistica sociale 46 23
Esempio Vogliamo calcolare la probabilità che un giocatore di basket faccia canestro effettuando un tiro libero. La frequenza relativa NON può essere assunta come probabilità se i vari tiri non sono stati realizzati NELLE STESSE CONDIZIONI!! E, come sappiamo, molto difficilmente un giocatore è nelle stesse condizioni durante tutta la partita! 8 e 10 novembre 2011 Statistica sociale 47 Definizione soggettivista (De Finetti) Secondo la concezione soggettivista della probabilità,, la probabilità è il grado di fiducia,, espresso soggettivamente, rispetto al verificarsi dell evento; evento; Tale grado dipende da quanto si è disposti a scommettere sull evento (prezzo equo per la scommessa); A differenza delle altre concezioni probabilistiche, quella soggettiva non crede che la probabilità sia una proprietà degli oggetti osservati (esperimenti), ma crede invece che sia una proprietà insita nell osservatore, che giudica sempre sulla base delle sue conoscenze: Probabilità ontologica VS Probabilità epistemica La differenza tra le due concezioni è profonda: Un evento non è più o meno probabile: sono io che giudico più o meno probabile un evento. 8 e 10 novembre 2011 Statistica sociale 48 24
Problemi della definizione soggettivista I detrattori della concezione soggettivista ritengono, ovviamente, che la formulazione di una probabilità soggettiva non sia sufficientemente obiettiva. 8 e 10 novembre 2011 Statistica sociale 49 Come è stato risolto il problema delle tre definizioni? Le differenti concezioni della probabilità non hanno mai portato a un accordo ; Tuttavia, il lavoro di Andrei Nikolaevich Kolmogorov, portò nel 1933 alla formulazione assiomatica della teoria della probabilità. 8 e 10 novembre 2011 Statistica sociale 50 25
La formulazione assiomatica Come era avvenuto per altre discipline (es. l aritmetica, l con gli assiomi di Peano), Kolmogorov decise di non occuparsi dei fondamenti della probabilità ( che cosa è la probabilità à ) ma di occuparsi invece di fondare una solida teoria che funzionasse comunque, a prescindere da quale fosse la concezione probabilistica. 8 e 10 novembre 2011 Statistica sociale 51 La formulazione assiomatica Per fare ciò, Kolmogorov fissò TRE assiomi, cioè tre nozioni intuitive,, non dimostrabili, che fossero accettate da tutti, senza considerare minimamente questa o quella concezione probabilistica. Tutte e tre le concezioni probabilistiche, infatti, soddisfano i tre assiomi di Kolmogorov. 8 e 10 novembre 2011 Statistica sociale 52 26
La formulazione assiomatica Ancora oggi, infatti, si studia una unica teoria della probabilità à,, che vale sempre, qualunque sia la concezione probabilistica; Le varie concezioni possono dare luogo a determinati casi particolari e arricchimenti della teoria; ma la teoria di fondo, comunque, rimane sempre la stessa. 8 e 10 novembre 2011 Statistica sociale 53 Gli assiomi di Kolmogorov Nel caso di uno spazio campione finito, un numero reale P(A), chiamato probabilità di A, può essere assegnato a ciascun evento A (dove A è un sottoinsieme di ) se i seguenti assiomi vengono rispettati: 8 e 10 novembre 2011 Statistica sociale 54 27
Assioma 1 La probabilità è un numero reale maggiore o uguale a zero. P A 0 8 e 10 novembre 2011 Statistica sociale 55 Assioma 2 La probabilità dell evento certo è pari a 1. P 1 8 e 10 novembre 2011 Statistica sociale 56 28
Assioma 3: additività Se A 1, A 2,, A m sono eventi incompatibili in, cioè se: A i A j = i j, allora la probabilità dell evento unione è pari alla somma selle singole probabilità. P A 1 A2... Am P A i m i 1 8 e 10 novembre 2011 Statistica sociale 57 Assioma 3: additività 8 e 10 novembre 2011 Statistica sociale 58 29
Spazio probabilizzato (o spazio probabilistico) Torniamo adesso alla nozione di spazio probabilizzato; In sostanza, uno spazio probabilizzato è dato dalla terna: (,, B, P) Dove: è lo spazio campione; B è l insieme delle parti di,, cioè l insieme di tutti i possibili sottoinsiemi di P è la probabilità assegnata a ogni possibile evento compreso in 8 e 10 novembre 2011 Statistica sociale 59 Spazio probabilizzato Unica condizione: La probabilità P deve rispettare gli assiomi di Kolmogorov. 8 e 10 novembre 2011 Statistica sociale 60 30
Regole probabilistiche Dai tre assiomi di Kolmogorov discendono alcuni importanti teoremi sulla probabilità,, che sono poi diventate le regole (o leggi) probabilistiche. 8 e 10 novembre 2011 Statistica sociale 61 Legge della somma Il terzo assioma di Kolmogorov ci dice già come comportarci quando gli eventi sono disgiunti (incompatibili); Cosa accade, invece, nel caso più generale, in cui invece gli eventi sono compatibili (cioè la loro intersezione non è vuota)? 8 e 10 novembre 2011 Statistica sociale 62 31
Legge della somma Se A B P A B P A P B P A B 8 e 10 novembre 2011 Statistica sociale 63 Esempio Vogliamo calcolare la probabilità che il risultato del lancio di un dado sia un multiplo di 3 oppure un numero maggiore di 4. I due eventi che compongono l evento l unione E sono compatibili: 8 e 10 novembre 2011 Statistica sociale 64 32
Vogliamo calcolare la probabilità dell evento evento unione 8 e 10 novembre 2011 Statistica sociale 65 Se consideriamo separatamente i due eventi, abbiamo che: 8 e 10 novembre 2011 Statistica sociale 66 33
Infine: 8 e 10 novembre 2011 Statistica sociale 67 Probabilità condizionata e indipendenza stocastica Esempio: un urna contiene 15 palline rosse e 5 nere. Vogliamo calcolare la probabilità di ottenere in 2 estrazioni consecutive senza reinserimento una pallina rossa e poi una nera: A= estraggo una pallina rossa p(a)=15/20=3/4 B= estraggo una pallina nera La probabilità di estrarre una nera dopo aver estratto una rossa è 5/19, perché i casi possibili adesso sono diventati 19. Cioè: la conoscenza dell evento A ha ridotto la dimensione dello spazio campionario. 8 e 10 novembre 2011 Statistica sociale 68 34
Probabilità condizionata Dati due eventi A e B, si dice probabilità di B condizionata ad A, e si scrive: P(B A), la probabilità di B calcolata nel caso in cui si sia verificato A. Naturalmente, si presume che l evento A sia in grado di condizionare B, cioè che NON sia stocasticamente indipendente da A. 8 e 10 novembre 2011 Statistica sociale 69 La probabilità condizionata L osservazione empirica che abbiamo fatto nell esempio esempio appena visto ci permette di introdurre la formula della probabilità condizionata: P( B A) P( A B) P( A) 8 e 10 novembre 2011 Statistica sociale 70 35
La probabilità composta Dalla formula della probabilità condizionata, possiamo ricavare direttamente una regola per calcolare, in generale, la probabilità di un evento composto. In generale, se vogliamo ottenere la probabilità del verificarsi composto di due eventi, si deve applicare la regola del prodotto : P( A B) P( A) P( B A) 8 e 10 novembre 2011 Statistica sociale 71 La probabilità composta Nel nostro esempio: P(A B) = P(A)*P(B A) = 3/4*5/19=15/76 8 e 10 novembre 2011 Statistica sociale 72 36
Un altro esempio 8 e 10 novembre 2011 Statistica sociale 73 La probabilità composta 8 e 10 novembre 2011 Statistica sociale 74 37
Come si può ottenere questo valore? Possiamo quindi effettuare il calcolo con la formula: 2 1 2 P( E2 E1) P( E1 ) P( E2 E1) 3 2 6 8 e 10 novembre 2011 Statistica sociale 75 Indipendenza stocastica Dalla nozione di probabilità condizionata deriva anche la nozione di indipendenza stocastica; Se, infatti, si ha: P(A B A B) ) = P(A) Si dice che i due eventi, A e B, sono tra loro stocasticamente indipendenti. 8 e 10 novembre 2011 Statistica sociale 76 38
Regola del prodotto nel caso di indipendenza stocastica Se e solo se A e B sono stocasticamente indipendenti, dalla regola del prodotto generale, si ricava la relazione: P(A B)= P(A)P(B) Che è anche una definizione alternativa di indipendenza stocastica. 8 e 10 novembre 2011 Statistica sociale 77 Una misura della dipendenza tra A e B Dati due eventi, A e B, non stocasticamente indipendenti,, la quantità: Dip(A,B) = P(A B) - P(A)P(B) Si dice dipendenza tra A e B. Ovviamente, se i due eventi sono stocasticamente indipendenti, si avrà: Dip(A,B) = 0 8 e 10 novembre 2011 Statistica sociale 78 39