Informazione, Entropia e Probabilità
|
|
- Tommasina Tarantino
- 6 anni fa
- Visualizzazioni
Transcript
1 Informazione, Entropia e Probabilità Alessandro Lenci Università di Pisa, Dipartimento di Linguistica Via Santa Maria, 36, Pisa, Italy alessandro.lenci@ilc.cnr.it Linguaggio e comunicazione - LO042 Cosa è un sistema? Un sistema (dinamico) è un insieme di aspetti del mondo che mutano nel tempo lo stato di un sistema al tempo t 1 è il modo in cui si presentano al tempo t 1 gli aspetti che lo compongono l insieme degli stati in cui può trovarsi il sistema è il suo spazio degli stati (state space) Il comportamento di un sistema è il cambiamento nel tempo del suo stato il comportamento di un sistema è una traiettoria nello spazio degli stati
2 Lo spazio degli stati Stati del sistema = {s 1, s 2, s 3, s 4, } s 1 s 4 s 2 s3 Complessità e organizzazione Collier & Hooker 1999 La complessità di un sistema dipende dalla quantità di informazione necessaria per descrivere i suoi stati e il suo comportamento L organizzazione di un sistema dipende dalle interdipendenze e correlazioni tra le sue componenti e dal loro grado di (non) linearità
3 Complessità e organizzazione organizzazione complessità Sistemi semplici e poco organizzati Sistemi complessi e poco organizzati gas Sistemi semplici e mediamente organizzati Sistemi complessi e altamente organizzati cristalli esseri viventi sistemi cognitivi LINGUAGGIO Complessità e informazione Un oggetto complesso richiede più informazione per essere descritto La quantità di informazione necessaria per descrivere un sistema dipende da: la quantità dei suoi stati possibili la regolarità (predicibilità) delle sue dinamiche grado di randomness (casualità) del verificarsi dei suoi stati
4 Incertezza e informazione L informazione è la diminuzione dell incertezza se un evento aleatorio si verifica, abbiamo ottenuto dell informazione più un evento è incerto maggiore è l informazione che otteniamo sapendo che si è verificato L entropia è la misura della quantità di informazione o incertezza di una variabile casuale un sistema può essere descritto come una variabile casuale (W) gli stati possibili del sistema sono i valori della variabile a cui è associata una distribuzione di probabilità p ad ogni istante t i, p fornisce la probabilità che il sistema si trovi in un certo stato La definizione di probabilità Esperimento il processo attraverso cui viene compiuta una certa osservazione lanciare un dado e vedere l esito che produce (il numero ottenuto) un esperimento aleatorio è un esperimento il cui esito non può essere previsto con certezza prima che venga eseguito la teoria della probabilità si occupa di assegnare una probabilità al verificarsi di un evento sulla base di una serie di esperimenti (osservazioni) ripetuti Spazio campione (Ω) l insieme degli esiti (risultati) possibili di un esperimento ciascun esito si chiama punto campione esperimento: lancio di un dado Ω d = {1, 2, 3, 4, 5, 6} esperimento: lancio di una moneta Ω m = {testa, croce}
5 La definizione di probabilità Evento un sottoinsieme A dello spazio campione Ω, i cui elementi si dicono i risultati favorevoli all evento A l insieme di tutti i possibili eventi di Ω si chiama spazio degli eventi (E) i punti campione sono gli eventi elementari Esperimento: lancio di un dado Ω d = {1, 2, 3, 4, 5, 6} evento A = {ottenere un numero pari}evento complesso A = {2, 4, 6} evento B = {ottenere un 6} evento semplice B = {6} evento C = {ottenere un numero compreso tra 1 e 6} C = {1, 2, 3, 4, 5, 6} = Ω d un evento equivalente allo spazio campionario si dice evento certo La definizione di probabilità Dato uno spazio campione Ω, una funzione di probabilità P (distribuzione di probabilità) assegna a ogni evento di Ω un numero reale compreso tra 0 e 1 (P: E [0, 1]) una funzione di probabilità definisce uno spazio probabilistico per Ω Definizione classica di probabilità (a priori) Dato un esperimento in cui Ω è finito e tutti i punti campione sono egualmente verosimili e mutuamente esclusivi, per ogni evento A: P ( A) = A Ω
6 Probabilità classica Esperimento: lancio di un dado (non truccato) Ωd = {1, 2, 3, 4, 5, 6} Ωd = 6 A = {ottenere un 6} A = {6} A = 1 P(A) = A / Ωd = 1/6 = 0, B = {ottenere un numero pari} B = {2, 4, 6} B = 3 P(B) = B / Ωd = 3/6 = 1/2 = 0,5 D = {ottenere un numero maggiore di 6} D = { } D = 0 P(D) = C / Ωd = 0/6 = 0 (evento impossibile) La definizione classica non è appropriata se Ω è infinito o i vari esiti non sono egualmente verosimili Frequenza e probabilità Legge dei Grandi Numeri La frequenza relativa di un evento converge verso la sua vera probabilità con l aumentare del numero degli esperimenti Definizione frequentista di probabilità (empirica o a posteriori) la probabilità di un evento è interpretata come il limite a cui tende la sua frequenza relativa in una serie di repliche dello stesso esperimento f A P( A) = lim n n Esperimento: lancio di un dado (truccato) A = {ottenere un numero pari} f A = numero di volte in cui è stato ottenuto 2, 4 o 6 come esito del lancio n = numero di lanci al crescere di n, P(A) f A /n
7 Incertezza e informazione L entropia è una misura dell incertezza di un sistema misura quanto è difficile predire qual è lo stato del sistema in un certo istante t i Da cosa dipende il grado di incertezza? numero di stati alternativi possibili lancio di un dato = 6 esiti possibili estrazione di una carta = 52 esiti possibili l estrazione di una carta ha un maggior grado di incertezza!! distribuzione delle probabilità per ciascun stato se gli stati hanno probabilità uniforme è più difficile prevedere quale si verificherà in un dato momento (a parità del loro numero) cf. lancio di un dado non truccato vs. lancio di un dado in cui sappiamo che il 6 ha probabilità doppia di uscire degli altri numeri Entropia puntuale L entropia è misurata in bits (cifre binarie) Supponiamo che ad ogni istante t i si debba trasmettere un messaggio per comunicare in quale stato si trova il sistema in t i che il messaggio debba essere in codice binario (una stringa di 0 e 1) Entropia puntuale (informazione) di uno stato numero di bits necessari per trasmettere (= descrivere) che il sistema si trova nello stato s H ( s) = log2 p( s)
8 Entropia In generale, un numero binario di n cifre può codificare al massimo 2 n messaggi un numero binario di 2 cifre può codificare 4 messaggi diversi 00, 01, 10, 11 Se W ha n stati possibili (tutti equiprobabili), il numero di bits necessari per codificare uno stato è log 2 n H(s) = log 2 n se gli stati del sistema sono equiprobabili, p(s) = 1/n e n = 1/p(s) quindi, H(s) = log 2 1/p(s) = - log 2 p(s) se W ha 1 stato possibile, H(s) = 0 bits se W ha 2 stati possibili, H(s) = 1 bits se W ha 4 stati possibili, H(s) = 2 bits Entropia del sistema H ( W ) = s V ( W ) P( s)log2p( s) L entropia di un variabile W è il numero medio di bits necessari per codificare i suoi stati possibili Se W ha n stati possibili equiprobabili l entropia del sistema è uguale all entropia puntuale W = 4 stati equiprobabili (p(s) = 1/4) H(W) = - (1/4*log 2 1/4+1/4*log 2 1/4+1/4*log 2 1/4+1/4*log 2 1/4) H(W) = - (1/4*(-2)+1/4*(-2)+1/4*(-2)+1/4*(-2)) H(W) = - (-1/2-1/2-1/2-1/2) = -(-2) = 2 bits (= log 2 4) L entropia aumenta col crescere del numero degli stati possibili W = 8 stati equiprobabili H(W) log 2 8 = 3 bits
9 Entropia W = estrazione di una parola da un testo (esiti non equiprobabili!!) V(W) = {il, cane, mangia, gatto} p(cane) = 1/4 p(il) = 1/2 p(mangia) = 1/8 p(gatto) = 1/8 H(W) = - (1/4*log 2 1/4 + 1/2*log 2 1/2 + 1/8*log 2 1/8 + 1/8*log 2 1/8) H(W) = - (0,25*(-2) + 0,5 * (-1) + 0,125 * (-3) + 0,125 * (-3)) H(W) = - (-0,5-0,5-0,375 0,375) = 1,75 bits L entropia è il numero medio di bits necessari per descrivere gli stati del sistema L entropia permette di stabilire il codice ottimale per descrivere un sistema gli stati più probabili (più frequenti) sono descritti usando messaggi più corti gli stati meno probabili sono descritti usando messaggi più lunghi Entropia e codice ottimale Codice di Shannon-Fano Stati del sistema = {il, cane, mangia, gatto} p(cane) = 1/4 p(il) = 1/2 p(mangia) = 1/8 p(gatto) = 1/8 Codifica ottimale in bits il = 0 cane = 10 gatto = 110 mangia = 111 L entropia di un sistema che usasse questo tipo di codifica per trasmettere messaggi sarebbe di 1,75 bits
10 Entropia A parità di numero di esiti possibili, meno è uniforme la distribuzione di probabilità e minore è l entropia Entropia e organizzazione L entropia aumenta con l aumentare degli stati possibili di un sistema A parità di stati possibili l entropia diminuisce se aumenta la struttura e l organizzazione del sistema aumenta la predicibilità delle dinamiche del sistema entropia Maggiore ridondanza dell informazione Regolarità nelle dinamiche del sistema Esistenza di schemi e pattern ricorrenti nella sequenza degli stati, ecc.
11 Probabilità congiunte P(A B) oppure P(A,B) probabilità del verificarsi congiunto di due eventi A e B Esperimento: lancio di due dadi Probabilità di ottenere 6 in tutti e due dadi Esperimento: estrazione di due parole da un testo Probabilità di ottenere un verbo e un aggettivo insieme probabilità di eventi congiunti = prodotto di probabilità Il calcolo del prodotto delle probabilità dipende dalla relazione tra i due eventi eventi indipendenti - il verificarsi dell uno non condiziona il verificarsi dell altro eventi dipendenti - il verificarsi dell uno condiziona il verificarsi dell altro Probabilità congiunte eventi indipendenti Due eventi A e B sono indipendenti se e solo se il verificarsi di A non ha nessun effetto sulla possibilità per B di verificarsi, e viceversa Esperimento: lancio di due dadi Qual è la probabilità di ottenere in un lancio 6 in entrambi i dadi? evento A = {1 dado = 6} P(A) = 1/6 evento B = {2 dado = 6} P(B) = 1/6 la probabilità che lanciando i due dadi ottenga 6 in entrambi i casi è dunque uguale a 1/6 di 1/6, ovvero 1/36 P(A,B) = 1/36 = 1/6 * 1/6 = P(A) * P(B) Se due eventi A e B sono indipendenti, allora vale che: P( A, B) = P( A) P( B)
12 Probabilità congiunte eventi non indipendenti Un esempio di eventi non indipendenti estrarre 2 parole consecutive da un testo bigramma = sequenza di 2 parole n-gramma = sequenza di n parole Qual è la probabilità di estrarre un una sequenza <Art, N>? la probabilità di estrarre una parola v 2 (consecutiva a v 1 ) non è indipendente dalla probabilità di estrarre v 1 dipendenze sintattiche, semantiche, ecc. determinate dalla grammatica es. gli articoli tendono a ricorrere davanti ai nomi poiché Art e N non sono indipendenti P(Art, N) P(Art) * P(N) Probabilità condizionata P(A B) probabilità che si verifichi A dato che sappiamo che è avvenuto B se A e B sono dipendenti, il fatto di sapere che B è avvenuto altera la probabilità da assegnare ad A, ovvero P(A) P(A B) esempio -1 tuonare e piovere non sono eventi indipendenti (se tuona generalmente sta per piovere, ovvero in genere al tuono segue la pioggia) P(pioggia tuono) > P(pioggia) esempio 2 la probabilità di estrare un nome da un testo sapendo che la parola che lo precede è un articolo (P(nome articolo)) è maggiore della probabilità semplice di estrarre un nome La probabilità condizionata permette di stimare la probabilità di sequenze di eventi tra i quali esiste un rapporto di dipendenza: P( A B) = P( B) P( A B)
13 Entropia di sequenze di variabili L entropia di una sequenza di eventi è uguale alla somna delle entropie degli eventi singoli: H(W 1,, W n ) = H(W 1 ) + + H(W n ) L entropia di sequenze di variabili è massima nel caso in cui le variabili siano tutte statisticamente indipendenti l entropia della congiunzione delle variabili diminuisce all aumentare della connessione statistica tra le variabili
Ψ PSICOMETRIA. Corso di laurea triennale (classe 34) STATISTICA INFERENZIALE
Ψ PSICOMETRIA Corso di laurea triennale (classe 34) STATISTICA INFERENZIALE STATISTICA INFERENZIALE CAMPIONE caratteristiche conosciute POPOLAZIONE caratteristiche sconosciute STATISTICA INFERENZIALE STIMA
DettagliNOZIONI DI CALCOLO DELLE PROBABILITÀ
NOZIONI DI CALCOLO DELLE PROBABILITÀ ESPERIMENTO CASUALE: un esperimento si dice casuale quando gli esiti (manifestazioni o eventi) non possono essere previsti con certezza. PROVA: le ripetizioni, o occasioni
DettagliLa PROBABILITA è un numero che si associa ad un evento E ed esprime il grado di aspettativa circa il suo verificarsi.
La maggior parte dei fenomeni, ai quali assistiamo quotidianamente, può manifestarsi in vari modi, ma è quasi sempre impossibile stabilire a priori quale di essi si presenterà ogni volta. La PROBABILITA
DettagliSperimentazioni di Fisica I mod. A Statistica - Lezione 3
Sperimentazioni di Fisica I mod. A Statistica - Lezione 3 A Garfagnini, M Mazzocco, C Sada Dipartimento di Fisica G. Galilei, Università di Padova AA 2014/2015 Elementi di Teoria della Probabilità L ineliminabile
DettagliMATEMATICA. a.a. 2014/15
MATEMATICA a.a. 2014/15 5. Introduzione alla probabilità: Definizioni di probabilità. Evento, prova, esperimento. Eventi indipendenti e incompatibili. Probabilità condizionata. Teorema di Bayes CONCETTI
Dettagli3.1 La probabilità: eventi e variabili casuali
Capitolo 3 Elementi di teoria della probabilità Abbiamo già notato come, per la ineliminabile presenza degli errori di misura, quello che otteniamo come risultato della stima del valore di una grandezza
DettagliPer capire qual è l altezza media degli italiani è stato intervistato un campione di 1523 cittadini. La media campionaria dell altezza risulta essere:
PROBABILITÀ E STATISTICA Per capire qual è l altezza media degli italiani è stato intervistato un campione di 1523 cittadini. La media campionaria dell altezza risulta essere: x = 172, 3 cm Possiamo affermare
DettagliLanciando un dado, il tuo compagno esclama: uscirà 1, 2, 3, 4, 5 o 6 oppure: uscirà il numero 4. uscirà il numero 9
Lanciando un dado, il tuo compagno esclama: uscirà 1, 2, 3, 4, 5 o 6 oppure: uscirà il numero 4 o ancora: uscirà il numero 9 Possiamo dire che le previsione del tuo compagno sono la prima certa, la seconda
DettagliIntroduzione al Calcolo delle Probabilità
Introduzione al Calcolo delle Probabilità In tutti quei casi in cui le manifestazioni di un fenomeno (EVENTI) non possono essere determinate a priori in modo univoco, e i risultati possono essere oggetto
DettagliLinguistica Computazionale
Linguistica Computazionale Linguaggio e probabilità 14 ottobre 2014 Probabilità e cognizione The argument for a probabilistic approach to cognition is that we live in a world filled with uncertainty and
DettagliProbabilità. Ing. Ivano Coccorullo
Ing. Ivano Coccorullo PROBABILITA Teoria della Eventi certi, impossibili e casuali Nella scienza e nella tecnologia è fondamentale il principio secondo il quale ogni volta che si realizza un insieme di
DettagliStatistica Inferenziale
Statistica Inferenziale Prof. Raffaella Folgieri Email: folgieri@mtcube.com aa 2009/2010 Riepilogo lezione 1 Abbiamo visto: Definizioni di statistica, statistica inferenziale, probabilità (interpretazione
DettagliLezione 2. La probabilità oggettiva : definizione classica e frequentistica e loro problemi
Lezione 2 La probabilità oggettiva : definizione classica e frequentistica e loro problemi La definizione classica Definizione classica: La probabilità di un evento E è il rapporto tra il numero dei casi
DettagliLezione 1: Università Mediterranea di Reggio Calabria Decisions Lab. Insiemi. La Probabilità Probabilità e Teoria degli Insiemi
Lezione 1: Probabilità e Teoria degli Università Mediterranea di Reggio Calabria Decisions Lab Gli insiemi Gli Un insieme S è una collezione di oggetti chiamati elementi dell insieme. - Se x è un elemento
DettagliFENOMENI CASUALI. fenomeni casuali
PROBABILITÀ 94 FENOMENI CASUALI La probabilità si occupa di fenomeni casuali fenomeni di cui, a priori, non si sa quale esito si verificherà. Esempio Lancio di una moneta Testa o Croce? 95 DEFINIZIONI
DettagliLa probabilità composta
La probabilità composta DEFINIZIONE. Un evento E si dice composto se il suo verificarsi è legato al verificarsi contemporaneo (o in successione) degli eventi E 1, E 2 che lo compongono. Consideriamo il
DettagliProbabilità I Calcolo delle probabilità
Probabilità I Calcolo delle probabilità Nozioni di eventi. Definizioni di probabilità Calcolo di probabilità notevoli Probabilità condizionate Concetto di probabilità Cos'è una probabilità? Idea di massima:
Dettagli1 Ingredienti base del CDP. 2 Denizioni classica e frequentista. 3 Denizione assiomatica. 4 La σ-algebra F. 5 Esiti equiprobabili
1 Ingredienti base del CDP 2 Denizioni classica e frequentista 3 Denizione assiomatica 4 La σ-algebra F 5 Esiti equiprobabili 6 Esperimento casuale 7 Probabilità condizionata Ingredienti base del CDP eventi
DettagliCenni di probabilità
Corso di Laurea in Ingegneria per l Ambiente ed il Territorio Corso di Costruzioni Idrauliche A.A. 2004-05 www.dica.unict.it/users/costruzioni Cenni di probabilità Ing. Antonino Cancelliere Dipartimento
DettagliCalcolo della probabilità
Calcolo della probabilità GLI EVENTI Un evento è un fatto che può accadere o non accadere. Se esso avviene con certezza si dice evento certo, mentre se non può mai accadere si dice evento impossibile.
DettagliProgetto Lauree Scientifiche Liceo Classico L.Ariosto, Ferrara Dipartimento di Matematica Università di Ferrara 24 Gennaio 2012
Progetto Lauree Scientifiche Liceo Classico L.Ariosto, Ferrara Dipartimento di Matematica Università di Ferrara 24 Gennaio 2012 Concetti importanti da (ri)vedere funzione vettore matrice cenni di calcolo
DettagliPROBABILITA. DEFINIZIONE: Ogni singolo risultato di un esperimento casuale si chiama evento elementare
PROBABILITA La teoria della probabilità si applica ad esperimenti aleatori o casuali: ossia, esperimenti il cui risultato non è prevedibile a priori. Ad esempio, lancio di un dado, lancio di una moneta,
DettagliCALCOLO DELLE PROBABILITA' risultato non può essere previsto con certezza ogni risultato possibile di un esperimento
CALCOLO DELLE PROBABILITA' Esperimento o prova Evento Spazio Campionario (Ω) una qualsiasi operazione il cui risultato non può essere previsto con certezza ogni risultato possibile di un esperimento insieme
Dettagli1. Descrivere gli spazi campionari dei seguenti esperimenti casuali: 1. lancio di un dado 2. lancio di due dadi 3.
Corso di Laurea INTERFACOLTÀ - Esercitazione di Statistica n 6 ESERCIZIO 1: 1. Descrivere gli spazi campionari dei seguenti esperimenti casuali: 1. lancio di un dado 2. lancio di due dadi 3. lancio di
DettagliCalcolo delle probabilità
Calcolo delle probabilità Definizione di Spazio Campionario Definizioni di Probabilità Eventi mutuamente esclusivi Eventi indipendenti Principio della somma Principio del prodotto Eventi certi : è certo
DettagliPROBABILITA. Sono esempi di fenomeni la cui realizzazione non è certa a priori e vengono per questo detti eventi aleatori (dal latino alea, dado)
L esito della prossima estrazione del lotto L esito del lancio di una moneta o di un dado Il sesso di un nascituro, così come il suo peso alla nascita o la sua altezza.. Il tempo di attesa ad uno sportello
DettagliProbabilità classica. Distribuzioni e leggi di probabilità. Probabilità frequentista. Probabilità soggettiva
Probabilità classica Distribuzioni e leggi di probabilità La probabilità di un evento casuale è il rapporto tra il numero dei casi favorevoli ed il numero dei casi possibili, purchè siano tutti equiprobabili.
DettagliIntroduzione alla probabilità
Introduzione alla probabilità Osservazione e studio dei fenomeni naturali: a. Caso deterministico: l osservazione fornisce sempre lo stesso risultato. b. Caso stocastico o aleatorio: l osservazione fornisce
DettagliScopo del Corso: Lezione 1. La Probabilità. Organizzazione del Corso e argomenti trattati: Prerequisiti:
Lezione 1 La Probabilità Scopo del Corso: Introduzione alla probabilità e alle procedure di inferenza statistica Introduzione ad alcune importanti tecniche di analisi multivariata dei dati Organizzazione
DettagliCALCOLO DELLE PROBABILITA
CALCOLO DELLE PROBABILITA Italo Nofroni Statistica medica - Facoltà di Medicina Sapienza - Roma Nella ricerca scientifica, così come nella vita, trionfa l incertezza Chi guiderà il prossimo governo? Quanto
DettagliTeoria della probabilità
Introduzione alla teoria della probabilità Teoria della probabilità Primi sviluppi nel XVII secolo (Pascal( Pascal, Fermat, Bernoulli); Nasce nell ambito dei giochi d azzardo; d La prima formalizzazione
DettagliEsperimentazioni di Fisica 1 Elementi di Calcolo delle Probabilità
Esperimentazioni di Fisica 1 Elementi di Calcolo delle Probabilità Università Roma Tre - Dipartimento di Matematica e Fisica 3 novembre 2016 Introduzione La probabilità nel linguaggio comune I E probabile
DettagliEsercitazione del 31/01/2012 Istituzioni di Calcolo delle Probabilità
Esercitazione del 1/01/2012 Istituzioni di Calcolo delle Probabilità Esercizio 1 Vengono lanciati due dadi regolari a 6 facce. (a) Calcolare la probabilità che la somma dei valori ottenuti sia 9? (b) Calcolare
DettagliLezione 3 Calcolo delle probabilità
Lezione 3 Calcolo delle probabilità Definizione di probabilità La probabilità è lo studio degli esperimenti casuali e non deterministici Se lanciamo un dado sappiamo che cadrà ma non è certo che esca il
DettagliEsercizi su variabili aleatorie discrete
Esercizi su variabili aleatorie discrete Esercizio 1. Data la variabile aleatoria discreta X, caratterizzata dalla seguente rappresentazione nello spazio degli stati: 1 0,25 X = { 0 0,50 1 0,25 calcolare
DettagliEsercizi di Calcolo delle Probabilità
Esercizi di Calcolo delle Probabilità Versione del 1/05/005 Corso di Statistica Anno Accademico 00/05 Antonio Giannitrapani, Simone Paoletti Calcolo delle probabilità Esercizio 1. Un dado viene lanciato
DettagliSTATISTICA: esercizi svolti sulle VARIABILI CASUALI
STATISTICA: esercizi svolti sulle VARIABILI CASUALI VARIABILI CASUALI 2 VARIABILI CASUALI. Variabili casuali generiche. Si supponga che un dado truccato, formato da sei facce contrassegnate dai numeri
DettagliElementi di Psicometria con Laboratorio di SPSS 1
Elementi di Psicometria con Laboratorio di SPSS 1 15-La probabilità vers. 1.0a (26 novembre 2014) Germano Rossi 1 germano.rossi@unimib.it 1 Dipartimento di Psicologia, Università di Milano-Bicocca 2014-2015
DettagliLezione 1. La Statistica Inferenziale
Lezione 1 La Statistica Inferenziale Filosofia della scienza Secondo Aristotele, vi sono due vie attraverso le quali riusciamo a formare le nostre conoscenze: (1) la deduzione (2) l induzione. Lezione
DettagliVariabili aleatorie. Variabili aleatorie e variabili statistiche
Variabili aleatorie Variabili aleatorie e variabili statistiche Nelle prime lezioni, abbiamo visto il concetto di variabile statistica : Un oggetto o evento del mondo reale veniva associato a una certa
DettagliProbabilità Condizionale - 1
Probabilità Condizionale - 1 Come varia la probabilità al variare della conoscenza, ovvero delle informazioni in possesso di chi la calcola? ESEMPIO - Calcolare la probabilità che in una estrazione della
DettagliNOZIONI DI CALCOLO DELLE PROBABILITÀ ALCUNE DEFINIZIONI
NOZIONI DI CALCOLO DELLE PROBABILITÀ ALCUNE DEFINIZIONI ESPERIMENTO CASUALE: un esperimento si dice casuale quando gli esiti (manifestazioni o eventi) non possono essere previsti con certezza. PROVA: le
DettagliTEORIA DELL INFORMAZIONE ED ENTROPIA FEDERICO MARINI
TEORIA DELL INFORMAZIONE ED ENTROPIA DI FEDERICO MARINI 1 OBIETTIVO DELLA TEORIA DELL INFORMAZIONE Dato un messaggio prodotto da una sorgente, l OBIETTIVO è capire come si deve rappresentare tale messaggio
Dettaglip. 1/2 INFORMAZIONI Prossime lezioni Giorno Ora Dove 27/01 14:30 P50 29/01 14:30 Laboratorio (via Loredan) 03/02 14:30 P50 05/02 14:30 P50
p. 1/2 INFORMAZIONI Prossime lezioni Giorno Ora Dove 27/01 14:30 P50 29/01 14:30 Laboratorio (via Loredan) 03/02 14:30 P50 05/02 14:30 P50 p. 1/2 INFORMAZIONI Prossime lezioni Giorno Ora Dove 27/01 14:30
DettagliModelli descrittivi, statistica e simulazione
Modelli descrittivi, statistica e simulazione Master per Smart Logistics specialist Roberto Cordone (roberto.cordone@unimi.it) Statistica inferenziale Cernusco S.N., giovedì 18 febbraio 2016 (9.00/13.00)
DettagliStatistica. Motivazioni
Statistica Docente: Massimiliano Grosso Dipartimento di Ingegneria Chimica e Materiali Università degli Studi di Cagliari E-mail: grosso@dicm.unica.it Telefono: 070 675 5075 Web: http://people.unica.it/massimilianogrosso
DettagliNote introduttive alla probabilitá e alla statistica
Note introduttive alla probabilitá e alla statistica 1 marzo 2017 Presentiamo sinteticamente alcuni concetti introduttivi alla probabilitá e statistica 1 Probabilità e statistica Probabilità: Un modello
DettagliUniversità del Piemonte Orientale. Corso di Laurea Triennale di Infermieristica Pediatrica ed Ostetricia. Corso di Statistica Medica
Università del Piemonte Orientale Corso di Laurea Triennale di Infermieristica Pediatrica ed Ostetricia Corso di Statistica Medica Elementi di calcolo delle probabilità CdL Infermieristica Pediatrica ed
DettagliIL CALCOLO DELLE PROBABILITA
IL CALCOLO DELLE PROBABILITA INTRODUZIONE Già 3000 anni fa gli Egizi praticavano un antenato del gioco dei dadi, che si svolgeva lanciando una pietra. Il gioco dei dadi era diffuso anche nell antica Roma,
DettagliProbabilità esempi. Aiutiamoci con una rappresentazione grafica:
Probabilità esempi Paolo e Francesca giocano a dadi. Paolo scommette che, lanciando due dadi, si otterrà come somma 8 oppure 9. Francesca scommette che si otterrà come somma un numero minore o uguale a
DettagliElementi di probabilità
Elementi di probabilità Corso di STATISTICA Ordinario di, Università di Napoli Federico II Professore supplente, Università della Basilicata a.a. 2011/2012 1 Obiettivo dell unità didattica Introdurre gli
DettagliTeorema del limite centrale TCL
Teorema del limite centrale TCL Questo importante teorema della statistica inferenziale si applica a qualsiasi variabile aleatoria che sia combinazione lineare di N variabili aleatorie le cui funzioni
DettagliSTATISTICA e PROBABILITA'
STATISTICA e PROBABILITA' Il problema della misura si pone in termini probabilistici, determinando un intervallo di valori aventi una certa probabilità di essere osservati. E' necessario quindi introdurre
DettagliCALCOLO delle PROBABILITA
Eventi certi : è certo che si verifichino es. il prossimo mese sarà luglio, domani sorgerà il sole Eventi probabili: non è certo che si verifichino es. domani pioverà? Quanti giorni di ricovero avrà quel
DettagliIL CALCOLO DELLE PROBABILITA
IL CLCOLO DLL ROILIT SRIMNTO: si dice deterministico l esperimento il cui risultato è prevedibile con certezza; si dice casuale l esperimento il cui risultato non è prevedibile con certezza. VNTO: si dice
DettagliCalcolo delle probabilità
Calcolo delle probabilità Definizione di Spazio Campionario Definizione di Probabilità Eventi mutuamente esclusivi Eventi indipendenti Pricipio della somma Principio del prodotto Eventi certi : è certo
DettagliLa probabilità matematica
1 La probabilità matematica In generale parliamo di eventi probabili o improbabili quando non siamo sicuri se si verificheranno. DEFINIZIONE. Un evento (E) si dice casuale, o aleatorio, quando il suo verificarsi
DettagliUnità 30. Sommario. Bibliografia. Auto-informazione di un evento Auto-informazione di un esperimento aleatorio Esempi. [Bel] -- [Ros] 9.
Unità 30 Sommario Auto-informazione di un evento Auto-informazione di un esperimento aleatorio Esempi Bibliografia [Bel] -- [Ros] 9.3 [Pap] -- 1 Auto-informazione di un evento Prima di effettuare un esperimento
DettagliPROBABILITA. Nella costruzione dello spazio degli eventi la difficoltà aumenta notevolmente laddove sia necessario fare uso del prodotto cartesiano.
Nella costruzione dello spazio degli eventi la difficoltà aumenta notevolmente laddove sia necessario fare uso del prodotto cartesiano. La costruzione dello spazio cartesiano richiede un grado di astrazione
DettagliPROBABILITA E STATISTICA
PROBABILITA E STATISTICA La nozione di probabilità è stata concepita in modi diversi; GROSSOLANAMENTE le principali sono: Concezione classica: concetto di probabilità come uguale possibilità concezione
DettagliCorso di Statistica. Introduzione alla Probabilità. Prof.ssa T. Laureti a.a
Corso di Statistica Introduzione alla Probabilità Prof.ssa T. Laureti a.a. 2012-2013 1 Introduzione al concetto di probabilità nelle strategie aziendali L azienda che vende articoli di abbigliamento per
DettagliTipi di variabili. Indici di tendenza centrale e di dispersione
Tipi di variabili. Indici di tendenza centrale e di dispersione L. Boni Variabile casuale In teoria della probabilità, una variabile casuale (o variabile aleatoria o variabile stocastica o random variable)
DettagliCalcolo combinatorio
Calcolo combinatorio Fattoriale: n! = n( n 1)( n 2)...1 1 1 n n = 0 Fattoriale discendente: n( n 1)...( n k + 1) n! (n) k = = ( n k)! 1 1 k n k = 0 Coefficiente binomiale (k n) : n (n) = k n! = k k! k!(
DettagliCampionamento La statistica media campionaria e la sua distribuzione. Paola Giacomello Dip. Scienze Sociali ed Economiche Uniroma1
Campionamento La statistica media campionaria e la sua distribuzione 1 Definisco il problema da studiare: es. tempo di percorrenza tra abitazione e università Carattere: tempo ossia v.s. continua Popolazione:
DettagliIl Calcolo delle Probabilità è lo strumento matematico per trattare fenomeni aleatori cioè non deterministici.
INTRODUZIONE L CLCOLO DELLE ROILIT Il Calcolo delle robabilità è lo strumento matematico per trattare fenomeni aleatori cioè non deterministici. Un fenomeno aleatorio o stocastico è un fenomeno i cui esiti
DettagliOPERAZIONI CON GLI EVENTI
LA PROBABILITA GLI EVENTI Definiamo come evento il verificarsi di un avvenimento, situazione o fenomeno; in quest ottica potremmo intuitivamente definire la probabilità come l indice di verosimiglianza
Dettagliprima urna seconda urna
Un po di fortuna Considera il seguente gioco: ci sono due urne contenenti delle palline perfettamente uguali tra loro, ma colorate diversamente, alcune bianche, altre nere. Nella prima urna ci sono una
Dettagliesperimento casuale: è un esperimento condotto sotto l effetto del caso; evento elementare: ciascuno dei possibili esiti di un esperimento casuale;
Capitolo 15 Suggerimenti agli esercizi a cura di Elena Siletti Esercizio 15.1: Suggerimento Si ricordi che: esperimento casuale: è un esperimento condotto sotto l effetto del caso; evento elementare: ciascuno
DettagliUNIVERSITÀ di ROMA TOR VERGATA
UNIVERSITÀ di ROMA TOR VERGATA Corso di Laurea Magistrale in Scienze della Nutrizione Umana Corso di Statistica Medica, anno 05-6 P.Baldi Lista di esercizi, 8 gennaio 06. Esercizio Si sa che in una schedina
DettagliProbabilità delle cause:
Probabilità delle cause: Probabilità condizionata 2 Teorema delle probabilità composte A B) A) B/A) 3 Teorema delle probabilità totali B )! 4 Teorema delle probabilità delle cause n i A! B ) A / B ) B
DettagliIdraulica e Idrologia: Lezione 6
Idraulica e Idrologia: Lezione 6 Agenda del giorno - Eventi estremi in idrologia: legame fra magnitudo e probabilità; - Statistica e probabilità in idrologia; - Tempo di ritorno. 1 Analisi statistica di
DettagliIl Corso di Fisica per Scienze Biologiche
Il Corso di Fisica per Scienze Biologiche Ø Prof. Attilio Santocchia Ø Ufficio presso il Dipartimento di Fisica (Quinto Piano) Tel. 75-585 278 Ø E-mail: attilio.santocchia@pg.infn.it Ø Web: http://www.fisica.unipg.it/~attilio.santocchia/
DettagliModelli probabilistici variabili casuali
Modelli probabilistici variabili casuali Le variabili casuali costituiscono il legame tra il calcolo della probabilità e gli strumenti di statistica descrittiva visti fino ad ora. Idea: pensiamo al ripetersi
DettagliSTATISTICA 1 ESERCITAZIONE 8
STATISTICA 1 ESERCITAZIONE 8 Dott. Giuseppe Pandolfo 18 Novembre 2013 CALCOLO DELLE PROBABILITA Elementi del calcolo delle probabilità: 1) Esperimento: fenomeno caratterizzato da incertezza 2) Evento:
DettagliCalcolo delle Probabilità Soluzioni 1. Spazio campionario ed eventi
ISTITUZIONI DI STATISTICA A. A. 2007/2008 Marco Minozzo e Annamaria Guolo Laurea in Economia del Commercio Internazionale Laurea in Economia e Amministrazione delle Imprese Università degli Studi di Verona
DettagliCostruzione di macchine. Modulo di: Progettazione probabilistica e affidabilità. Marco Beghini e Leonardo Bertini. Lezione 1: Probabilità: fondamenti
Costruzione di macchine Modulo di: Progettazione probabilistica e affidabilità Marco Beghini e Leonardo Bertini Lezione 1: Probabilità: fondamenti Progettazione probabilistica: Considerazione delle incertezze
DettagliUlteriori Conoscenze di Informatica e Statistica
ndici di forma Ulteriori Conoscenze di nformatica e Statistica Descrivono le asimmetrie della distribuzione Carlo Meneghini Dip. di fisica via della Vasca Navale 84, st. 83 ( piano) tel.: 06 55 17 72 17
DettagliL indagine campionaria Lezione 3
Anno accademico 2007/08 L indagine campionaria Lezione 3 Docente: prof. Maurizio Pisati Variabile casuale Una variabile casuale è una quantità discreta o continua il cui valore è determinato dal risultato
DettagliÈ l insieme di tutti i possibili esiti di un esperimento aleatorio; si indica generalmente con il simbolo.
A Ripasso Terminologia DOMADE Spazio campionario Evento Evento certo Evento elementare Evento impossibile Evento unione Evento intersezione Eventi incompatibili Evento contrario RISPOSTE È l insieme di
DettagliUNIVERSITÀ di ROMA TOR VERGATA
UNIVERSITÀ di ROMA TOR VERGATA Corso di Statistica, anno 2010-11 P.Baldi Lista di esercizi 3. Corso di Laurea in Biotecnologie Esercizio 1 Una v.a. X segue una legge N(2, ). Calcolare a1) P(X 1) a2) P(2
DettagliLA PROBABILITAÁ ALGEBRA IL CALCOLO DELLE PROBABILITAÁ. richiami della teoria
ALGEBRA IL CALCOLO DELLE PROBABILITAÁ richiami della teoria n un evento E si dice casuale o aleatorio, quando il suo verificarsi dipende unicamente dal caso; n un evento si dice certo quando eá possibile
DettagliDistribuzione Gaussiana - Facciamo un riassunto -
Distribuzione Gaussiana - Facciamo un riassunto - Nell ipotesi che i dati si distribuiscano seguendo una curva Gaussiana è possibile dare un carattere predittivo alla deviazione standard La prossima misura
DettagliRiprendiamo le probabilità. 1.Probabilità a priori oggettiva 2.Probabilità a posteriori frequentista
Riprendiamo le probabilità 1.Probabilità a priori oggettiva 2.Probabilità a posteriori frequentista 1 2.Probabilità a posteriori frequentista Tabelle di sopravvivenza.! Volendo calcolare la probabilità
DettagliCalcolo delle Probabilità
Calcolo delle Probabilità pr - 1 Che collegamento c è tra gli strumenti statistici per lo studio dei fenomeni reali e il calcolo delle probabilità? Vedremo che non sempre la conoscenza delle caratteristiche
DettagliTeoria dell informazione
Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Teoria dell informazione A.A. 2008-09 Alberto Perotti DELEN-DAUIN Modello di sistema di comunicazione Il modello di
DettagliLezione 8. La Statistica Inferenziale
Lezione 8 La Statistica Inferenziale Filosofia della scienza Secondo Aristotele, vi sono due vie attraverso le quali riusciamo a formare le nostre conoscenze: (1) la deduzione (2) l induzione. Lezione
DettagliLo spazio degli eventi del lancio di un dado regolare a sei facce è l insieme U 1. 2. 3. U 4. 5. 6
EVENTI ALEATORI E LORO RAPPRESENTAZIONE Lo spazio degli eventi del lancio di un dado regolare a sei facce è l insieme U... U.. La definizione classica di probabilità dice che, se gli eventi che si considerano
DettagliProbabilità e numeri casuali Teoria e programmazione Pascal e C++
Probabilità e numeri casuali Teoria e programmazione Pascal e C++ 1 Definizioni Evento 2 Direzione entrate speciali Del ministero delle finanze 3 4 5 6 Definizioni: La probabilità di un evento È un numero
DettagliCalcolo delle probabilità
Calcolo delle probabilità Approccio classico e frequentista alla probabilità Prof.ssa Laura Pagnozzi Prof. Ivano Coccorullo Teoria delle probabilità L inizio della teoria delle probabilità, chiamata all
DettagliStatistica 1 A.A. 2015/2016
Corso di Laurea in Economia e Finanza Statistica 1 A.A. 2015/2016 (8 CFU, corrispondenti a 48 ore di lezione frontale e 24 ore di esercitazione) Prof. Luigi Augugliaro 1 / 51 Introduzione Il Calcolo delle
DettagliVariabili casuali. - di Massimo Cristallo -
Università degli Studi di Basilicata Facoltà di Economia Corso di Laurea in Economia Aziendale - a.a. 2012/2013 lezioni di statistica del 16 e 27 maggio 2013 - di Massimo Cristallo - Variabili casuali
DettagliLa simulazione con DERIVE Marcello Pedone LE SIMULAZIONI DEL LANCIO DI DADI CON DERIVE
LE SIMULAZIONI DEL LANCIO DI DADI CON DERIVE Premessa Abbiamo già visto la simulazione del lancio di dadi con excel Vedi: http:///statistica/prob_simu/index.htm Ci proponiamo di ottenere risultati analoghi
DettagliProblemi indeterminati
Problemi indeterminati Un problema indeterminato è una domanda D alla quale, sulla base delle nostre informazioni, non siamo in grado di dare una risposta determinata, ma solo un insieme di risposte possibili.
Dettagli5 di tutti i possibili risultati relativi a un determinato esperimento si chiama spazio probabilistico
Gli eventi Torniamo ora a occuparci degli eventi. Qualunque sia la concezione utilizzata per determinare la probabilità di un evento, si lavora all'interno di un insieme determinato di casi possibili.
DettagliIl caso, probabilmente: la partita a dadi di Riccardo Mini
Elementi di Probabilità presenti nell opera teatrale Il caso, probabilmente: la partita a dadi di Riccardo Mini con Fausto Bernardinello, Maria Eugenia D Equino, Annig Raimondi con la collaborazione dei
Dettagliincompatibili compatibili complementari eventi composti probabilità composta
Un evento si dice casuale, o aleatorio, se il suo verificarsi dipende esclusivamente dal caso. La probabilità matematica p di un evento aleatorio è il rapporto fra il numero dei casi favorevoli f e il
DettagliStatistica. Capitolo 4. Probabilità. Cap. 4-1
Statistica Capitolo 4 Probabilità Cap. 4-1 Obiettivi del Capitolo Dopo aver completato il capitolo, sarete in grado di: Spiegare concetti e definizioni fondamentali della probabilità Usare il diagramma
DettagliSTII/Teoria dell Informazione
STII/Teoria dell Informazione Docente: Prof. Luisa Gargano Classe: Matricole Pari Testo principale: T. Cover, J. Thomas, Elements of Information Theory, Wiley. p./28 Un pò di storia La Teoria dell informazione
Dettagli( ) ( ) Ω={1,2,3,4,5,6} B B A Siano A e B due eventi di Ω: si definisce evento condizionato B A. Consideriamo il lancio di un dado:
Eventi condizionati Quando si ha motivo di credere che il verificarsi di uno o più eventi sia subordinato al verificarsi di altri eventi, si è soliti distinguere tra eventi dipendenti(o condizionati )
DettagliEsercizi settimana 5. Esercizi applicati. Esercizio 1. Si considerino tre monete truccate, ognuna con probabilità 2 3
1 Esercizi settimana 5 Esercizi applicati Esercizio 1. Si considerino tre monete truccate, ognuna con probabilità 3 di ottenere testa. Se scegliete la prima moneta vincete 10 punti se esce testa e punti
Dettagli