Andrea Bonanomi Università Cattolica del Sacro Cuore. Principi di Statistica Descrittiva. Milano, 9 gennaio 2015 Camera di Commercio

Transcript

1 Andrea Bonanomi Università Cattolica del Sacro Cuore Principi di Milano, 9 gennaio 2015 Camera di Commercio

2 RIPETIBILITA ATTUALE RILEVAZIONE TOTALE RIPETIBILITA VIRTUALE RILEVAZIONE PARZIALE UNIVERSO CAMPIONE INSIEME UNITA STATISTICHE RILEVATE

3 REALTA FENOMENI NON COSTANTI (attitudine a variare) RILEVAZIONE 1. Individuazione di uno o più CARATTERI sui quali acquisire le informazioni 2. Individuazione delle UNITA STATISTICHE portatori del carattere in studio 3. Procedimento di misurazione del carattere che porta alla individuazione delle MODALITA con cui il carattere si presenta

4 Esempio di rilevazione di dati in Excel

5 BRANCHE DELLA STATISTICA statistica descrittiva sintesi delle osservazioni campionarie o dei dati censuari statistica probabilistica studio del meccanismo generatore delle realizzazioni campionarie (modello campione) statistica inferenziale dal campione al suo meccanismo generatore (campione modello)

6 FASI RICERCA STATISTICA - Identificazione del problema - Astrazione - individuazione variabili osservabili/ proxy - Rilevazione - sperimentazione, questionari, - Spoglio dei dati - organizzazione dati - classificazione

7 - Elaborazione dei dati - sintesi - interpretazione - inferenza osservazione: una prima statistica consiste nel costruire le tabelle riassuntive

8 Data Set Esempio: 94 immobili venduti in un anno da un agenzia immobiliare. Vengono rilevate le seguenti variabili: Codice, Indirizzo, Valore, Categoria Energetica, Giorni sul mercato, Metratura, Numero di Stanze.

9 TABELLE DI FREQUENZA organizzazione dei dati elementari prospetti/elenchi delle osservazioni se i dati sono tanti è utile riorganizzarli in TABELLE utilizzando la nozione fondamentale di FREQUENZA

10

11

12 Non ha molto senso meglio raggruppare i valori in classi!

13

14 Gli indici si posizione sono misure sintetiche ( valori caratteristici ) che descrivono la tendenza centrale di un fenomeno La tendenza centrale è, in prima approssimazione, la modalità della relativa variabile verso la quale i casi tendono a gravitare, ossia il baricentro della distribuzione

15 ALCUNI INDICI TIPICI - moda - percentili di ordine p - mediana - medie potenziate aritmetica armonica geometrica quadratica. non analitici analitici

16 da qualitativi in su MODA (o norma) da qualitativi ordinati in su MEDIANA (o percentili) MEDIE da quantitativi

17 MODA MODALITA A CUI E ASSOCIATA LA MAGGIOR FREQUENZA O DENSITA DI FREQUENZA può essere calcolata sia per caratteri qualitativi che quantitativi può non essere unica VANTAGGI: può essere sempre calcolata SVANTAGGI: - perdita di informazioni - no confronti

18 Max frequenza: 28 Moda: Bunker Hill Dr Utile per i caratteri qualitativi non ordinabili. Per gli altri caratteri non è informativa

19 ESEMPIO VARIABILE QUANTITATIVA RAGGRUPPATA IN CLASSI: si calcolano le densità di frequenza classi età numero lettori ! totale classi età numero lettori ai li ! totale Fonte; ISTAT, indagine sulla lettura e su altro impiego del tempo libero, 1986 Classe modale: Mo=(20+25)/2=22.5

20 MEDIANA MODALITA CHE OCCUPA LA POSIZIONE CENTRALE NELLA SEQUENZA ORDINATA DEI DATI può essere calcolata sia per caratteri qualitativi che quantitativi purchè ordinabili percentile di ordine 0.5 VANTAGGI: non risente dei valori estremi SVANTAGGI: solo per caratteri ordinabili - perdita di informazioni - no confronti

21 Formule operative di calcolo per i vari tipi di caratteri ordinabili numerosità dei dati n = pari/dispari esempio caso carattere quantitativo discreto: n = dispari Me = x 0.5 = valore di posizione (n+1)/2 n = pari Me = x 0.5 = semisomma dei valori di posto n/2 ed (n/2+1)

22 caso n=94 pari n/2=47 e (n/2+1)=48 sulle Ni=53 con le frequenze relative sulle Fi=0.564 Mediana= 4 4 stanze per abitazione

23 PERCENTILE di ordine p MODALITA CHE DIVIDE LA DISTRIBUZIONE ORDINATA DEI DATI IN PIU PARTI può essere calcolato sia per caratteri qualitativi che quantitativi purché ordinabili 0<p<1 valore preceduto da almeno il p% dei casi e seguito da almeno il (1-p)% dei casi

24 quartili Alcuni esempi sono dividono in 4 parti la distribuzione x min x max decili dividono in 10 parti la distribuzione percentili dividono in 100 parti la distribuzione

25 Per i QUARTILI x 0.25 = Q 1 = 1 quartile (lascia alla sua sinistra il 25% e alla sua destra il 75%) x 0.50 = Q 2 = 2 quartile (lascia alla sua sinistra il 50% e alla sua destra il 50%) x 0.75 = Q 3 = 3 quartile (lascia alla sua sinistra il 75% e alla sua destra il 25%) Q 1 Q 2 Q 3 x min x max

26 In generale: il percentile x p di ordine p è quella modalità che è: - preceduta da almeno p% dei casi - superata da almeno (1p)% dei casi

27 Grafici BOX PLOT (o BOX&WHISKERS) GRAFICO RIASSUNTIVO DEI MAGGIORI INDICI DESCRITTIVI UNIVARIATI CHE CONSENTE CONFRONTI VISIVI TRA DIVERSE VARIABILI Per ogni variabile vengono rappresentate: - mediana (Q 2 ) - I e III quartile (Q 1 e Q 3 ) - Differenza interquartile H = Q 3 Q 1 - minimo e massimo

28 500 BOX Q 3 Q 2 Il BOX è la scatola rossa. E delimitata da Q 1 e Q 3 mentre la linea nera al suo interno indica la mediana Q Q 1 Tra Q 3 e Q 1 si trova il 50% delle unità statistiche N = 406 Cilindrata in cc

29 W H I S K E R S Q 3 Q 2 Q 1 Q (Q 3 Q 1 ) o x max Q 1 1.5(Q 3 Q 1 ) o x min -100 N = 406 Cilindrata in cc

30 300 x max Q (Q 3 Q 1 ) Valori anomali 100 (outliers) 0 N = 400 Potenza (CV)

31

32 MEDIA ARITMETICA La media è il valore caratteristico più noto fra quelli che rilevano la tendenza centrale E il valore atteso di una successiva rilevazione E la parte del totale delle intensità che spetta a ciascuna unità Può essere calcolata solo per variabili quantitative ATTENZIONE: Molto spesso è comodo associare alle modalità qualitative codici numerici (es. numero di matricola, codice identificativo cliente). Nonostante la ricodifica, la variabile rimane connotata secondo la caratteristica intrinseca del fenomeno di cui essa è rilevazione. NON HA SENSO FARE LA MEDIA DEL NUMERO DI CODICE!!!!!!!!!!

33 VANTAGGI: - molto immediata - la più conosciuta e usata - è lo stimatore ottimale della media di una popolazione nella stima puntuale e intervallare SVANTAGGI: - assume anche valori non osservati - risente dei valori estremi e degli outliers x n 1 ( ) x n i1 i

34 La mediana varia maggiormente passando da un campione all altro, mentre la media è più stabile La media può essere utilizzata per la statistica induttiva mentre la mediana non può essere utilizzata La mediana è stabile rispetto ai valori estremi, mentre la media non lo è. Questo può comportare vantaggi e svantaggi a seconda dei casi

35 INDICI DI VARIABILITA - indice sintetico di posizione è utile per alcuni confronti - appare tuttavia insufficiente - sintesi troppo spinta, perde informazioni - interessano anche indicatori della diversità (molteplicità) dei valori di un carattere

36 ..senza variabilità non ci sarebbe la statistica Se tutti votassimo lo stesso partito alle elezioni (=moda), non ci sarebbero i sondaggi, ne le previsioni elettorali il voto politico sarebbe una unica modalità Se tutte le persone fossero alte uguali (=media) non esisterebbe la variabile altezza, perché non la misureremmo La statistica si basa sulla diversità, studia l attitudine a variare dei fenomeni

37 MUTABILITA LA VARIABILITA DEI FENOMENI QUALITATIVI Per misurarla si usano gli indici di eterogeneità Sono indici che si basano sulla frequenze relative o percentuali Non sono vincolati da un particolare ordinamento delle modalità Quindi possono essere calcolati per qualsiasi tipo di fenomeno

38 MUTABILITA LA VARIABILITA DEI FENOMENI QUALITATIVI Proprietà degli indici di eterogeneità Sono sempre positivi Sono massimi quando ad ogni modalità assunta dal fenomeno corrisponde la stessa frequenza, cioè f i =1/k per ogni i Sono minimi quando il fenomeno assume una sola modalità, cioè una pi è uguale a 1 e tutte le altre (k-1) sono uguali a 0

39 MUTABILITA LA VARIABILITA DEI FENOMENI QUALITATIVI Indice di eterogeneità di Gini E 1 k 1 i1 p 2 i Assume valori compresi tra 0 (minimo) e (k-1)/k (massimo) Per normalizzarlo in modo che vari tra 0 e 1 bisogna dividerlo per il suo massimo: E * 1 1 k E k 1

40 Altissima eterogeneità, valore prossimo a uno.

41 VARIABILITA LA VARIABILITA DEI FENOMENI QUANTITATIVI Per misurarla si usano gli indici di variabilità globale si basano sulle differenze tra i valori delle modalità gli indici di dispersione si basano sulle differenze tra i valori delle modalità e un prefissato indice di posizione Entrambi possono essere calcolati solo per fenomeni quantitativi

42 Proprietà degli indici di variabilità e di dispersione Sono sempre positivi VARIABILITA LA VARIABILITA DEI FENOMENI QUANTITATIVI Sono uguali a zero quando tutte le unità osservate assumono la stessa modalità, la variabile statistica in tal caso si dice degenere Sono invarianti per traslazione, cioè se ad ogni x i viene aggiunta una quantità c costante, la variabilità di X non cambia NOTA: per gli indici di variabilità e dispersione non è immediata la determinazione del loro valore massimo, tralasceremo il calcolo dei valori normalizzati degli indici

43 VARIABILITA LA VARIABILITA DEI FENOMENI QUANTITATIVI

44 VARIABILITA LA VARIABILITA DEI FENOMENI QUANTITATIVI Indici di variabilità globale Differenza Interquartile D.I. = Q 3 -Q 1 Campo di Variazione K= x max -x min

45 VARIABILITA LA VARIABILITA DEI FENOMENI QUANTITATIVI Varianza Si basa sulla differenze tra i valori delle modalità e la loro media. x i x xi x Si considerano gli scostamenti al quadrato per evitare compensazioni tra distanze positive e negative.

46 VARIANZA Se si considera una tabella di rilevazione, la varianza aritmetica è data dalla seguente formula n 2 n x i x x i x n i1 n i1 FORMULA OPERATIVA

47 VARIANZA: problemi Elevando al quadrato si perde l unità di misura del fenomeno Ex. Se si è partiti dal peso, la varianza risulta espressa in kg 2 E un indice assoluto, cioè risente dell unità di misura del fenomeno, e ciò impedisce di fare confronti di variabilità E lo stimatore ottimale della variabilità nella stima puntuale e intervallare E un numero puro, non risente della scala di misurazione SCARTO QUADRATICO MEDIO 2 COEFFICIENTE DI VARIAZIONE CV x Indice relativo

48 SIMMETRIA Una v.s. è simmetrica rispetto ad un centro c se: - per ogni x i = c k - esiste un x j = c k (simmetrico) con stessa frequenza: f(x i ) = f(x j ) N = 23 X

49 ASIMMETRIA POSITIVA (a sinistra) N = 23 X curva obliqua a sinistra Mo < Me <

50 ASIMMETRIA NEGATIVA (a destra) N = 23 X curva obliqua a destra <Me < Mo

51 Indici di simmetria o asimmetria Indice di FISHER o di SKEWNESS (più comunemente usato) 1 M[(X)3 ] se asimmetria sinistra 1 > 0 se asimmetria destra 1 < 0 se simmetria 1 = 0 NB ( = 0 ) è solo sintomo di simmetria!!

52 Se una distribuzione è simmetrica o quasi simmetrica allora può esser più o meno appuntita o più o meno appiattita rispetto alla distribuzione normale (o di Gauss) Se la curva è più appuntita si dice più appiattita si dice Indici di curtosi curva Leptocurtica curva Platicurtica - K < + Se K = 0 distribuzione normale se K > 0 curva leptocurtica Se K < 0 curva platicurtica. K 1 x i i i 4 i f x i 4 f 3

53 Indice di curtosi

54 IMPORTANTE Si può utilizzare anche lo strumento di excel Strumenti>analisi dati>statistica descrittiva

55 Distribuzione gaussiana DISTRIBUZIONE NORMALE o gaussiana Y X

56 Distribuzione gaussiana La curva normale o curva di Gauss è una distribuzione teorica di punteggi in una popolazione Riguarda solo le variabili metriche continue, quindi le misure almeno su scale a intervalli equivalenti L importanza di questa distribuzione è dovuta al fatto che molti dei fenomeni osservati si distribuiscono normalmente o con forme che si approssimano alla curva normale Inoltre gran parte della statistica inferenziale si basa sulle proprietà di questa distribuzione La curva NORMALE è interamente definita dai parametri (la media che corrisponde al valore x con la frequenza massima) e (dev. st.) Poiché la distribuzione normale varia al variare di e si può parlare di famiglia di distribuzioni normali con medie e deviazioni standard diverse

57 Distribuzione gaussiana Y Funzione di densità E definita dalla seguente funzione di densità: f x 1 2 dove: =media della popolazione =dev. st. della popolazione =costante (=3.14) e=costante (=2.718) e 1 2 x 2

58 Distribuzione gaussiana

59 Distribuzione gaussiana Qualsiasi siano i parametri e, l AREA sottesa dall intera curva è = 1 Area(, ) f(x)dx 1 L area sottesa alla curva normale rappresenta la PROBABILITA degli intervalli!

60 Distribuzione gaussiana la porzione di curva delimitata dalla media e un ordinata espressa in termini di deviazioni standard è costante += 34.13% della distribuzione +2= 47.73% della distribuzione +3= 49.86% della distribuzione

61 Distribuzione gaussiana Porzioni della distribuzione comprese tra 1,2,3 deviazioni standard da (in %) Y 99.73% 95.46% 68.26% X

62 Distribuzione gaussiana Per gli usi pratici della distribuzione normale si ricorre alla CURVA NORMALE STANDARDIZZATA l equazione della curva dipende da un solo parametro, zeta; Y f z 1 1 z 2 e 2 2 I valori di questa distribuzione sono tabulati z X X X

63 Distribuzione gaussiana

64 Distribuzione gaussiana Per testare che una distribuzione ha un andamento «simile» o «approssimabile» a quello della Normale: 1)Test appositi (Kolmogorov-Smirnov)molto complessi e di difficilissima accettazione 2)Valutazione degli indici di asimmetria e curtosi: Se gli indici di asimmetria e curtosi sono compresi tra -1 e +1, allora la distribuzione è approssimabile con la normale/gaussiana