La quantità. Rappresentazione dei numeri I numeri rappresentano quantità. Il sistema Binario. Binario

Transcript

1 Corso Integrato di Statistica Informatica e Analisi dei dati Informatica - a Dr Carlo Meneghini Dip. di Fisica E. Amaldi via della Vasca Navale 8 meneghini@fis.uniroma.it st. 8 - tel.: Home page Codificare le informazioni C. Meneghini - C.I.-Informatica La quantità E una proprietà comune ad ogni insieme di oggetti, è facilmente rappresentabile e catalogabile, l elaborazione richiede operazioni fondamentali + - / Tavolette per registrare la quantità di latte (Austria) 77 da: Tavoletta Sumera con valori numerici C. Meneghini - C.I.-Informatica Rappresentazione dei numeri I numeri rappresentano quantità Il sistema decimale è un sistema di numerazione che utilizza simboli (cifre):,,,... è un sistema posizionale il significato dei simboli (cifre) dipende dalla loro posizione: 7 centinaia decine unità Sistemi di numerazione posizionale Ingredienti: Cifra piú insieme di simboli (cifre) C i base B = numero di simboli C i = cifre: valori interi progressivi C n... C C C o Cifra meno C n B n +... C B + C B + C o B = quantità 7 C. Meneghini + - C.I.-Informatica + Attenzione: C n è il valore numerico C. della Meneghini cifra - C.I.-Informatica n-esima Il sistema Binario E un sistema di numerazione posizionale che utilizza cifre:, Base = bin = = = = dec C. Meneghini - C.I.-Informatica Sistemi di numerazione per PC B = : sistema binario (bin) B = : sistema decimale (utenti umani) B = 8: ottale (oct) B = 6: esadecimale (HEX) Dec Binario ottale HEX A 7 F 6 77 FF 6 C. Meneghini - C.I.-Informatica 6

2 Proprietà dei sistemi di numerazione posizionale - in base B un seguito da n- rappresenta B N es.: N= binario (B=): = = 8 Hex (B=6): = 6 = 6 Perchè il sistema binario? informazione: elemento che consente di avere conoscenza di fatti e situazioni Scopo dell'informazione: rimuovere uno stato di incertezza - con N cifre posso rappresentare B N valori diversi, compreso lo e quindi contare fino a B N - es.: N= binario: bin = - = 7 decimale dec = - = Come quantificare l'informazione? La quantità di informazione (oggettivo) deve essere indipendente dal contenuto (soggettivo) del messaggio. Hex: C. FFF Meneghini hex = - C.I.-Informatica 6 = 7 C. Meneghini - C.I.-Informatica 8 images from: Esempio e Si a, b, c, d, e,...? P(lettera) = /6,,,,,...? P(numero) = / Si o No? P(Si/No) = / Piú la scelta tra le possibili risposte è ampia piú l'informazione è importante. La quantità di informazione è inversamente proporzionale alla probabilità di C. Meneghini - C.I.-Informatica "indovinare" il contenuto del messaggio. Esempio No Scrivo Divido in due l'intervallo Si trova a destra? considero l'intervallo di appartenenza Si Scrivo Indovinare un numero scelto a caso tra e 6 7 domande con una risposta elementare: bit di informazione 8 Si Si No Si C. Meneghini - C.I.-Informatica BIT: (binary digit) Unità di misura dell'informazione Il bit, introdotto da J. W. Tukey (6), rappresenta la minima quantià di informazione; è quindi l'unità di misura naturale per quantificare l'informazione. Deriva da binary digit e rappresenta quanta informazione posso ottentere da una risposta ad una domanda elementare. byte = 8bit Multipli KB = bytes = bytes ~ bytes MB = bytes = 8 76 bytes ~ 6 bytes GB = bytes = bytes ~ bytes Quantificare l'informazione La quantità di informazione Q contenuta in un dato s è inversamente proporzionale alla probabilità p s di ottenere quel dato: Q(s) = log /p s = - log p s Quindi possiamo dire che la scelta tra N possibili "eventi" equiprobabili ci fornisce log N bit di informazione che possono essere rappresentati con altrettanti simboli binari. Dall'esempio : Q(E) = log 6 =.7 Q() = log =. Q(Si) = log = Quindi la quantità di informazione contenuta in un carattere alfabetico è maggiore di quella contenuta inuna cifra decimale, che è maggiore di quella di una risposta "binaria" TB = bytes C. = Meneghini - C.I.-Informatica bytes ~ bytes C. Meneghini - C.I.-Informatica

3 Per un messaggio costituito di N simboli la quantità di informazione è espressa dalla formula di Shannon (8) (entropia di Shannon): Notazione Binaria In notazione binaria il numero si esprime mediante la stringa: K= costante di normalizzazione che dipende dall'alfabeto usato L'entropia di Shannon è massima se i simboli sono equiprobabili ed è nulla se uno dei simboli è certo Un codice efficiente utilizza simboli con probabilità simili C. Meneghini - C.I.-Informatica Per approfondimenti: I. Bialynicki-Birula & I. Bialynicka-Birula Modelling the reality Oxford univ. press Usando il codice binario: L'entropia di Shannon associata a questa stringa è: Q bin = log = La stringa contiene bit di informazione binaria Perchè usare la notazione binaria? C. Meneghini - C.I.-Informatica Codice Decimale Codici e rappresentazione Binario ottale esadecimale A B C D E F dec bin oct D hex Rappresentano lo stesso numero Attenzione: non confondere il dato con la sua rappresentazione! I numeri sono entità matematiche che rappresentano quantità, non vanno confusi con la loro rappresentazione (che dipende dal codice) C. Meneghini - C.I.-Informatica Il codice Binario è semplice da implementare Si No Acceso Spento Aperto Chiuso Vero Falso Su Giú Sopra Sotto C. Meneghini - C.I.-Informatica 6 Informazione e comunicazione Integrità dell'informazione Sorgente trasmettitore catalogo ricevitore destinazione Noise Schematizzazione del processo di comunicazione (C.E. Shannon ) Un messaggio contiene una certa quantità di informazione che viene trasmessa da una sorgente ad un destinatario.? Nel caso della rappresentazion e decimale l'incertezza puó essere maggiore? C. Meneghini - C.I.-Informatica 7 Se "perdo" una delle cifre nella rappresentazione binaria ho C. Meneghini - C.I.-Informatica 8 sempre due sole possibilià (perdo bit di informazione)

4 Integrità dell'informazione Esempi di codici "semplici" Alfabeto Morse 7 il codice binario minimizza la possibilità di errori e confusione tra i simboli C. Meneghini - C.I.-Informatica da: C. Meneghini - C.I.-Informatica NOTA: Numeri, caratteri, suoni, immagini sono costituiti da un certo numero di bit. Questi bit sono registrati nella memoria del PC in modo sequenziale, cioè uno dopo l'altro senza soluzione di continuità. File Ascii Per decodificare le informazioni devo avere una regola per definire le singole "parole" (words) Questa regola si chiama FORMATO Nelle prime versioni di windows (w6) ogni cifra, carattere, etc.. occupava 6 bit ( byte) Nelle versioni Wk e XP (w) ogni carattere occupa C. Meneghini - C.I.-Informatica bit = byte F = 6 hex = bin a = 6 t = 7.. = spazio.., = c virgola m =6d d a a capo codifica HEX codice ASCII carattere= 8 bit = byte 8 = 6 simboli C. Meneghini - C.I.-Informatica Apri con: wordpad save as: Unicode text Document Cifra meno Cifra piú hex C. Meneghini - C.I.-Informatica C. Meneghini - C.I.-Informatica

5 Apri con: Word save as:.doc Codice genetico e sintesi di proteine DNA Il codice costituito da simboli AGTC C. Meneghini - C.I.-Informatica Gli aminoacidi sono idividuati da un codice a simboli formattato a gruppi di tre C. Meneghini - C.I.-Informatica 6 La sintesi delle proteine Le animazioni: richiedono flash player C. Meneghini - C.I.-Informatica 7