Lunghezza media. Teorema Codice D-ario prefisso per v.c. X soddisfa. L H D (X). Uguaglianza vale sse D l i. = p i. . p.1/27
|
|
- Claudio Pinto
- 7 anni fa
- Visualizzazioni
Transcript
1 Lunghezza media Teorema Codice D-ario prefisso per v.c. X soddisfa L H D (X). Uguaglianza vale sse D l i = p i.. p.1/27
2 Lunghezza media Teorema Codice D-ario prefisso per v.c. X soddisfa L H D (X). Uguaglianza vale sse D l i = p i. Dim. H D (X) L = = m i=1 m i=1 p i lg D 1 p i p i lg D 1 p i D l i m lg D p i i=1 1 p i D l i m p i l i i=1 diseg. Jensen m = lg D D l i lg D 1 = 0 diseg. Kraft i=1. p.1/27
3 Uguaglianza Dis. di Jensen vale con l uguaglianza D l i p i m i=1 D l i c = m i=1 p i = 1. = costante c Dis. di Kraft vale con l uguaglianza 1 = m c = 1 i=1 D l i Quindi l uguaglianza vale p i D l 1 = 1 p i = D l i. c = 1/c. p.2/27
4 L = H D (X) sse p i = D l i per ogni i, ovvero l i = lg D 1 pi, Se lg D 1 pi non interi? Vediamo quanto la lunghezza media può discostarsi dall entropia.. p.3/27
5 Codifica ottimale Teorema Siano l 1,..., l m le lunghezze delle parole di un codice ottimale D-ario per una sorgente X con d.d.p. p(x). La lunghezza media del codice ottimale L = p i l i soddisfa H D (X) L < H D (X) + 1. p.4/27
6 Codifica ottimale Teorema Siano l 1,..., l m le lunghezze delle parole di un codice ottimale D-ario per una sorgente X con d.d.p. p(x). La lunghezza media del codice ottimale L = p i l i soddisfa H D (X) L < H D (X) + 1 Dim. Dobbiamo mostrare la seconda disuguaglianza. 1 Consideriamo le lunghezze l i = lg D pi per i = 1,..., m.. p.4/27
7 Codice esiste in quanto le lunghezze l 1,..., l m soddisfano la dis. di Kraft: D l i = i i D l lg D 1 p i m i D lg D 1 p i = i D lg D p i = i p i = 1 La lunghezza media è p i l i = 1 p i lg D < p i i i i ( ) 1 p i lg D + 1 p i = H(X) + 1 La lunghezza media L del codice ottimale non è maggiore Red L < H D (X) p.5/27
8 La ricerca dei codici ottimali U.D. puó essere limitata ai codici prefissi.. p.6/27
9 La ricerca dei codici ottimali U.D. puó essere limitata ai codici prefissi. Teorema (McMillan) Le lunghezze di un codice univocamente decodificabile soddisfano la disuguaglianza di Kraft.. p.6/27
10 La ricerca dei codici ottimali U.D. puó essere limitata ai codici prefissi. Teorema (McMillan) Le lunghezze di un codice univocamente decodificabile soddisfano la disuguaglianza di Kraft. Dim. Siano: C codice U.D., l(x): lunghezza della parola codice assegnata a x X, C k : k-esima estensione di C, C U.D. C k è non singolare.. p.6/27
11 Consideriamo ( ) k D l(x) = x X x 1 X = = x 1 X D l(x 1) x 2 X x 2 X... x k X D l(x 2)... x k X D [l(x 1)+...+l(x k )] x 1...x k X k D [l(x1)+...+l(xk)] = x X k D l(x) D l(x k). p.7/27
12 α(i) = # sequenze lunghe k codificate con sequenze lunghe i.. p.8/27
13 α(i) = # sequenze lunghe k codificate con sequenze lunghe i. C k non singolare α (i) D i. x X k D l(x) = k l max i=1 k l max α (i) D i (in quanto 1 l i l max ) D i D i = k l max 1 = k l max i=1 i=1. p.8/27
14 α(i) = # sequenze lunghe k codificate con sequenze lunghe i. C k non singolare α (i) D i. x X k D l(x) = k l max i=1 k l max α (i) D i (in quanto 1 l i l max ) D i D i = k l max 1 = k l max i=1 i=1 x X D l(x) (k l max ) 1 k, k. p.8/27
15 α(i) = # sequenze lunghe k codificate con sequenze lunghe i. C k non singolare α (i) D i. x X k D l(x) = k l max i=1 k l max α (i) D i (in quanto 1 l i l max ) D i D i = k l max 1 = k l max i=1 i=1 x X D l(x) (k l max ) 1 k, k (k l max ) 1 k k 1 x X D l(x) 1.. p.8/27
16 Codici di Huffman ( Esempio. X = costruire un codice ottimale per X. ) Vogliamo Idea 1. Associamo ai 2 simboli meno probabili, le 2 parole di codice più lunghe. Le 2 parole più lunghe hanno uguale lunghezza: se così non fosse potremmo eliminare l ultimo bit dalla più lunga. Idea 2. L albero che rappresenta il codice è pieno: se così non fosse potremmo spostare delle foglie su livelli inferiori e quindi accorciare le parole ad esse associate.. p.9/27
17 Le parole associate ai simboli 4 e 5 devono differire solo nell ultimo bit possiamo combinare 4 e 5 nell unico simbolo 4 con prob = 0.3 e porre c(4) = c(4 ) 0, c(5) = c(4 ) 1 ( indica l operatore di concatenazione). Iterando questo procedimento sulle nuove probabilità:. p.10/27
18 Si ottiene così l albero. p.11/27
19 Discorso analogo si può fare per un codice D-rio qualsiasi. Se D = 3 possiamo determinare il codice ternario scegliendo ad ogni passo le tre probabilità più piccole.. p.12/27
20 abbiamo così l albero. p.13/27
21 Non sempre è possibile raggruppare le probabilità in gruppi di D. ( ) Esempio. X = p.14/27
22 In questo caso aggiungiamo un simbolo con probabilità zero:. p.15/27
23 Un albero D-ario pieno ha 1 + k(d 1) nodi. Se X non è della forma 1 + k(d 1) aggiungiamo simboli fino ad arrivare all intero più vicino ad X di questa forma. Se il codice non è basato su un albero D-ario pieno il codice non è ottimale perchè possiamo prendere una delle foglie a un livello più basso e spostarlo nella posizione vuota che si trova più in alto.. p.16/27
24 Ottimalità dei codici di Huffman Lemma Per ogni d.d.p. p esiste un codice prefisso ottimo tale che 1. se p j > p k allora l j l k 2. le due parole più lunghe hanno la stessa lunghezza 3. le due parole più lunghe differiscono solo nell ultimo simbolo. p.17/27
25 Dim. Siano p 1 p 2... p m Sia C un codice ottimo con lunghezze l 1,..., l m 1. Supponiamo per assurdo che p j > p k e l j > l k : Consideriamo il codice C ottenuto da C scambiando la parola j-esima con la k-esima: C (j) = C(k) C (k) = C(j). p.18/27
26 La lunghezza media di C è L = i j,k p i l i + p j l k + p k l j. La differenza tra L e la lunghezza media L di C è L L = m p i l i + p j l k + p k l j p i l i i j,k i=1 = p j l k + p k l j p j l j p k l k = p j (l k l j ) + p k (l j l k ) = (p j p k ) (l k l j ) < 0. p.19/27
27 La lunghezza media di C è L = i j,k p i l i + p j l k + p k l j. La differenza tra L e la lunghezza media L di C è L L = m p i l i + p j l k + p k l j p i l i i j,k i=1 = p j l k + p k l j p j l j p k l k = p j (l k l j ) + p k (l j l k ) = (p j p k ) (l k l j ) < 0 L < L; impossibile. p.19/27
28 La lunghezza media di C è L = i j,k p i l i + p j l k + p k l j. La differenza tra L e la lunghezza media L di C è L L = m p i l i + p j l k + p k l j p i l i i j,k i=1 = p j l k + p k l j p j l j p k l k = p j (l k l j ) + p k (l j l k ) = (p j p k ) (l k l j ) < 0 L < L; impossibile l j l k.. p.19/27
29 2. Supponiamo per assurdo che il codice contenga un unica parola di lunghezza massima l max la parola più lunga è associata all unica foglia di profondità l max possiamo eliminare l ultimo bit dalla parola codice di lunghezza l max (eliminiamo l unica foglia di profondità l max ottenendone una di profondità l max 1) otteniamo un codice con lunghezza media inferiore ad L (impossibile in quanto C m è ottimo).. p.20/27
30 3. 1 e 2 l m = l m 1 = max{l i : 1 i m} In generale non è vero che codice ottimale soddisfa 3). Esempio.. p.21/27
31 Supponiamo che C(m 1) e C(m) non differiscano solo nell ultimo bit I nodi associati a C(m 1) e C(m) non sono fratelli C(m) ha fratello C(j) con j m 2 l j = l m = l m 1 Possiamo quindi scambiare C(j) e C(m) ottenendo un codice con lunghezza uguale a quella di C.. p.22/27
32 Ottimalità codici di Huffman Algoritmo di Huffman Il codice ottimo C m per p 1 p 2... p m è definito ricorsivamente: Sia C m 1 il codice ottimo per p 1, p 2,..., p m 1, dove p m 1 = p m 1 + p m. Definiamo C m (i) = C m 1 (i), i = 1,..., m 2 C m (m 1) = C m 1 (m 1) 0 C m (m) = C m 1 (m 1) 1 L (C m ) = m i=1 p i l i L (C m 1 ) = m 2 p i l i + (p m 1 + p m ) (l m 1). i=1. p.23/27
33 L (C m ) L (C m 1 ) = p m 1 l m 1 + p m l m p m 1 l m p m l m + p m 1 + p m = p m 1 + p m L (C m ) L (C m 1 ) non dipende dalle lunghezze del codice per cui C m 1 ottimo C m ottimo. Possiamo usare questo risultato come passo induttivo nella dimostrazione per induzione dell ottimalità dei codici di Huffman. Base dell induzione: per m = 2 si ha C 2 = {0, 1} che è ovviamente ottimo.. p.24/27
34 La dimostrazione per il caso D 3 è simile a quella per il caso binario. Nota: Pochè i codici di Huffman sono prefssi e ottimali, allora la lunghezza di un codice di Huffman C soddisfa H (X) L (C ) < H (X) p.25/27
35 Gioco delle 20 domande GIOCO: individuare un oggetto in un insieme con domande Yes/No SCOPO: Minimizzare numero di domande. p.26/27
36 Gioco delle 20 domande GIOCO: individuare un oggetto in un insieme con domande Yes/No SCOPO: Minimizzare numero di domande DOMANDE CODICE DOMANDE Sequenze risposte CODIFICA binaria oggetti CODICE i ma domanda: "E bit i mo=1. p.26/27
37 Gioco delle 20 domande GIOCO: individuare un oggetto in un insieme con domande Yes/No SCOPO: Minimizzare numero di domande DOMANDE CODICE DOMANDE Sequenze risposte CODIFICA binaria oggetti CODICE i ma domanda: "E bit i mo=1 X= v.c. che rappresenta oggetti Usando codifica ottimale per X H(X) numero atteso domande < H(X) + 1. p.26/27
38 Esercizio 1 Mostrare che se un codice D-rio soddisfa la disuguaglianza di Kraft stretta allora esiste y D che non corrisponde a una sequenza di parole di codice.. p.27/27
39 Esercizio 1 Mostrare che se un codice D-rio soddisfa la disuguaglianza di Kraft stretta allora esiste y D che non corrisponde a una sequenza di parole di codice. Esercizio 2 Una sorgente emette 7 simboli 1,..., 7 con probabilità, rispettivamente, 0.49, 0.26, 0.12, 0.04, 0.04, 0.03, 0.02 determinare il codice di Huffman binario valutare la lunghezza media trovare il codice di Huffman ternario. p.27/27
40 Esercizio 3 Fornire un esempio di v.c. X per cui il codice ottimo ha lunghezza media arbitrariamente prossima ad H(X) + 1 (cioè per ogni ɛ > 0, esibire per una d.p. per cui la lunghezza media di un codice ottimo risulta L > H(X) + 1 ɛ).. p.28/27
41 Esercizio 3 Fornire un esempio di v.c. X per cui il codice ottimo ha lunghezza media arbitrariamente prossima ad H(X) + 1 (cioè per ogni ɛ > 0, esibire per una d.p. per cui la lunghezza media di un codice ottimo risulta L > H(X) + 1 ɛ). Esercizio 4 Data la d.p. uniforme su m elementi, cosa si può dire rispetto alle lunghezze di un codice di binario ottimo?. p.28/27
Def. La lunghezza media L(C) di un codice C per una v.c. Obiettivo: Codice ottimo rispetto alla lunghezza media. Lunghezza media di un codice
Lunghezza media di un codice Def. La lunghezza media L(C) di un codice C per una v.c. X con d.d.p. P(x) è data da L(C) = x X p (x) l (x) = E[l(X)] Obiettivo: Codice ottimo rispetto alla lunghezza media
DettagliCompressione Dati. Teorema codifica sorgente: Entropia fornisce un limite sia inferiore che superiore al numero di bit per simbolo sorgente.. p.
Compressione Dati Teorema codifica sorgente: Entropia fornisce un limite sia inferiore che superiore al numero di bit per simbolo sorgente.. p.1/21 Compressione Dati Teorema codifica sorgente: Entropia
DettagliCodifica delle sequenze sorgente
Codifica delle sequenze sorgente Sorgente emette sequenza di simboli appartenenti ad un alfabeto X che vengono codificati come sequenze di simboli di un alfabeto D-ario.. p.1/?? Codifica delle sequenze
DettagliTeoria dell informazione
Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Teoria dell informazione A.A. 2008-09 Alberto Perotti DELEN-DAUIN Modello di sistema di comunicazione Il modello di
DettagliSTII/Teoria dell Informazione
STII/Teoria dell Informazione Docente: Prof. Luisa Gargano Classe: Matricole Pari Testo principale: T. Cover, J. Thomas, Elements of Information Theory, Wiley. p./28 Un pò di storia La Teoria dell informazione
DettagliSTII. Probabilità e proprietà dei logaritmi
STII Durante una trasmissione, il segnale naviga alcuni minuti prima di arrivare a destinazione. Durante il percorso, il segnale è soggetto a rumore, quindi può capitare che il messaggio che è stato inviato
DettagliLezione 4 Ugo Vaccaro
Teoria dell Informazione II Anno Accademico 205 206 Lezione 4 Ugo Vaccaro Il risultato principale che abbiamo scoperto nella lezione scorsa è il seguente: data una sorgente DSSM X, X 2,..., X i,... con
Dettagli..., x M. : codice o sequenza di bit che rappresentano il messaggio x i ; n i : lunghezza in bit del codice C X i
Definizioni X : sorgente di informazione discreta; X k : messaggi prodotti da X ; ogni messaggio è una v.c.d., k è l'indice temporale; alfabeto di X : insieme {x,..., x } degli messaggi che la sorgente
DettagliIntroduzione alla codifica entropica
Compressione senza perdite Il problema Introduzione alla codifica entropica Abbiamo un alfabeto di simboli A (nota: non è detto che gli elementi di A siano numeri) Sappiamo che il simbolo a A si presenta
DettagliTEORIA DELL INFORMAZIONE ED ENTROPIA FEDERICO MARINI
TEORIA DELL INFORMAZIONE ED ENTROPIA DI FEDERICO MARINI 1 OBIETTIVO DELLA TEORIA DELL INFORMAZIONE Dato un messaggio prodotto da una sorgente, l OBIETTIVO è capire come si deve rappresentare tale messaggio
DettagliRISOLUZIONE IN LOGICA PROPOSIZIONALE. Giovanna D Agostino Dipartimento di Matemaica e Informatica, Università di Udine
RISOLUZIONE IN LOGICA PROPOSIZIONALE Giovanna D Agostino Dipartimento di Matemaica e Informatica, Università di Udine 1. Risoluzione Definitione 1.1. Un letterale l è una variabile proposizionale (letterale
DettagliComunicazioni Elettriche Esercizi
Comunicazioni Elettriche Esercizi Alberto Perotti 9 giugno 008 Esercizio 1 Un processo casuale Gaussiano caratterizzato dai parametri (µ = 0, σ = 0.5) ha spettro nullo al di fuori dellintervallo f [1.5kHz,
DettagliProgrammazione Greedy I codici di Huffman
Programmazione Greedy I codici di Huffman Codifica dell informazione La rappresentazione ordinaria dell informazione prevede l impiego di un numero costante di bit; per esempio ad ogni carattere del codice
Dettagli2) Codici univocamente decifrabili e codici a prefisso.
Argomenti della Lezione ) Codici di sorgente 2) Codici univocamente decifrabili e codici a prefisso. 3) Disuguaglianza di Kraft 4) Primo Teorema di Shannon 5) Codifica di Huffman Codifica di sorgente Il
DettagliCODIFICA CANALE. Comunicazione con successo: ricevitore ottiene output sorgente. Rumore. Sorgente Cofificatore Canale. Decodificatore.
CODIFICA CANALE Sorgente Cofificatore Canale Decodificatore Ricevitore Rumore Comunicazione con successo: ricevitore ottiene output sorgente. p.1/24 CODIFICA CANALE Sorgente Cofificatore Canale Decodificatore
DettagliUn ripasso di aritmetica: Conversione dalla base 10 alla base 2
Un ripasso di aritmetica: Conversione dalla base 10 alla base 2 Dato un numero N rappresentato in base dieci, la sua rappresentazione in base due sarà del tipo: c m c m-1... c 1 c 0 (le c i sono cifre
DettagliEsercitazione 4 Algoritmi greedy
Esercitazione 4 Algoritmi greedy Problema 9 (es.2 appello 18/02/2016 modulo 2) Nel museo Tor VerLouvre c è un lungo corridoio rettilineo in cui sono esposti n quadri nelle posizioni 0 q 1 < q 2 < q 3
DettagliAlberi: definizioni e dimostrazioni induttive.
Alberi: definizioni e dimostrazioni induttive. Gennaio 2005 Iniziamo con l introdurre la nozione di albero. Con N indichiamo l insieme dei numeri naturali (zero escluso) e con N l insieme delle liste finite
DettagliLOGICA MATEMATICA PER INFORMATICA (A.A. 12/13)
LOGICA MATEMATICA PER INFORMATICA (A.A. 12/13) DISPENSA N. 4 Sommario. Dimostriamo il Teorema di Completezza per il Calcolo dei Predicati del I ordine. 1. Teorema di Completezza Dimostriamo il Teorema
DettagliEsercizi sul Principio d Induzione
AM110 - ESERCITAZIONI I - II - 4 OTTOBRE 01 Esercizi sul Principio d Induzione Esercizio svolto 1. Dimostrare che per ogni n 1, il numero α(n) := n 3 + 5n è divisibile per 6. Soluzione. Dimostriamolo usando
Dettagli1 Esercizio - caso particolare di ottimalità
Corso: Gestione ed elaborazione grandi moli di dati Lezione del: 5 giugno 2006 Argomento: Compressione aritmetica e Tecniche di compressione basate su dizionario Scribes: Andrea Baldan, Michele Ruvoletto
Dettagli3/10/ Divisibilità e massimo comun divisore
MCD in N e Polinomi 3/10/2013 1 Divisibilità e massimo comun divisore 1.1 Divisibilità in N In questa sezione introdurremo il concetto di divisibilità e di massimo comun divisore di due numeri naturali
DettagliIntroduzione al Metodo del Simplesso. 1 Soluzioni di base e problemi in forma standard
Introduzione al Metodo del Simplesso Giacomo Zambelli 1 Soluzioni di base e problemi in forma standard Consideriamo il seguente problema di programmazione lineare (PL), relativo all esempio di produzione
DettagliLinguaggi e Grammatiche Liberi da Contesto
N.Fanizzi-V.Carofiglio Dipartimento di Informatica Università degli Studi di Bari 22 aprile 2016 1 Linguaggi Liberi da Contesto 2 Grammatiche e Linguaggi Liberi da Contesto G = (X, V, S, P) è una grammatica
DettagliElementi di Algebra e di Matematica Discreta Numeri interi, divisibilità, numerazione in base n
Elementi di Algebra e di Matematica Discreta Numeri interi, divisibilità, numerazione in base n Cristina Turrini UNIMI - 2016/2017 Cristina Turrini (UNIMI - 2016/2017) Elementi di Algebra e di Matematica
DettagliAppunti sui Codici di Reed Muller. Giovanni Barbarino
Appunti sui Codici di Reed Muller Giovanni Barbarino Capitolo 1 Codici di Reed-Muller I codici di Reed-Muller sono codici lineari su F q legati alle valutazioni dei polinomi sullo spazio affine. Per semplicità
Dettagli1) Probabilità di errore di trasmissione. 2) Capacità di canale. 3) Esempi di calcolo della capacità. 4) Disuguaglianza di Fano
Argomenti della Lezione 1) Probabilità di errore di trasmissione ) Capacità di canale 3) Esempi di calcolo della capacità 4) Disuguaglianza di Fano 5) Teorema inverso della codifica di canale 1 Probabilità
DettagliOsservazione 1.1 Si verifica facilmente che esiste un unica relazione d ordine totale su Q che lo renda un campo ordinato.
1 Numeri reali Definizione 1.1 Un campo ordinato è un campo K munito di una relazione d ordine totale, compatibile con le operazioni di somma e prodotto nel senso seguente: 1. a, b, c K, a b = a + c b
DettagliAlcuni Teoremi sulle funzioni continue e uniforme continuità
Alcuni Teoremi sulle funzioni continue e uniforme continuità Teorema 0. Una funzione f(x) è continua in x 0 se e solo se per ogni sucessione {x n } dom(f) con x n x 0 dom(f), risulta f(x n ) f(x 0 ). (Non
DettagliCodifica sorgente e canale
Codifica sorgente e canale Codifica sorgente Codifica canale in Canale Compressione Codifica Decodifica Decompress. Rumoroso out Codifica sorgente: comprimere i dati per rimuovere ridondanza Codifica canale:
DettagliIl metodo dei Piani di Taglio (Cutting Planes Method)
Il metodo dei Piani di Taglio (Cutting Planes Method) E un metodo di soluzione dei problemi (IP) di tipo generale. L idea di base: Se la soluzione di (RL) non è intera allora la soluzione ottima intera
DettagliElezione di un leader in una rete ad anello
Elezione di un leader in una rete ad anello Corso di Algoritmi Distribuiti Prof. Roberto De Prisco Lezione n a cura di Rosanna Cassino e Sergio Di Martino Introduzione In questa lezione viene presentato
Dettagli2.2 Alberi di supporto di costo ottimo
. Alberi di supporto di costo ottimo Problemi relativi ad alberi hanno numerose applicazioni: progettazione di reti (comunicazione, teleriscaldamento,...) memorizzazione compatta di sequenze (DNA) diffusione
DettagliUn ripasso di aritmetica: Conversione dalla base 10 alla base 2
Un ripasso di aritmetica: Conversione dalla base 10 alla base 2 Dato un numero N rappresentato in base dieci, la sua rappresentazione in base due sarà del tipo: c m c m-1... c 1 c 0 (le c i sono cifre
DettagliAPPUNTI DI TEORIA DEI CODICI
UNIVERSITÀ DI CATANIA FACOLTÀ DI INGEGNERIA APPUNTI DI TEORIA DEI CODICI Autori: L. Cauchi V. La Terra R. Grasso F. Gullo Coperto da diritti di c copyright Ho letto questi appunti scritti da Lucia Cauchi,
DettagliAlgoritmi e Strutture Dati - II modulo Soluzioni degli esercizi
Algoritmi e Strutture Dati - II modulo Soluzioni degli esercizi Francesco Pasquale 6 maggio 2015 Esercizio 1. Su una strada rettilinea ci sono n case nelle posizioni 0 c 1 < c 2 < < c n. Bisogna installare
DettagliIntroduzione ai grafi
TFA A048 Anno Accademico 2012-13 Outline Cenni storici sui grafi Nozioni introduttive: cammini, connessione, alberi, cicli Cammini di costo minimo Origini storiche La nascita della teoria dei grafi risale
DettagliSERIE NUMERICHE FAUSTO FERRARI
SERIE NUMERICHE FAUSTO FERRARI Materiale propedeutico alle lezioni di Complementi di Analisi Matematica ed Elementi di Calcolo delle probabilità per il corso di Laurea in Ingegneria per la parte di Elementi
DettagliTEN Radici quadrate modulo p e modulo p k. Radici quadrate modulo p, con p > 2.
TEN 2008. Radici quadrate modulo p e modulo p k. Radici quadrate modulo p, con p > 2. Lemma 1. Sia n Z. Sia p > 2 un numero primo. (a) n è un quadrato modulo p se e solo se n p 1 2 1 mod p; (b) Sia n 0
DettagliCapitolo 1. Gli strumenti. 1.1 Relazioni
Capitolo 1 Gli strumenti Consideriamo un insieme X. In geometria siamo abituati a considerare insiemi i cui elementi sono punti ad esempio, la retta reale, il piano cartesiano. Più in generale i matematici
DettagliLinguaggi di Programmazione Corso C. Parte n.3 Linguaggi Liberi da Contesto e Linguaggi Contestuali. Nicola Fanizzi
Linguaggi di Programmazione Corso C Parte n.3 Linguaggi Liberi da Contesto e Linguaggi Contestuali Nicola Fanizzi (fanizzi@di.uniba.it) Dipartimento di Informatica Università degli Studi di Bari Grammatiche
DettagliNOTE DI ALGEBRA LINEARE v = a 1 v a n v n, w = b 1 v b n v n
NOTE DI ALGEBRA LINEARE 2- MM 9 NOVEMBRE 2 Combinazioni lineari e generatori Sia K un campo e V uno spazio vettoriale su K Siano v,, v n vettori in V Definizione Un vettore v V si dice combinazione lineare
DettagliGiovanna Carnovale. October 18, Divisibilità e massimo comun divisore
MCD in N e Polinomi Giovanna Carnovale October 18, 2011 1 Divisibilità e massimo comun divisore 1.1 Divisibilità in N In questa sezione introdurremo il concetto di divisibilità e di massimo comun divisore
DettagliAlgoritmi e Strutture Dati
Alberi Rosso-Neri (RB-Trees) Maria Rita Di Berardini, Emanuela Merelli 1 1 Dipartimento di Matematica e Informatica Università di Camerino A.A. 2007/08 Alberi Rosso-Neri: definizione Un albero rosso-nero
DettagliNote del corso di Calcolabilità e Linguaggi Formali - Lezione 10
Note del corso di Calcolabilità e Linguaggi Formali - Lezione 10 Alberto Carraro DAIS, Università Ca Foscari Venezia http://www.dsi.unive.it/~acarraro 1 Teoremi fondamentali della Recursion Theory Theorem
DettagliASPETTI MATEMATICI DI ALCUNI ALGORITMI DI COMPRESSIONE
Alma Mater Studiorum Università di Bologna FACOLTÀ DI SCIENZE MATEMATICHE, FISICHE E NATURALI Corso di Laurea in Matematica ASPETTI MATEMATICI DI ALCUNI ALGORITMI DI COMPRESSIONE Tesi di Laurea in Fisica
DettagliNote sull implementazione in virgola fissa di filtri numerici
Note sull implementazione in virgola fissa di filtri numerici 4 settembre 2006 1 Introduction Nonostante al giorno d oggi i processori con aritmetica in virgola mobili siano molto comuni, esistono contesti
DettagliDisequazioni di secondo grado
Disequazioni di secondo grado. Disequazioni Definizione: una disequazione è una relazione di disuguaglianza tra due espressioni. Detti p() e g() due polinomi definiti in un insieme A, una disequazione
DettagliForme bilineari simmetriche
Forme bilineari simmetriche Qui il campo dei coefficienti è sempre R Definizione 1 Sia V uno spazio vettoriale Una forma bilineare su V è una funzione b: V V R tale che v 1, v 2, v 3 V b(v 1 + v 2, v 3
DettagliLa codifica digitale
La codifica digitale Codifica digitale Il computer e il sistema binario Il computer elabora esclusivamente numeri. Ogni immagine, ogni suono, ogni informazione per essere compresa e rielaborata dal calcolatore
Dettagli1 Entropia: Riepilogo
Corso: Gestione ed elaborazione grandi moli di dati Lezione del: 30 maggio 2006 Argomento: Entropia. Costruzione del modello di una sorgente. Codifica di Huffman. Scribes: Galato Filippo, Pesce Daniele,
DettagliLezione 17 Ugo Vaccaro
Teoria dell Informazione II Anno Accademico 2015 2016 Lezione 17 Ugo Vaccaro Nella Lezione scorsa abbiamo introdotto una classe di codici a correzione di errore (codici di Hamming) in grado di correggere
DettagliEsercizi di ottimizzazione vincolata
Esercizi di ottimizzazione vincolata A. Agnetis, P. Detti Esercizi svolti 1 Dato il seguente problema di ottimizzazione vincolata max x 1 + x 2 x 1 4x 2 3 x 1 + x 2 2 0 x 1 0 studiare l esistenza di punti
DettagliAPPLICAZIONI LINEARI
APPLICAZIONI LINEARI Esercizi Esercizio Date le seguenti applicazioni lineari f : R 2 R 3 definita da fx y = x 2y x + y x + y; 2 g : R 3 R 2 definita da gx y z = x + y x y; 3 h : Rx] 2 R 2 definita da
DettagliTecniche di compressione senza perdita
FONDAMENTI DI INFORMATICA Prof. PIER LUCA MONTESSORO Facoltà di Ingegneria Università degli Studi di Udine Tecniche di compressione senza perdita 2000 Pier Luca Montessoro (si veda la nota di copyright
DettagliRegistro Lezioni di Algebra lineare del 15 e 16 novembre 2016.
Registro Lezioni di Algebra lineare del 15 e 16 novembre 2016 Di seguito si riporta il riassunto degli argomenti svolti; i riferimenti sono a parti del Cap8 Elementi di geometria e algebra lineare Par5
DettagliEsercizi di Matematica per la prova di ammissione alla Scuola Galileiana /16
Esercizi di Matematica per la prova di ammissione alla Scuola Galileiana - 015/16 Esercizio 1 Per quali valori n Z \ {0} l espressione è un numero intero positivo? (n + 5)(n + 6) 6n Soluzione. Il problema
DettagliDimostrazione. Indichiamo con α e β (finiti o infiniti) gli estremi dell intervallo I. Poniamo
C.6 Funzioni continue Pag. 114 Dimostrazione del Corollario 4.25 Corollario 4.25 Sia f continua in un intervallo I. Supponiamo che f ammetta, per x tendente a ciascuno degli estremi dell intervallo, iti
DettagliALGEBRA I: ASSIOMI DI PEANO E PROPRIETÀ DEI NUMERI NATURALI
ALGEBRA I: ASSIOMI DI PEANO E PROPRIETÀ DEI NUMERI NATURALI 1. GLI ASSIOMI DI PEANO Come puro esercizio di stile voglio offrire una derivazione delle proprietà elementari dei numeri naturali e delle operazioni
Dettagli5.4.5 Struttura dell algoritmo ed esempi
CAPITOLO 5. IL METODO DEL SIMPLESSO 6 5.4.5 Struttura dell algoritmo ed esempi Come abbiamo già ampiamente osservato, la fase II del metodo del simplesso, a partire da una soluzione di base ammissibile,
DettagliEsercitazione. Ricorsione. May 31, Esercizi presi dal libro di Rosen
Esercitazione Ricorsione May 31, 2016 Esercizi presi dal libro di Rosen Problema 2 a) sezione 5.3 Data la seguente funzione definita ricorsivamente come: f(n+1) = 2f(n) f(0) = 3 Determinare il valore di
DettagliLa Rappresentazione dell Informazione
La Rappresentazione dell Informazione Maurizio Palesi Sommario In questo documento sarà trattato il modo in cui, in un calcolatore, vengono rappresentati i vari generi di informazione (testi, numeri interi,
DettagliSoluzioni dei quesiti della maturità scientifica A.S. 2009/2010
Soluzioni dei quesiti della maturità scientifica AS 009/010 Nicola Gigli Sun-Ra Mosconi giugno 010 Quesito 1 Un generico polinomio di grado n si può scrivere nella forma p(x) a 0 + a 1 x + + a n x n dove
DettagliAnalisi dei metodi per individuare le strategie miste nei giochi 2 x 2
Analisi dei metodi per individuare le strategie miste nei giochi 2 x 2 L algoritmo numerico proposto, per risolvere i giochi 2x2 in caso di assenza di punto di sella, può essere ben schematizzato, relativamente
DettagliSERIE NUMERICHE FAUSTO FERRARI
SERIE NUMERICHE FAUSTO FERRARI Materiale propedeutico alle lezioni di Analisi Matematica per i corsi di Laurea in Ingegneria Energetica e Meccanica N-Z dell Università di Bologna. Anno Accademico 2003/2004.
Dettagli1. equivalenze e implicazioni logiche. Esercizio 1.2. Trovare le implicazioni che legano i seguenti enunciati (x, y R):
. equivalenze e implicazioni logiche Esercizio.. Trovare le implicazioni che legano i seguenti enunciati (x, y R): () x < y, () x = y, () x y, () x y, () (x y) > 0. Osserviamo subito che (x y) > 0 equivale
DettagliSpazi Vettoriali ed Applicazioni Lineari
Spazi Vettoriali ed Applicazioni Lineari 1. Sottospazi Definizione. Sia V uno spazio vettoriale sul corpo C. Un sottoinsieme non vuoto W di V è un sottospazio vettoriale di V se è chiuso rispetto alla
DettagliAlgoritmi e Strutture Dati (Mod. B) Algoritmi Greedy (parte I)
Algoritmi e Strutture Dati (Mod. B) Algoritmi Greedy (parte I) Algoritmi greedy Gli algoritmi per problemi di ottimizzazione devono in genere operare una sequenza di scelte per arrivare alla soluzione
DettagliL algoritmo AKS. L algoritmo AKS. Seminario per il corso di Elementi di Algebra Computazionale. Oscar Papini. 22 luglio 2013
L algoritmo AKS Seminario per il corso di Elementi di Algebra Computazionale Oscar Papini 22 luglio 2013 Test di primalità Come facciamo a sapere se un numero n è primo? Definizione (Test di primalità)
Dettagli0.1 Spazi Euclidei in generale
0.1. SPAZI EUCLIDEI IN GENERALE 1 0.1 Spazi Euclidei in generale Sia V uno spazio vettoriale definito su R. Diremo, estendendo una definizione data in precedenza, che V è uno spazio vettoriale euclideo
DettagliCOMPLETAMENTO DI SPAZI METRICI
COMPLETAMENTO DI SPAZI METRICI 1. Successioni di Cauchy e spazi metrici completi Definizione 1.1. Una successione x n n N a valori in uno spazio metrico X, d si dice di Cauchy se, per ogni ε > 0 esiste
DettagliReti logiche: analisi, sintesi e minimizzazione Esercitazione. Venerdì 9 ottobre 2015
Reti logiche: analisi, sintesi e minimizzazione Esercitazione Venerdì 9 ottobre 05 Punto della situazione Stiamo studiando le reti logiche costruite a partire dalle porte logiche AND, OR, NOT per progettare
DettagliALGEBRA I: SOLUZIONI QUINTA ESERCITAZIONE 9 maggio 2011
ALGEBRA I: SOLUZIONI QUINTA ESERCITAZIONE 9 maggio 2011 Esercizio 1. Usando l algoritmo euclideo delle divisioni successive, calcolare massimo comune divisore e identità di Bézout per le seguenti coppie
Dettagli1 se k = r i. 0 altrimenti. = E ij (c)
Facoltà di Scienze Statistiche, Algebra Lineare A, G.Parmeggiani LEZIONE 5 Matrici elementari e loro inverse Si fissi m un numero naturale. Per ogni i, j m con i j siano E ij (c) (ove c è uno scalare )
DettagliCenni di programmazione ricorsiva. Appunti per gli studenti di Programmazione I e Laboratorio (corsi A-B)
Cenni di programmazione ricorsiva Appunti per gli studenti di Programmazione I e Laboratorio (corsi A-B) Corso di Laurea in Informatica Università di Pisa A.A. 2009/10 R. Barbuti, P. Mancarella Indice
DettagliInformatica. Mario Pavone - Dept. Mathematics & Computer Science - University of Catania. Trasferimento. Ambiente esterno.
Trasferimento Ambiente esterno Controllo Informatica Mario Pavone - Dept. Mathematics & Computer Science - University of Catania mpavone@dmi.unict.it Cos è l Informatica La scienza della rappresentazione
DettagliParte n.4 Linguaggi: Gerarchia ed Operazioni
Linguaggi di Programmazione Corso C Parte n.4 Linguaggi: Gerarchia ed Operazioni Nicola Fanizzi (fanizzi@di.uniba.it) Dipartimento di Informatica Università degli Studi di Bari Gerarchia di Chomsky Sia
DettagliDati e Algoritmi I (Pietracaprina) Esercizi sugli Alberi
Dati e Algoritmi I (Pietracaprina) Esercizi sugli Alberi Dati e Algoritmi I (Pietracaprina): Esercizi 1 Problema 1 Dimostrare che un albero non vuoto con n nodi interni, dove ogni nodo interno ha almeno
DettagliPROCESSI STOCASTICI 1: INTEGRAZIONI
PROCESSI STOCASTICI 1: INTEGRAZIONI 1. Definizioni e risultati sparsi Def. Dato un insieme I, si chiama processo stocastico con spazio degli stati I una famiglia {X t } t T di variabili aleatorie a valori
DettagliMassimo limite e minimo limite di una funzione
Massimo limite e minimo limite di una funzione Sia f : A R una funzione, e sia p DA). Per ogni r > 0, l insieme ) E f p r) = { fx) x A I r p) \ {p} } è non vuoto; inoltre E f p r ) E f p r ) se 0 < r r.
DettagliALGORITMI CORSO DI STUDIO IN INFORMATICA (laurea triennale) UNIVERSITÀ DEGLI STUDI DI CATANIA ANNO ACCADEMICO 2014/15
ANNO ACCADEMICO 2014/15 1 a prova in itinere 13 gennaio 2015 ESERCIZIO 1 Si risolva l equazione di ricorrenza al variare del parametro reale a>1. T (n) = 27 n a T + n 2 log n a ESERCIZIO 2 Si ordinino
DettagliMetodi e Modelli per l Ottimizzazione Combinatoria Cover inequalities
Metodi e Modelli per l Ottimizzazione Combinatoria Cover inequalities L. De Giovanni M. Di Summa In questa lezione introdurremo una classe di disuguaglianze, dette cover inequalities, che permettono di
DettagliM. Marra Appunti delle Lezioni di Ricerca Operativa Problemi e metodi di ottimizzazione PROBLEMI E METODI DI OTTIMIZZAZIONE
CAPITOLO I PROBLEMI E METODI DI OTTIMIZZAZIONE 1. Componenti di base Tutti i problemi di ottimizzazione dipendono da tre componenti di base: le variabili del problema, la funzione obiettivo ed i vincoli.
DettagliALGEBRE DI BOOLE. (d) x, y X x y oppure y x.
ALGEBRE DI BOOLE Un insieme parzialmente ordinato è una coppia ordinata (X, ) dove X è un insieme non vuoto e " " è una relazione binaria definita su X tale che (a) x X x x (riflessività) (b) x, y, X se
DettagliCodice Gray. (versione Marzo 2007)
Codice Gray (versione Marzo 27) Data una formula booleana con n variabili, per costruire una tavola di verità per questa formula è necessario generare tutte le combinazioni di valori per le n variabili.
DettagliEsercizi sulle equazioni differenziali a cura di Sisto Baldo, Elisabetta Ossanna e Sandro Innocenti
Esercizi sulle equazioni differenziali a cura di Sisto Baldo, Elisabetta Ossanna e Sandro Innocenti 1. Verifica che y(t) = 1 t + e t è una soluzione dell equazione y (t) = y(t) + t.. Scrivi un equazione
DettagliRicerca Operativa. G. Liuzzi. Lunedí 20 Aprile 2015
1 Lunedí 20 Aprile 2015 1 Istituto di Analisi dei Sistemi ed Informatica IASI - CNR Rilassamento di un problema Rilassare un problema di Programmazione Matematica vuol dire trascurare alcuni (tutti i)
DettagliRETTE E PIANI NELLO SPAZIO
VETTORI E GEOMETRIA ANALITICA 1 RETTE E PIANI NELLO SPAZIO Rette e piani in forma cartesiana e parametrica. Parallelismo e perpendicolarità, posizioni reciproche tra rette e piani, distanze. Esercizio
DettagliUnità 30. Sommario. Bibliografia. Auto-informazione di un evento Auto-informazione di un esperimento aleatorio Esempi. [Bel] -- [Ros] 9.
Unità 30 Sommario Auto-informazione di un evento Auto-informazione di un esperimento aleatorio Esempi Bibliografia [Bel] -- [Ros] 9.3 [Pap] -- 1 Auto-informazione di un evento Prima di effettuare un esperimento
Dettaglimisura. Adesso, ad un arbitrario punto P dello spazio associamo una terna di numeri reali x
4. Geometria di R 3. Questo paragrafo è molto simile al paragrafo : tratta infatti delle proprietà geometriche elementari dello spazio R 3. Per assegnare delle coordinate nello spazio, fissiamo innanzitutto
DettagliEsercitazione 6 - Soluzione
Anno Accademico 28-29 Corso di Algebra Lineare e Calcolo Numerico per Ingegneria Meccanica Esercitazione 6 - Soluzione Immagine, nucleo. Teorema di Rouché-Capelli. Esercizio Sia L : R 3 R 3 l applicazione
DettagliEsercizi. y = x 2 1 (t x). Essa interseca la parabola quando y = t 2 cioé. 1, t = x. (t + x) = 1. x 2 1 2x (t x) = t2, (t x)(t + x) = 1.
Esercizi Esercizio. Consideriamo nel piano xy la parabola y = x. Discutere il problema di trovare, tra tutte le corde che congiungono due punti sulla parabola tali che in una delle due estremità la corda
DettagliIndice. A Riassunto formule principali sulla Teoria dell Informazione per sorgenti135
Indice 8 Teoria dell Informazione per sorgenti 123 8.1 Introduzione.................................... 123 8.2 Codifica di sorgente............................... 123 8.2.1 Classificazione tecniche di
DettagliCammini minimi fra tutte le coppie
Capitolo 12 Cammini minimi fra tutte le coppie Consideriamo il problema dei cammini minimi fra tutte le coppie in un grafo G = (V, E, w) orientato, pesato, dove possono essere presenti archi (ma non cicli)
DettagliAPPUNTI DI TEORIA DEGLI INSIEMI. L assioma della scelta e il lemma di Zorn Sia {A i } i I
APPUNTI DI TEORIA DEGLI INSIEMI MAURIZIO CORNALBA L assioma della scelta e il lemma di Zorn Sia {A i } i I un insieme di insiemi. Il prodotto i I A i è l insieme di tutte le applicazioni α : I i I A i
DettagliDue numeri naturali non nulli a, b tali che MCD(a,b) = 1 si dicono coprimi o relativamente primi.
MASSIMO COMUNE DIVISORE E ALGORITMO DI EUCLIDE L algoritmo di Euclide permette di calcolare il massimo comun divisore tra due numeri, anche se questi sono molto grandi, senza aver bisogno di fattorizzarli
DettagliZeri di funzioni e teorema di Sturm
Zeri di funzioni e teorema di Sturm Enrico Bertolazzi Dipartimento di Ingegneria Meccanica e Strutturale Università degli Studi di Trento via Mesiano 77, I 38050 Trento, Italia EnricoBertolazzi@ingunitnit
DettagliApplicazioni lineari tra spazi euclidei. Cambi di base.
pplicazioni lineari tra spazi euclidei. Cambi di base. Esercizio. Data la seguente applicazione lineare f : R R : f(x, y, z) = (x z, x + y, y + z), scrivere la matrice B, rappresentativa di f rispetto
DettagliCOMPLETEZZA DELL INSIEME DEI NUMERI REALI R.
COMPLETEZZA DELL INSIEME DEI NUMERI REALI R. FABIO CIPRIANI 1. Completezza dell insieme dei numeri reali R. Nell insieme dei numeri reali R la condizione di Cauchy e necessaria e sufficiente per la convergenza
DettagliDefinizioni. Soluzione ottima: migliore soluzione possibile Soluzione ottima localmente: soluzione ottima in un dominio contiguo. Il paradigma greedy
Il paradigma greedy Paolo Camurati, Fulvio Corno, Matteo Sonza Reorda Dip. Automatica e Informatica Politecnico di Torino Definizioni Soluzione ottima: migliore soluzione possibile Soluzione ottima localmente:
Dettagli