5.5.6 Convergenza del metodo del simplesso

Transcript

1 5.5.6 Convergenza del metodo del simplesso Per concludere l analisi del metodo del simplesso, vogliamo ora mostrare che, sotto opportune ipotesi, il numero di iterazioni è finito, ovvero che, in un numero finito di iterazioni, l algoritmo descritto nei paragrafi precedenti converge alla soluzione ottima del problema iniziale o conclude che il problema è illimitato inferiormente. A tale scopo notiamo che, nelle ipotesi che abbiamo finora adottato (il problema lineare è ammissibile e il rango della matrice A è m) sappiamo che il numero di basi ammissibili per il problema è finito e maggiore o uguale a 1 (perchè il poliedro del problema in forma standard ammette almeno un vertice, essendo non vuoto e non contenendo rette). Il principale risultato sulla convergenza II del metodo del simplesso è il seguente. Teorema Se nell applicazione del metodo del simplesso non viene mai generata due volte la stessa base (cioè se nessuna base si ripete nella sequenza delle basi prodotte dal metodo), allora esiste un indice t 1 tale che la base B t nella sequenza prodotta dal metodo soddisfa il criterio di ottimalità o quello di illimitatezza. Prova. Come abbiamo più volte osservato, ad ogni iterazione, se i criteri di arresto e di illimitatezza non sono verificati, il metodo è in grado di generare una nuova base ammissibile differente da quella corrente. D altra parte, siccome le basi sono in numero finito, e abbiamo fatto l ipotesi che non ci siano ripetizioni, dopo un numero finito di passi (pari al più al numero di basi ammissibili distinte del problema) non potranno più essere generate basi diverse da tutte le precedenti. Dunque, necessariamente, o il criterio di ottimalià o quello di illimitatezza devono essere soddisfatti. È appena il caso di osservare che, nelle ipotesi di questo teorema, il metodo del simplesso termina una volta raggiunta la base B t con il soddisfacimento del criterio di ottimalità o del criterio di illimitatezza. Un caso semplice (poco frequente nelle applicazioni reali) in cui si può garantire che non ci sono ripetizioni di basi è quello in cui tutte le soluzioni di base siano non degeneri. In questo caso infatti, il Corollario ci assicura che ad ogni cambio di base corrisponde una diminuzione del valore della funzione obiettivo. È allora chiaro che non ci possono essere ripetizioni di base, perché questo implicherebbe che in qualche iterazione viene generata una nuova base il cui valore è maggiore del valore della base precedente. Questa osservazione ci permette di enunciare, senza bisogno di ulteriori dimostrazioni, il seguente corollario. Corollario Se ogni soluzione di base ammissibile del problema (5.24) è non degenere allora, in un numero finito di passi, il metodo del simplesso converge alla soluzione ottima o conclude che il problema è illimitato inferiormente. Se il problema lineare ammette SBA degeneri, è possibile che il metodo del simplesso generi una sequenza di basi ammissibili {B 1,..., B q } (q > 1) con B 1 = B q. Ovviamente affinché ciò sia possibile è evidente che (visto che il valore della funzione obiettivo ad ogni cambio di fase non cresce) deve risultare che il valore della funzione obiettivo in ogni base {B 1,..., B q } è costante. A sua volta, ciò è possibile solamente se ad ogni iterazione ρ = 0. Questo vuol quindi dire che, nella situazione appena descritta, le basi {B 1,..., B q } 150

2 corrispondono tutte allo stesso vertice (degenere). In tale situazione, se usiamo un qualsiasi criterio deterministico per la scelta della variabile entrante e della variabile uscente, l algoritmo genererà la stessa sequenza di basi ammissibili indefinitamente. Tale situazione viene detta di ciclaggio, ed è illustrata dal seguente esempio, dovuto a Beale. Esempio Si consideri il problema min 3 4 x 4 +20x 5, 1 2 x 6 +6x 7 x x 4 8x 5 x 6 +9x 7 = 0 x x 4 12x x 6 +3x 7 = 0 (5.65) x 3 +x 6 = 1 x 0 Indicando con a i, i = 1,..., 7, le colonne della matrice dei vincoli di uguaglianza del problema (5.65), la base ottima di questo problema è (a 1, a 4, a 6 ) (si lascia al lettore la verifica del test di ottimalità). Supponiamo ora di applicare il metodo del simplesso a partire dalla base ammissibile ovvia (a 1, a 2, a 3 ). Si tratta ovviamente di una base degenere in quanto x 1 = 0 e x 2 = 0. Supponiamo ora di applicare il metodo del simplesso scegliendo ad ogni iterazione l indice h della variabile entrante per il quale il coefficiente di costo ridotto è minimo e l indice k della varibile uscente il più piccolo tra quelli possibili (ad ogni iterazione ci sono una o due scelte possibili per k). Il lettore può verificare che con queste scelte (molto naturali, e coerenti con le scelte usate in classe per la risoluzione degli esercizi) viene generata la seguente successione di basi (a 1, a 2, a 3 ), (a 4, a 2, a 3 ), (a 4, a 5, a 3 ), (a 6, a 5, a 3 ), (a 6, a 7, a 3 ), (a 1, a 7, a 3 ), (a 1, a 2, a 3 ). Si tratta di una serie di basi degeneri tutte corrispondenti allo stesso vertice. La cosa importante da notare è che l ultima base indicata coincide con la prima. Quindi è chiaro che (se non si cambiano i criteri di scelta di h e k) da questo punto in poi, il metodo non farà altro che ripetere indefinitivamente la stessa successione di basi senza mai raggiungere la base ottima. Quindi, nel caso (più frequente nelle applicazioni) in cui esistano SBA degeneri, il Metodo del Simplesso, così come descritto prima, può non convergere, ovvero può produrre una sequenza infinita di basi ammissibili senza mai verificare uno dei due criteri di arresto. Questa situazione indesiderata può essere risolta sfruttando la libertà esistente nel metodo nella scelta di h e k. È possibile definire opportune regole anti ciclaggio per la selezione di questi indici quando ci sia più di una variabile candidata ad entrare o uscire. Utilizzando queste regole si può garantire in ogni caso che il metodo del simplesso converge in un numero finito di passi. È da notare, però, che spesso queste regole non vengono applicate in pratica, perchè eccessivamente onerose e il metodo 151

3 del simplesso viene applicato esattamente così come lo abbiamo descritto. La pratica mostra che i casi in cui, pur non applicando nessuna regola anti ciclaggio, l algoritmo non converge (cicla) sono rari. Inoltre, nel momento in cui ci si rende conto di trovarsi in una di queste rare situazioni è sempre possibile applicare le regole anti ciclaggio (anche ad algoritmo già iniziato). La discussione della reale implementazione pratica del metodo del simplesso è però argomento molto complesso e non può essere qui trattata in dettaglio. Ci limitiamo a riportare una delle più famose e semplici regole anti ciclaggio, la regola di Bland. Regola anti ciclaggio di Bland: Ogni volta che c è più di una variabile candidata ad entrare in base si sceglie quella con indice h più piccolo. Ogni volta che c è più di una variabile candidata ad uscire dalla base si sceglie quella con indice k più piccolo. Vale il seguente teorema, che riportiamo senza dimostrazione. Teorema Supponiamo di applicare il metodo del simplesso con la regola di Bland per la scelta delle variabili entranti e delle variabili uscenti (cioè per la scelta di h e k). Allora non viene mai generata due volte la stessa base e quindi, per il Teorema , esiste un indice t 1 tale che la base B t nella sequenza generata dal metodo del simplesso soddisfa il criterio di ottimalità o quello di illimitatezza e il metodo converge quindi in un numero finito di passi. Il lettore può verificare che se si applica la regola di Bland nella soluzione del problema di Beal considerato sopra, viene in effetti trovata la base ottima in un numero finito di passi Eliminazione delle ipotesi e calcolo delle prima forma canonica Tuttavia il precedente algoritmo può essere definito supponendo che l Assunzione sia soddisfatta e che una Base Ammissibile e la sua relativa forma canonica siano note. Queste difficoltà possono essere superate per via algoritmica e sono state proposte in letteratura varie tecniche. Un esempio è la seguente. Si considera, coma al solito, un problema di Programmazione Lineare in forma standard: min c T x Ax = b (5.66) x 0 n, in cui si richiede la seguente assunzione. Assunzione: Il vettore b dei vincoli di uguaglianza del problema 5.66 è tale che: b 0 m. In realtà la precedente non è una vera e propria assunzione, ma piuttosto la richiesta di formulare i vincoli in maniera tale da soddisfare b 0 m. Infatti se una componente 152

4 b i è strettamente negativa, basta cambiare il segno ad entrambi i termini dell i-esimo vincolo per soddisfare l ipotesi richiesta. A partire dal problema 5.66, si definisce il seguente problema in cui si introducono m nuove variabili α 1,..., α m : min m c T x + M α i (5.67) i=1 Ax + I m α = b con M R, M > 0 e con α = (α 1,..., α m ) T. x 0 n, α 0 m Questo nuovo problema di Programmazione Lineare soddisfa tutte le ipotesi richieste per poter applicare il precedente metodo del simplesso, infatti: è facile verificare che il punto (x, α) = (0, b), avendo ipotizzato b 0 m, soddisfa tutti i vincoli del problema ausiliario, quindi l insieme ammissibile del problema 5.67 è non vuoto; la matrice dei vincoli (A I m ), contenendo la matrice identità m m, soddisfa alla richiesta che rango(a I m ) = m; la matrice ˆB = I m è una base ammissibile per il problema 5.67 (poichè ˆB 1 b = b 0 m ) e si ha che ˆB 1 ˆN = ˆN = A ed ˆB 1 b = b. Il seguente teorema descrive il legami tra il problema 5.67 è quello iniziale Teorema Esiste un valore M tale che, per ogni M M si ha che: - se il Problema 5.67 ha una soluzione ottima (x, α ) allora: - se α = 0 allora x è una soluzione ottima del Problema 5.66; - se α 0 allora il Problema 5.66 è non ammissibile; - se il Problema 5.67 è illimitato inferiormente allora il il Problema 5.66 è illimitato inferiormente oppure non ammissibile. 153

5 Appendix A Richiami di Algebra Lineare A.1 Vettori Rappresentazione di un vettore Ogni vettore x R n è pensato come un vettore colonna, cioè x = x 1 x 2 x n Di conseguenza il suo trasposto x T è il seguente vettore riga: x T = ( x 1 x 2 x n ).. Operazioni su vettori Il prodotto tra uno scalare α R ed un vettore x R n è il vettore dato da: αx 1 αx 2 αx = αx n La somma tra due vettori x, y R n è il vettore dato da: x 1 + y 1 x 2 + y 2 x + y = x n + y n 154

6 Il prodotto scalare tra due vettori x, y R n è lo scalare dato da: n x T y = x i y i. i=1 Dalla sua definizione segue la seguente proprietà: x T y = y T x. Norma di un vettore La norma di un vettore è uno scalare definito dalle seguenti proprietà: Alcuni esempi di norma sono: 1) x 0 per ogni x R n, x = 0 se e solamente se x = 0 2) αx = α x, per ogni α R 3) x + y x + y per ogni x, y R n n x 1 = x i, i=1 x 2 = n x 2 i i=1 x = max 1 i n x i La norma 2 è detta norma Euclidea e può essere scritta anche come x 2 = x T x. Una importante proprietà (detta equivalenza delle norme) assicura che comunque scelte due norme p e q esistono due scalari c 1, c 2 > 0 tali che si ha c 1 x q x p c 2 x q per ogni x, y R n. In particolare vangono le seguenti relazioni: x x 2 x 1, x 1 n x 2, x 2 n x. (A.1) Disuguaglianza di Schwarz, angolo tra vettori, vettori ortogonali Comunque scelti due vettori x, y R n, per la norma Euclidea vale la seguente disuguaglianza di Schwarz: x T y x 2 y 2, (A.2) 155

7 dove l uguaglianza vale se e solamente se i due vettori sono collineari (cioè x = αy con α R). Utilizzando la precedente disuguaglianza si può definire il coseno dell angolo compreso tra due vettori: cos θ = xt y. x 2 y 2 Due vettori x, y R n sono detti ortogonali se: x T y = 0. Indipendenza lineare e rango di insieme di vettori Dei vettori x 1, x 2,..., x m R n sono linearmente indipendenti se non esistono degli scalari α 1, α 2,..., α m R non tutti nulli tali che: m α i x i = 0. i=1 Il rango di un insieme di vettori è il massimo numero di vettori linearmente indipendenti contenuti nel insieme. A.2 Matrici Rappresentazione di una matrice Ogni matrice A R m n è pensata come a 11 a 12 a 1n a 21 a 22 a 2n A =, a m1 a m2 a mn che può essere rappresentata in forma più compatta A = [a ij ] i=1...m j=1...n Di conseguenza la matrice trasposta A T R n m è data da: a 11 a 21 a m1 a 12 a 22 a m2 A T = a 1n a 2n a mn 156

8 e A T = [a ji ] i=1...m j=1...n Data una matrice A R m n, le sue colonne sono rappresentate vettori ai R m, i = 1..., n a 1i a 2i ai =, per cui si ha: a mi A = ( a1 a2 an ). Data una matrice A R m n, le sue righe sono rappresentate vettori a i R n, i = 1..., m da cui: Matrici quadrate a i = a i1 a i2 a in a T 1 a T 2 A =. a T m Una matrice A R m n è detta quadrata se m = n Matrici simmetriche Una matrice A R m n è detta simmetrica se è quadrata e se soddifa la propietà a ij = a ji per i = 1,..., n e j = 1,..., n. Una matrice A R n n simmetrica coincide con la sua trasposta cioè A = A T. Operazioni su matrici Il prodotto tra uno scalare α R ed una matrice A R m n è la matrice data da:, αa = [αa ij ] i=1...m j=1...n La somma tra due matrici A, B R m n è la matrice data da: A + B = [a ij + b ij ] i=1...m j=1...n 157

9 Date due matrici A R m p e B R p n (in cui il numero di colonne della prima è uguale al numero di righe della seconda) si può definire la matrice prodotto D R m n data da: D = AB = [d ij ] i=1...m j=1...n p con d ij = a ih b hj. h=1 Come caso particolare, si può definire il vettore y R m che dato dal prodotto di una matrice A R m n ed un vettore x R n : nj=1 a 1j x j nj=1 a 2j x j y = Ax =, nj=1 a mj x j che può anche essere riscritto nelle seguenti maniere: a T 1x n a T 2x y = ai x i, y = i=1 a T mx Dati due vettori y R m e x R n ed una matrice A R m n si definisce il seguente scalare: m n y T Ax = x T A T y = a ij y i x j. Rango di una matrice i=1 j=1 Data una matrice A R m n si definisce rango di A, rango(a), il massimo numero di colonne e/o righe linearmente indipendenti. Matrici invertibili Una matrice quadrata A R n n è detta invertibile o non singolare se il suo determinante è diverso da zero. Data una matrice quadrata A R n n, le seguenti affermazioni sono equivalenti: i) la matrice A è invertibile; ii) la matrice A T è invertibile; iii) per ogni vettore x R n tale che x 0 si ha che Ax 0; iv) per ogni vettore y R n esiste un unico vettore x R n tale che y = Ax; 158

10 v) esiste una unica matrice A 1 R n n (detta matrice inversa di A) tale che A 1 A = AA 1 = I; vi) le colonne di A sono linearmente indipendenti; vii) le righe di A sono linearmente indipendenti; Norma di matrici quadrate La norma di una matrice A R n n può essere definita sia interpretando la matrice come un insieme di n 2 elementi a ij, con i = 1,..., n e j = 1,..., n, e sia pensandola come un operatore lineare da R n a R n. Nel primo caso si può definire come norma di A una norma vettoriale dei suoi elementi. Una norma di questo tipo è la seguente norma di Frobenius: n n A F = a 2 ij. i=1 j=1 Nel caso che la matrice è considerata un operatore lineare si può definire una norma indotta dalla norma associata allo spazio vettiriale R n : In particolare si ha: A p = Ax p sup Ax p = sup. x p=1 x R n,x 0 x p A 1 = max n 1 j n i=1 n A = max A 2 = 1 i n j=1 λ max (A T A) a ij = max 1 j n aj 1 a ij = max 1 i n a i 1 dove λ max (A T A) indica il massimo autovalore della matrice A T A. Se A è una matrice simmetrica si ha: A 2 = max 1 i n λ i(a), dove λ i (A), con i = 1,..., n, sono gli autovalori di A. Tra le precedenti norme valgono le seguenti relazioni: 1 n A F A 2 A F, 1 n A 1 A 2 n A 1, 1 n A A 2 n A. 159

11 Date due matrici A R n n e B R n n, sia la norma F che le norme 1, 2, vale la relazione: AB A B. Matrici simmetriche definite positive e semidefinite positive Una matrice simmetrica A R n n è detta essere definita positiva se per ogni x R n si ha x T Ax > 0. Una matrice simmetrica A R n n è detta essere semidefinita positiva se per ogni x R n si ha x T Ax 0. Una matrice simmetrica A R n n è definita positiva se e solamente i suoi autovalori sono positivi, cioè λ min (A) > 0. Una matrice simmetrica A R n n è definita positiva se e solamente i determinanti dei suoi minori principali sono positivi. Una matrice simmetrica A R n n è semidefinita positiva se e solamente i suoi autovalori sono non negativi, cioè λ min (A) 0. Data matrice simmetrica A R n n definita semidefinita positiva esiste una matrice simmetrica A 1 2 R n n tale che i) A = A 1 2 A 1 2 ; ii) la matrice simmetrica A 1 2 è invertibile se e solamente se A è invertibile; iii) se A è invertibile si ha A 1 = A 1 2 A 1 2. Data matrice A R m n allora i) la matrice A T A è simmetrica e semidefinita positiva; ii) la matrice simmetrica A T A è definita positiva se e solamente se A ha rango n; iii) se n = m la matrice simmetrica A T A è definita positiva se e solamente se A è invertibile. Minimo e massimo autovalore di una matrice simmetrica Data una matrice simmetrica A R n n il suo minimo autovalore ed il suo massimo possono essere definiti come: λ min (A) = min xt Ax x T x, λ max(a) = max xt Ax x T x. (A.3) 160

12 Appendix B Richiami di Analisi Matematica B.1 Successioni Limiti di successioni Data una successione {x k }, con x k R n, un vettore x R n è un limite della successione se per ogni ε esiste un indice k ε tale che: x k x ε per ogni k k ε. Quando una sequenza ha un limite si usa la notazione: lim x k = x k e la successione è detta convergere al punto x. Ogni successione ha al piú un solo limite. Per esempio la successione ha come limite il punto 0. Limiti di successioni di scalari {x k } = { 1 } 1 + k Ogni successione di scalari non crescente (non decrescente) e limitata inferiormente (superiormente) ha un limite. Punti di accumulazione di successioni Data una successione {x k }, con x k R n, un vettore x R n è un punto di accumulazione della successione se per ogni ε e per ogni k esiste un indice k k tale che: x k x ε. 161

13 Se x è un punto di accumulazione della successione {x k } allora esiste una sotto successione {x k } K contenuta in {x k } che converge a x (cioè ha limite in x). Sintenticamente si scrive: lim k,k K x k = x Come esempio si può osservare la successione { } 1 {x k } = 1 + k + ( 1)k che ha due punti di accumulazione - il punto 1 a cui converge la sottosequenza {x k } K1 con K 1 l insieme degli interi dispari; - il punto 1 a cui converge la sottosequenza {x k } K2 con K 2 l insieme degli interi pari. Ogni successione limitata (cioè esiste uno scalare γ tale che x k γ) ammette un punto di accumulazione. Se la successione {x k } converge a un limite x allora tutti i punti di accumulazione coincidono con il limite x. Punti di accumulazione di successioni di scalari Data una successione {α k }, con α k R, il piú piccolo dei sui punti di accumulazione è caratterizzato dal seguente limite: lim inf k e il piú grande dal seguente limite: α k = lim k inf l k α l, lim sup α k = lim k sup k l k Se la successione {α k } non ha punti di accumulazione si ha{α k } Insiemi chiusi lim inf k α k =. Un insieme A R n è chiuso se ogni punto di accumulazione di una successione {x k }, con x k A per ogni k, continua ad appartenere all insieme A. Insiemi compatti Un insieme A R n è compatto se è chiuso e limitato. Se un insieme A R n è compatto allora ogni successione {x k } tale che x k A per ogni k ha almeno un punto di accumulazione e tutti i suoi punti di accumulazione appartengono all insieme A. 162 α l.

14 B.2 Funzioni continue, vettore gradiente, matrice Hessiana Funzioni continue Una funzione f : R n R è continua in x se per ogni successione {x k }, con x k R n e tale che lim k x k = x si ha: lim k f(x k) = f( x) o, equivalentemente, se per ogni ϵ > 0 esiste un δ ϵ > 0 tale che f(x) f( x) ϵ, per ogni x B( x, δ ϵ ). L insieme delle funzioni continue su R n viene indicato con C(R n ). Funzioni continuamente differenziabili Data una funzione f : R n R se nel punto x R n il seguente limite esiste f(x 1,..., x i + ϵ,..., x n ) f(x) lim ϵ 0 ϵ e viene detto derivata parziale di f in x rispetto alla variabile x i ed è indicato con f(x) x i f(x 1,..., x i + ϵ,..., x n ) f(x) = lim. ϵ 0 ϵ Se in un punto x R n esistono tutte le derivate parziali f(x) x i, con i = 1,..., n, si può definire il vettore gradiente di f in x: oppure il suo vettore trasposto f(x) = f(x) x 1 f(x) x 2 f(x) x n f(x) x = ( f(x) x 1 f(x) x 2 f(x) x n ) Se per ogni x R n tutte le derivate parziali f(x) x i, i = 1,..., n, esistono e sono continue, la funzione viene detta continuamente differenziabile. L insieme delle funzioni continuamente differenziabili su R n viene indicato con C 1 (R n ). Funzioni due volte continuamemte differenziabili 163

15 Se per ogni x R n tutte le derivate parziali f(x) x i, i = 1,..., n, sono continuamente differenziabili, esitono e sono continui i seguenti limiti 2 f(x) x i x j = lim ϵ 0 f(x 1,...,x j +ϵ,...,x n ) x i ϵ f(x) x i, per ogni i = 1,..., n, j = 1,..., n. Tali limiti vengono detti derivate parziali seconde di f in x rispetto alla variabile x i ed alla variabile x j. Si definisce Hessiano di f, la matrice definita nella seguente maniera: 2 f(x) x 1 x 2 2 f(x) = 2 f(x) x f(x) x 2 x 1 2 f(x) x f(x) x 1 x n 2 f(x) x 2 x n 2 f(x) x n x 1 2 f(x) x n x 2 2 f(x) x 2 x 2 4 Se per ogni x R n tutte le derivate parziali f(x) x i, i = 1,..., n, sono continuamente differenziabili la funzione viene detta due volte continuamente differenziabile. L insieme delle funzioni due volte continuamente differenziabili su R n viene indicato con C 2 (R n ). Esempio Data la funzione f(x) = 100(x 2 x 2 1 )2 + (1 x 1 ) 2 si ha: Matrice Jacobaina ( 400(x2 x f(x) = 2 1 )x ) 1 2(1 x 1 ) 200(x 2 x 2 1 ), 2 f(x) = ( 1200x x ) 400x 1 400x Dato una funzione vettoriale g : R n R m, cioè un vettore di funzioni: g 1 (x) g 2 (x) g(x) = g m x) In ogni punto x R n in cui il seguente limite esiste g j (x 1,..., x i + ϵ,..., x n ) g j (x) lim = g j(x), ϵ 0 ϵ x i 164

16 viene detto derivata parziale della funzione g j in x rispetto alla variabile x i. In un punto x R n in cui esistono tutte le derivate parziali g j(x) x i, con j = 1,..., m e i = 1,..., n, si può definire la matrice Jacobiana di g in x: g 1 (x) g x 2 1 (x) x g(x) = g(x) x = g 1 (x) x 1 g 1 (x) x 1 g 2 (x) x 1 g 2 (x) x 2 g 1 (x) x n g 2 (x) x n g m (x) x 1 oppure la sua matrice trasposta g 2 (x) x 2 g 1 (x) x 2 g 2 (x) x 2 g m (x) x 1 g m (x) x 1 g m (x) x 2 g 1 (x) x n g 2 (x) x n g m (x) x n g m (x) x n = g 2 (x) x g m (x) x, = ( g 1 (x) g 2 (x) g m (x) ). Funzione lineare Una funzione f : R n R è detta lineare se ha la seguente espressione: f(x) = c T x, con c R n. Funzione affine Una funzione f : R n R è detta affine se ha la seguente espressione: f(x) = c T x + α, con c R n e α R. Funzione quadratica Una funzione f : R n R è detta quadratica se ha la seguente espressione: f(x) = 1 2 xt Qx + c T x + q, con Q R n n, c R n e q R. 165

17 B.3 Teoremi della media Teoremi della media del primo ordine Teorema B.3.1 Sia f C 1 (R n ) allora per ogni x, y R n esiste un λ [0, 1] per cui si ha: f(y) = f(x) + f(x + λ(y x)) T (y x). Teorema B.3.2 Sia f C 1 (R n ) allora per ogni x R n e per ogni sequenza di vettori {y k }, con y k R n, tale che lim k y k = x, si ha: f(y k ) = f(x) + f(x) T (y k x) + r 1 (x, y k ), con Teoremi della media del secondo ordine r 1 (x, y k ) lim k y k x = 0. Teorema B.3.3 Sia f C 2 (R n ) allora per ogni x, y R n esiste un λ [0, 1] per cui si ha: f(y) = f(x) + f(x) T (y x) (y x)t 2 f(x + λ(y x))(y x). Teorema B.3.4 Sia f C 2 (R n ) allora per ogni x R n e per ogni sequenza di vettori {y k }, con y k R n, tale che lim k y k = x, si ha: f(y k ) = f(x) + f(x) T (y k x) (y k x) T 2 f(x)(y k x) + r 2 (x, y k ) con lim k r 2 (x, y k ) y k x 2 = 0. Teoremi della media del primo ordine per funzioni vettoriali Teorema B.3.5 Sia g : R n R m, con g i C 1 (R n ) per i = 1,..., m, allora per ogni x, y R n esistono m scalari λ i [0, 1], con i = 1,..., m, per cui si ha: g(y) = g(x) + g 1 (x+λ 1 (y x)) x g 2 (x+λ 2 (y x)) x g m (x+λ m (y x)) x 166 (y x)

18 Teorema B.3.6 Sia g : R n R m, con g i C 1 (R n ) per i = 1,..., m, allora per ogni x, y R n si ha: 1 g(x + t(y x)) g(y) = g(x) + (y x)dt 0 x oppure g(x + t(y x) g(x) g(x) sup ) y x 0 t 1 x 167

19 Contents 1 Introduzione Introduzione Problemi di Ottimizzazione Continua Problemi di Ottimizzazione Discreta Problemi di Ottimizzazione Mista Condizioni di esistenza Condizioni di esistenza per Problemi di Ottimizzazione Discreta Condizioni di esistenza per Problemi di Ottimizzazione Continua 9 2 Condizioni di Ottimalità Introduzione Condizione di ottimalità per problemi di ottimizzazione non vincolata Utilizzazioni delle condizione di ottimalità per problemi di ottimizzazione non vincolata Utilizzazione delle condizioni di ottimalità per calcolare direttamente i minimi locali Utilizzazione delle condizioni di ottimalità per definire degli algoritmi per problemi di ottimizzazione non vincolata Condizione di ottimalità per problemi di ottimizzazione vincolata Condizioni di ottimalità del secondo ordine Utilizzazione delle condizione di ottimalità per problemi di ottimizzazione vincolata Utilizzazione delle condizioni di ottimalità per calcolare direttamente i minimi locali vincolati Utilizzazione delle condizioni di ottimalità per definire degli algoritmi per problemi di ottimizzazione vincolata Condizioni di Ottimalità per Particolari Problemi di Ottimizzazione Introduzione Problemi di programmazione convessa Problemi di programmazione concava Dualità Introduzione

20 4.2 Problema Primale Generale e Punti di Sella Problema Duale Lagrangiano Problema Duale di Wolfe Problemi Quadratici Problemi di Programmazione Lineare Problema Duale di un Problema di Programmazione Lineare Risultati della teoria della dualità nella Programmazione Lineare Condizioni di complementarità Programmazione Lineare Interpretazione geometrica di un Problema di Programmazione Lineare Elementi di geometria in R n Poliedri Vertici Caratterizzazione dei Problemi di Programmazione Lineare Il Teorema fondamentale della Programmazione Lineare Conseguenze del Teorema Fondamentale della Programmazione Lineare Problemi di Programmazione Lineare in Forma Standard La forma standard Vertici e Soluzioni di Base Ammissibile Introduzione al metodo del simplesso Introduzione Criterio di ottimalità Criterio di illimitatezza Determinazione di una nuova base ammissibile Calcolo della nuova forma canonica Convergenza del metodo del simplesso Eliminazione delle ipotesi e calcolo delle prima forma canonica. 152 A Richiami di Algebra Lineare 154 A.1 Vettori A.2 Matrici B Richiami di Analisi Matematica 161 B.1 Successioni B.2 Funzioni continue, vettore gradiente, matrice Hessiana B.3 Teoremi della media