Tempo di calcolo. , per cui x è un caso più sfavorevole quando T. peggiore(

Transcript

1 Tempo di calcolo. Tempo di calcolo di u algoritmo La complessità computazioale è ua misura della difficoltà di risolvere problemi di calcolo co algoritmi. Per misurare la complessità di u algoritmo si ricorre ad ua stima della quatità di risorsa di calcolo che questo utilizza, quali il tempo e lo spazio (quatità di memoria). Si tratta di misure diamiche che soo fuzioe degli igressi, co valori iteri positivi: i particolare il tempo o è il misurato i secodi o frazioi di secodo, perché questa misura dipede troppo dal particolare sistema di calcolo e da aspetti implemetativi estraei alla atura astratta dell algoritmo. D altra parte si suppoe che il tempo d esecuzioe di u programma che implemeti u algoritmo debba essere proporzioale al umero di operazioi elemetari che l esecuzioe idealizzata di quest ultimo comporta, cosicché a meo di ua fattore costate, è questo il valore che si cosidera. Poiché le istaze dei problemi da risolvere hao ua dimesioe che esprime grosso modo la gradezza della loro rappresetazioe i memoria (sempre a meo di fattori costati), il tempo di calcolo viee valutato i fuzioe della dimesioe dell igresso che è acora u itero positivo. Questa ulteriore astrazioe comporta ua perdita di precisioe, dal mometo che istaze di pari dimesioe possoo richiedere tempi diversi per essere trattate dallo stesso algoritmo. Idicado co x La dimesioe dell igresso x e co T(x) il tempo che u dato algoritmo impiega el calcolo di x possiamo defiire:. tempo el caso migliore: T migliore( = mi{ T ( x) : x = }, per cui x è u caso più favorevole quado T migliore( x ) = T ( x).. tempo el caso peggiore: T peggiore( = max{ T ( x) : x = }, per cui x è u caso più sfavorevole quado T peggiore ( x ) = T ( x). 3. tempo el caso medio: T medio ( è la media dei tempi su tutte le x tali che x = cosiderata i fuzioe della probabilità co cui ciascuo può occorrere (più precisamete si tratta del valore atteso del tempo, vista come variabile aleatoria discreta). Esempio. Suppoiamo di voler valutare il tempo di calcolo di ua fuzioe iterativa che calcola il miimo i u vettore cosiderato i u dato itervallo, e di volerlo fare, a scopo illustrativo, i modo da teer coto del tempo ecessario ad ogi sigola istruzioe elemetare co ua costate appropriata: costo volte Miimo (v, j, ) c Pre: v vettore di dimesioe > j Post: ritora il miimo i v[j..] mi v[j] c for i j + to do c 3 j + if v[i] < mi the c j mi v[i] c j retur mi c 6

2 Nel caso peggiore, che si verifica quado l istruzioe che segue l if vega eseguita tutte le volte, vale a dire se v[i..j] sia ordiato i seso decrescete, posto = j i +, ossia il umero di elemeti tra cui si cerca il miimo, abbiamo: T ( = c = ( c 3 = c ( ) c ) + ( c + ( ) c cioè T ( = a + b, co a e b costati. Si osservi come ciò che determia il umero delle operazioi elemetari ell esecuzioe dell algoritmo dipeda esclusivamete dal umero degli elemeti tra cui si cerca il miimo, metre i loro effettivi valori possoo soltato determiare se il caso dell istaza sia o meo il peggiore: da questi si fa duque astrazioe quado si cosidera il caso più sfavorevole.. Aalisi asitotica della complessità Allo scopo di valutare l efficieza relativa di due algoritmi i termii di tempo occorre cofrotare tra loro due fuzioi. A questo scopo si utilizzao ozioi asitotiche di ordie di gradezza delle fuzioi, facedo astrazioe da fattori costati. 6 Defiizioe. O() è l isieme di tutte le fuzioi f( tali che dove c è ua costate reale positiva. c >,. f ( c ), La situazioe f( O() è illustrata dal grafico: ) c f ( 0 Possiamo leggere f( O() come l affermazioe che g è u cofie superiore di f. L uso che si fa di questa ozioe è quello di stabilire da u lato ua gerarchia di classi O( ) O( g ( ) K, dall altro di trovare ua g i tale che T ( gi ( ) e che g i sia ragioevolmete vicia a T: ad esempio T ( = a + b O( ) ma ache T ( ed è chiaro che quest ultimo è u cofie superiore più vicio a T. Per meglio apprezzare quato stretta si la relazioe tra f e g i f( O() si cosiderao altre due ozioi:

3 . f( Ω() se c > 0, 0 > 0. c f(. f( Θ() se c, c > 0, 0 > 0. c f( c Ω() è u isieme di fuzioi defiito i termii di u cofie iferiore, g; Θ() è l isieme delle fuzioi il cui tasso di crescita è esattamete quello di g, a meo di ua costate. È facile vedere che Θ ( ) = O( ) Ω( ). Le classi O() si possoo cofrotare per iclusioe. È chiaro che se f( O() allora O( f ( ) O( ) e viceversa, ode potremmo defiire ua relazioe f << g quado f( O(). Si tratta chiaramete di u preordie (relazioe riflessiva e trasitiva), ma o di ua relazioe d ordie parziale, o essedo atisimmetrica: f << g << f o implica f = g, ma solo che f( = da u certo 0 i poi. Ioltre esistoo f e g tali che é f << g é g << f. Come già la otazioe di Ladau o(), O cosete di fare astrazioe da costati e termii di ordie iferiore. Proposizioe. Per ogi f, g, e per ogi costate c > 0: f ( = O(c ) f ( = O(). Dim. ) a fortiori, visto che c > 0. ) Per ipotesi Esistoo d > 0 e 0 tali che f ( d, per ogi 0 posto a = d/c (esistete e positivo perché c > 0), abbiamo a > 0 e f ( d = a c per ogi > 0. Proposizioe. Se p( è u poliomio di grado a coefficieti i R + ed varia sugli iteri positivi, h allora p( ) e p( O( ) per ogi h <, Dim. Se p i = a ( ) i = 0 i e a = max{a i : 0 i } allora p ( ( a + ) ovuque, pertato h p( ). Suppoiamo per assurdo che p( ) co h < : allora per qualche c > 0 h h h a p( c da u certo 0 i poi. Ma a c c a h / c / a = d da cui ua cotraddizioe o essedo limitato superiormete da alcua costate. Per stabilire che f ( O( ) è utile osservare che tale relazioe è implicata da lim = 0, f ( ossia quado o( f ( ). Ifatti se fosse f (), allora esisterebbe d > 0 t.c. cf ( quasi ovuque. Poiché g ha valori iteri positivi o ulli, / d f (/ quasi ovuque, metre dovrebbe essere, defiitivamete, 0 f (/ < c per ogi c > 0. I tal modo possiamo stabilire, ad esempio, che O( ) O( ), ed i geerale che le iclusioi riportate i tabella, dall alto verso il basso, soo tutte proprie.

4 Ordii O() O(log O( O( log O( ) O( 3 ) O( p ) p > 0 O( ) Fuzioi costati logaritmiche lieari log quadratiche cubiche poliomiali espoeziali Si cosiderao calcolabili i pratica algoritmi i cui tempi di calcolo siao al più poliomiali, ache se questo è u discrimie più che altro teorico: algoritmi di complessità poliomiale ma di terzo o quarto grado o soo cosiderati buoi algoritmi; ioltre si cooscoo casi di algoritmi di complessità espoeziale che si comportao meglio el caso medio di altri di complessità poliomiale el caso peggiore. La otazioe f ( = O( ) è spesso impiegata i luogo di f ( ). Deve itedersi come ua sorta di equazioe a seso uico, ossia f ( può essere sostituito co O ( f ( ) elle espressioi, che idicao allora isiemi di fuzioi, ma o viceversa; ad esempio l espressioe h ( + O( ) idica ambiguamete h ( + f ( per qualche f ( ), ovvero l isieme di tali fuzioi. Chiaramete o è corretta la sostituzioe di O( ) co ua f t.c. f ( ) : diversamete da + O( ) e ) potremmo dedurre che + =. Si possoo itrodurre alcue regole per la maipolazioe algebrica di espressioi coteeti O. Defiiamo iazitutto operazioi tra fuzioi e classi O-grade, ad esempio: f ( + O( ) = { h : g O( ).. h( f ( + g ( } Aalogamete per il prodotto. Allora e segue: f ( + O() = O(f ( + ) f ( O() = O(f ( ). Similmete defiiamo le operazioi tra classi O-grade: O( f ( ) + O( ) = { h : f O( f ( ) g O( ).. h( f ( + g ( } ed aalogamete O(f () O(). Le leggi che seguoo soo allora cosegueza immediata delle defiizioi: f ( = O(f () c O(f () = O(f () O(f () + O() = O(f ( + ) O(f () + O(f () = O(f () f g O(f () + O() = O() O(f () O() = O(f ( ) c costate

5 Occorre usare cautela elle maipolazioi algebriche delle espressioi. È ifatti cosegueza delle leggi su riportate il fatto che O ( ) + O() = O(), ma ed i effetti è ( i= O() O() O se è la variabile che rappreseta l argometo della fuzioe. 3. Relazioi di ricorreza I tempi delle fuzioi/procedure ricorsive (per cui vedi relativa dispesa) si esprimoo aturalmete i forma detta ricorreza, perché la fuzioe tempo è defiita i termii di se stessa. A scopo illustrativo, e per illustrare alcue teciche risolutive, cosideriamo alcue forme particolari, ed il modo i la fuzioe implicita può essere classificata ella gerarchia O-grade. Caso : Sia T( la fuzioe tempo di u programma ricorsivo che cicla sull igresso elimiado u elemeto per volta. Allora la ricorreza di T( avrà la forma: c T ( = T ( ) + se = 0 altrimeti dove c è ua costate reale positiva. Il metodo iterativo si basa sulla ricerca delle soluzioi per sostituzioi successive: T ( = T ( ) + = T ( ) + + = T ( 3) = c + i= ( + ) i = c + da cui segue, utilizzado le leggi riportate el precedete paragrafo, che T ( ). Caso : cosideriamo ua fuzioe che dimezza la dimesioe dell igresso ad ogi chiamata ricorsiva svolgedo i più solo lavoro i tempo costate. Allora la sua fuzioe tempo avrà la forma: c T ( = T ( / ) + d se altrimeti dove c e d soo costati reali positive. Di uovo per iterazioe otteiamo:

6 T ( = T ( / ) + d = T ( / ) + d + d... = T () + d 3 + L + d log = c + d log O(log Caso 3: la ricorreza che segue si per la fuzioe tempo di u programma ricorsivo che deve eseguire ua scasioe lieare dell iput e suddividerlo i due parti circa eguali su cui esegue le chiamate ricorsive: c T ( = T ( / ) + se altrimeti Questa volta utilizziamo il cosiddetto metodo di sostituzioe, cosistete ell idoviare la soluzioe, e el verificare per iduzioe se effettivamete la soluzioe proposta sia corretta: i effetti si procede per tetativi ed aggiustameti successivi, sio al raggiugimeto di ua soluzioe soddisfacete. Cerchiamo allora di stabilire se T ( cercado di stabilire che T ( a per ua fissata costate a e da u certo o i poi. Ora T ( ( a / ) + = a + = ( a + ) per ipotesi iduttiva da cui o segue T ( perché la tesi del passo iduttivo è stata stabilita per ua diversa costate, ossia a +. I realtà la scelta di ua fuzioe lieare come cofie superiore per T ( è iadatta perché cresce troppo poco. Proviamo T ( log : T( (a (/) log (/)) + per ipotesi iduttiva = a log (/) + = a log a log + = a log a + a log se a. Ora occorre verificare se la tesi vale el caso di base, ma è chiaro che T ( ) = c > 0 metre alog = 0 Tuttavia se ed a allora vale T ( alog e tato basta, visto che prederemo. 0 =