componenti dei ritardi

Transcript

1 Lezione 3

2 componenti dei ritardi WS Performance: Web Processing Network Delays Contenuti server software hardware applications network bandwidth infrastructures

3 B offre servizi di pagamento sul Web attraverso providers diversi Y(auth di credito),w (trasf fondi) e Z(autenticazione) B negozia lo SLA con i providers di 100 tps. B si chiede: che capacità di servizio ha in tps?

4

5

6 Performance Necessità di responsive Web services percezione dell utente: tempi di risposta brevi connessioni non rifiutate percezione del gestore throughput elevato disponibilità elevata Necessità di strumenti che consentano di misurare quantità che descrivono il comportamento del servizio Web

7 Differenze tra un sistema web e un sistema c/s tradizionale Numero di utenti Casualità del modo di visita Grande diversità dei componenti Gli utenti sperimentano ritardi non prevedibili

8 METRICHE Response time Throughput ( http operazioni al secondo) hit visit session Musure comuni di web performance end-to-end response time site response time throughput in richieste/sec throughput in Mps errori per secondo visitatori per giorno visitatori unici per giorno Servizi per misurare il tempo di risposta percepita dagli utenti

9 ESEMPIO 2 E stato monitorato il Sito web di una agenzia di viaggio per 30 e sono state contate 9000 richieste http. Il server fornisce: pagine html ( 30% byte), immagini (65 % bytes) e video clip (5% bytes). Quale è il throughput del server? - - il num delle richieste al sec è 9000/(30 x 60) = 5 richieste al sec - - e necessario però cercare di legare il troughput alla banda e alla dimensione degli oggetti - Calcoliamo il throughput per le tre classi differenti t o t a l r e quest x class % x average size Class throughput = observation period Html = 9000 x 0.30 x ( x 8)/ 1800 = Kbps Immage = 9000 x 0.65 x ( x 8)/ 1800 = Kbps Video = 9000 x 0.05 x ( x 8)/ 1800 = Kbps throughput = = Kbps

10 Qualità del servizio QoS dei web services è importante per i portali Gli utenti non entrano nei dettagli tecnici sono sensibilia quello che percepiscono ( performance, disponibilità, affidabilità e sicurezza). tempo di risposta - disponibilità affidabilità - sicurezza Necessità di misurare il traffico - essere in grado di effettuare capacity planning - essere in grado di progettare le infrastrutture capaci di scalare - fissare con chiarezza gli SLA da rispettare Scegliere le metriche in grado di cògliere la variabilità del traffico ( carico) Gli utenti pretendono buoni servizi disponibili sempre

11 Determinare le fonti di ritardo Prima di avviare cambiamenti cambiare software up-grade di apparecchiature installare linee più veloci.. è necessario determinare quali sono le fonti di ritardo

12 DNS TCP Server Network Time

13

14 R Browser,hit Tempo di risposta - il documento cercato è in cache R Browser,miss Tempo di risposta il documento non è in cache R N1 ritardo per far arrivare la richiesta al server R N2 ritardo per inviare la risposta al client R Network = R N1 + R N2 tempo totale che la richiesta Http spende in rete R Server tempo di residenza al server Tempo di risposta quando un documento non è nella cache del Browser R Miss = R Browser,miss + R Network + R Server R Hit = R Browser,hit Naturalmente R Hit << R Miss N C numero di volte che i dati sono in cache per ogni N T Il tempo di risposta medio, R su N T richieste è: R = p C x R Hit +(1 - p C ) x R Miss dove p C = N C / N T

15 Impatto della dimesione della Cache ESEMPIO 3 il 20% delle richieste sono serviti in cache e il tempo di risposta è 400 msec. Tempo di risposta del server 3 sec. R = p C x R hit +(1. p C ) x R Miss = 0.2 x 0.4 +( 1-0,20) x 3.0 = 2.48 sec se si triplica la dimensione della Cache il tasso di Hit arriva al 45% R = 0.45 x 0.4 +( ) x 3.0 = 1.83 sec

16

17

18 Le tre maggiori fonti di ritardo Una visione concettuale

19 Infrastruttura Web Componenti basici: Browser Server Firewall Il firewall è un potenziale punto di congestione Anche i proxy possono agire da firewall

20 Proxy, Cache e Mirrors sono strumenti che migliorano le prestazioni e la sicurezza Nel www il caching è lo strumento chiave per migliorare le prestazioni

21 Caching migliora la velocità di accesso e diminuisce il traffico di rete Caching riduce il carico di rete e aumenta la disponibilità del WS replicando documenti su più server Caching nel browser Caching proxy server vicino a comunità ampie di clients (campus, corporate networks, ISP server) Metriche per il caching: hit ratio dimensione dei documenti volume di dati trasferiti

22

23 I SERVER WEB Server forking una copia del processo http per ogni richiesta multithreading dei programmi http distribuzione delle richieste tra un pool di running process Application server gestisce le operazioni di una applicazione che agisce tra il browser e un data base Transaction and Database Server Un TP monitor si compone di tre funzioni principali: - application programming interface - Strumenti di sviluppo di programmazione - un sistema per monitorare e controllare l esecuzione di transazioni Streaming server

24

25

26

27

28

29

30

31

32

33 Networks Latency indica il tempo necessario perché un bit da un client raggiunga il server o vceversa attraversando la rete. Propagation delay, il tempo che un segnale elettrico impiega a viaggiare lungo un cavo ( o una fibra) Larghezza di banda il tasso al quale i dati possono essere spediti attraverso la rete e e usualmente espressi in bps

34

35 ESEMPIO Streaming service per corsi di addestramento ai dipendenti di una azienda Ogni corso corrisponde a 15 minuti video a 300Kbps. Che impatto ha il passaggio a 25 minuti delle sessioni? Il servizio puo supportare in media 35 sessioni simultanee. quindi 35x =10.5 Mbps N, il numero di sessioni simultanee, è dato dalla formula di Little N = X x R N=35 =X x R = X x 15 con X il tasso di arrivo in richieste al minuto N new = X x 25 = ( X x 15) ( 25/15) = 35 ( 25/15) = 58.3 Il servizio di streaming richiederà quindi 58.3 x = 17.5 Mbps

36 ESEMPIO Suponiamo che l azienda manifatturiera dell esempio 5 voglia usare video clips per migliorare l addestramento in linea. La dimensione media dei file video è di 950 MB ( 1MB = 10 6 bytes) Le classi hanno 100 allievi e l 80% sono attivi durante tutto il tempo. Durante la classe ciascun utente chiede in media 2 video clip per ora. Quale è la banda? ( 0.80 x 100) x 2 x( 8 x 950)/ 3600 = Mbps

37 Il TRAFFICO DI RETE Picchi che superano da 8 a 10 volte i valori medi ( Burstiness) Proprietà che vale a differenti scale => self similarity Es di flooding : eventi di interesse ESEMPIO: Osservando un sito si desume che il suo throughput nel passato breve è stato di di operazioni http al giorno e che la dimensione media dei documenti è stata di bytes. Quale sarà la banda necessaria per soddisfare il traffico di picco? La banda richiesta sarà: Http op/sec x average size documento http op/day = 11.6 http op/sec La banda attuale quindi 11.6 x x8 = 928Kbps Che succede con un overhead del 20%? 928 x 1.2 = 1114 Kbps, quindi una linea T1 è sufficiente. L esperienza passata ha mostrato che ci sono stati vari picchi anche 5 volte superiori al valore medio della banda richiesta, cioè 5 x 1114 kbps= 5.57 Mbps => per stare più tranquilli sono necessarie 4 linee T1 da 1500 Kbps.

38 CARATTERISTICHE PECULIARI DEL WEB Variabilità nelle caratteristiche di workload - pochi documenti di piccole dimensioni ( <100 bytes) - la maggioranza è compresa tra i 10 2 e pochi file sono più grandi di 100KB La distribuzione della dimensione dei file segue una legge heavy tail, declina secondo una legge di potenza ( distribuzione di Pareto) Un modo per esaminare in prima approssimazione fenomeni con queste caratteristiche è suddividere i domini in classi e risolverli separatamente. Il rank delle pagine web la legge di Zips f ~ 1/r Alra caratteristica speciale è la presenza di robot, ( Crawlers, shopbot, pricebot... agent etc) che interagiscono con i web sites (non malintenzionati). Sono causa dell incremento del traffico sulla rete.