Web Server Support for Tiered Services 한국과학기술원 전자전산학과 황호영

Communication Networks Research Lab. 2 목 차목 차 I. Introduction II. Motivation III. Servers and QoS IV. WebQoS (Architecture for Server Based QoS) V. Results VI. Summary VII. Critiques

Communication Networks Research Lab. 3 I. Introduction Internet 을 통해 수행되고 있는 commerce 나 media 의 다양화에 따른 tiered service 에 대한 요구 급증 따라서, network differentiated service 에 대한 QoS 를 제공해주는데 Server QoS 의 중요성 부각 End-to-end QoS performance client, network, web server, application components 에 대한 고 려 필요 network QoS 는 개선되고 있는 상태

Communication Networks Research Lab. 4 I. Introduction (Cont’d) 반면, server 에 대한 QoS 는 그렇지 못하다. End-to-end 로 predictable, stable and tiered service (differentiated service) 를 제공하기 위한 server QoS 로 서 WebQoS 라는 Architecture 제시 WebQoS 에 대한 Simulation 및 결과 분석

Communication Networks Research Lab. 5 II. Motivation 예측하기 힘든 client 들의 요구에 대해 server 측에서 congestion 과 queuing 이 급증 1998 North America 의 holiday season e-commerce market 에 client demand 폭발 US stock market panic user 들에게 preferential service(tiered service) 를 제공 해 주고자 하는 Internet based application 의 필요성

Communication Networks Research Lab. 6 II. Motivation (Cont’d) 그러나, network QoS 만으로는 end-to-end QoS support 하기에 부족 network latency 개선되어 가는 상황 backbone 망이 622Mbps -> 1Gbps bandwidth ISPs 들이 backbone 과 provider 들간의 동의로 IP traffic 성능 향상 시켜나감. Cache 를 통해 static content response time 개선되는 상황 ISDN, DSL, Cable modem 통해 client access network latency 줄어 들어가고 있음

Communication Networks Research Lab. 7 II. Motivation (Cont’d) 반면, server latency 는 증가하는 추세 flash crowd 에 의한 server 의 overload -> processing request, TCP/IP connection terminating 등에 의 한 response time 증가, server busy 상황 도달 new application technology 급증에 의한 server 의 processing demand 급증 ( 예 : JAVA, Secure Socket Layer(SSL), dynamic data, database 처리, 복잡한 middleware component)

Communication Networks Research Lab. 8 II. Motivation (Cont’d) Site 들이 제공하는 media 의 multimedia 화 -> richer and larger media, more images -> audio, voice, video 제공 따라서, differentiated service 제공을 위해 network QoS 만으로는 해결되지 않는다.

Communication Networks Research Lab. 9 III. Servers and QoS Network QoS, Intelligent network bandwidth management, congestion avoidance 도 server 에서의 scheduling 이나 bottleneck problem 해결 못한다. 대부분의 UNIX kernel 에서는 FIFO Scheduling 사용 server 가 busy 해지면 high priority packet 무조건 버림 -> Network QoS 는 무의미해짐.

Communication Networks Research Lab. 10 III. Servers and QoS (Cont’d) Server QoS 개발을 통해 end-to-end QoS 개선 WebQoS 의 큰 목표 overload protection tiered service support

Communication Networks Research Lab. 11 IV. WebQoS Modify the FIFO servicing model of a popular web server-Apache, version Apache Source Modification http_main.c -> request 가 HTTP socket 으로 직접 가는 대신 connection manager 를 통해 가도록 modify connection_mgr.c -> classification policy, enqueue mechanism, dequeue policy, process code

Communication Networks Research Lab. 12 IV. WebQoS (Cont’d)

Communication Networks Research Lab. 13 IV. WebQoS (Cont’d) Connection manager Request Classification Admission Control Request Scheduling Resource Scheduling

Communication Networks Research Lab. 14 IV. WebQoS (Cont’d) Tiered Services Design Connection manager

Communication Networks Research Lab. 15 IV. WebQoS (Cont’d) Request Classification User-class based classification : Client IP address 이용, HTTP cokies 이용, Browser plug-in 이용 Target-class based classification : URL request type or filename path 이용, Destination IP address 이용

Communication Networks Research Lab. 16 IV. WebQoS (Cont’d) Admission Control “Basic requests rather than premium requests should be rejected first” “Existing sessions should be maintained.” Total requests queued, Number of premium requests queued 이용

Communication Networks Research Lab. 17 IV. WebQoS (Cont’d) Request Scheduling Strict Priority - lower class request 보다 all higher class requests 먼저 schedule Weighted Priority Shared Capacity Fixed Capacity Earliest Deadline First

Communication Networks Research Lab. 18 V. Results Simulation 상황 Server : Single Processor K460. Apache run with 32 work processes Clients : Four HP 9000 workstations Network : 100-Base T Ethernet through HP AdvanceStack Switch 2000 httperf generate workload -> fixed rate(50req/s), 8KBytes 의 static web page for a 5 minute period, 5 sec timeout

Communication Networks Research Lab. 19 V. Results (Cont’d) Simulation 1. Premium client- 50 req/s 3 Basic clients 의 request rate 은 req/s 로 monotonically 증가 maximum offered rate = 325* = 1025 req/s)

Communication Networks Research Lab. 20 V. Results - Simulation 1

Communication Networks Research Lab. 21 V. Results - Simulation 1

Communication Networks Research Lab. 22 V. Results - Simulation 1

Communication Networks Research Lab. 23 V. Results (Cont’d) Simulation 2. Premium client 와 Basic clients 의 request rate 이 모두 monotonically 증가

Communication Networks Research Lab. 24 V. Results - Simulation 2

Communication Networks Research Lab. 25 V. Results - Simulation 2

Communication Networks Research Lab. 26 V. Results - Simulation 2

Communication Networks Research Lab. 27 V. Results (Cont’d) Simulation 3. Session Completion Time

Communication Networks Research Lab. 28 VI. Summary and Contribution WebQoS 의 Architecture 개발 WebQoS 의 Performance 평가 Errors, Throughput, Time Response 방면에서 Simulation Session length 에 따른 Completion Time Simulation WebQoS 는 request classification, admission control, request scheduling, resource scheduling 을 통해 tiered service 제공

Communication Networks Research Lab. 29 VI. Summary and Contribution (Cont’d) WebQoS 라는 server QoS 를 통해 앞으로 사용량이 급 증할 Differentiated Service(Tiered Service) 의 제공에 상당한 기여. End-to-End QoS Performance 에서 network QoS 뿐만 아니라 server 의 QoS 도 중요하다는 점을 제시. WebQoS 를 통해 server 의 overload protection, tiered service support 라는 목표 달성.

Communication Networks Research Lab. 30 VI. 문제점 및 개선방안과 Application Simulation-2 에서의 문제점 보완 필요 Admission Control 의 보완 필요 WebQoS 는 request 를 server 가 수용할 수 없을 시에는 무조건 reject => degraded content 라도 returning 하는 등의 flexible Admission Control 필요 network QoS 와 server QoS 간의 연동관계 명확히 제시 tight integration 및 QoS Routing 에 대한 연구 필요

Communication Networks Research Lab. 31 VI. 문제점 및 개선방안과 Application (Cont’d) Client 와 server 간의 high priority traffic 을 위해 light signalling mechanism 필요 Application 과 관련하여 특정한 경우들에 대해서 server QoS 의 적용 방안 연구 QoS 기술에 관련된 device 의 개발 필요