Apache && Nginx

Apache

💡

Apache 같은 경우 요청이 들어오면 connection을 생성합니다. 그래서 새로운 클라이언트의 요청이 올 때마다 새로운 process를 생성한다.

프로세스를 생성하는 과정은 시간이 오래 걸리기 때문에 프로세스를 미리 만들어 놓는 PREFORK라는 방식을 이용한다. 그래서 새로운 클라이언트의 요청이 오면 미리 만들어놓은 프로세스를 할당한다. 만약 만들어놓은 프로세스가 없다면 추가로 프로세스를 생성.

구조적 장점

다양한 모듈을 만들어서 서버에 빠르게 기능을 추가할 수 있다. → 확장성이 높다

동적 컨텐츠를 처리할 수 있다.

요청을 받고 응답을 처리하는 과정을 하나의 서버에서 해결하기 좋다.

구조적 단점

서버에 동시에 연결된 connection이 많을 때 더 이상 새로운 connection을 생성하지 못한다.

이를 C10K(connection 10000 problem)문제라고 하는데 connection 10000개의 문제라는 뜻이다.

메모리 부족

connection이 연결될 때 마다 프로세스를 생성

무거운 프로그램

확장성이 좋다는것은 리소스가 많다는 것을 의미

CPU 부하 증가

많은 connection 요청이 들어오면 Context Switching을 많이 하기에 CPU 부하 증가

💡

이러한 구조적 문제점을 해결하기 위해 Ngnix가 등장하였다. → 로드 밸런서

Nginx

💡

Nginx는 경량 웹 서버이다. 클라이언트로부터 요청을 받았을 때 요청에 맞는 정적 파일을 응답해주는 HTTP Web Server로 활용되기도 하고, Reverse Proxy Server로 활용하여 WAS 서버의 부하를 줄일 수 있는 로드 밸런서로 활용되기도 한다.

NGINX 흐름

Nginx는 Event-Driven 구조로 동작하기 때문에 한 개 또는 고정된 프로세스만 생성하여 사용하고,비동기 방식으로 요청들을 Concurrency 하게 처리할 수 있다. Nginx는 새로운 요청이 들어오더라도 새로운 프로세스와 쓰레드를 생성하지 않기 때문에(비동기) 프로세스와 쓰레드 생성 비용이 존재하지 않고,적은 자원으로도 효율적인 운용이 가능합니다.이러한 Nginx의 장점 덕분에 단일 서버에서도 동시에 많은 연결을 처리할 수 있습니다.

Nginx는 설정파일을 읽고, 설정에 맞게 worker process를 생성하는 master process가 있다.

worker process는 실제로 일을 하는 프로세스이며 worker process가 만들어질 때 지정된 listen 소켓을 배정받는다.

그리고 그 소켓에 새로운 클라이언트의 요청이 들어오면 connection을 형성하고 처리한다.

connection은 정해진 Keep-Alive 시간만큼 유지됩니다. 하지만 connection이 형성되었다고 해서 worker process가 해당 connection 하나만 담당하지는 않는다.

형성된 connection으로부터 아무런 요청이 없다면 새로운 connection을 형성하거나 이미 만들어진 다른 connection으로부터 들어온 요청을 처리한다.

💡

Nginx에서는 이러한 connection 형성과 제거, 그리고 새로운 요청을 처리하는 것을 이벤트(event)라고 한다.

💡

이 이벤트들은 queue에 담긴 상태에서 비동기 상태로 대기하고, os커널이 queue형식으로 worker process에게 전달한다. 그리고 worker process는 하나의 스레드로 이벤트를 꺼내서 처리해 나갑니다. 이런 방식은 worker process가 쉬지 않고 일을 하기에, 요청이 없을 때 프로세스를 방치시키는 Apache Server보다 훨씬 효율적으로 자원을 사용할 수 있다.