로드 밸런싱 (Load Balancing)

한 대의 서버로는 감당이 안 될 때 — 요청을 여러 서버에 공평하게 나눠주는 기술

① 직접 굴려보는 로드 밸런서

알고리즘을 바꿔가며 요청 보내기를 눌러보자. 서버 이름을 클릭하면 그 서버를 다운시킬 수 있다 (헬스 체크로 LB가 감지해 자동으로 제외한다). 가중치가 있는 서버는 ×2 로 표시된다.

② 대표적인 분배 알고리즘

③ L4 vs L7 — 어느 계층에서 나누나

④ 헬스 체크와 무중단

⑤ 이 서버(offset0xf.com)의 Nginx도 사실 L7 프록시다

지금 이 사이트는 서버 1대라 "분배"는 안 하지만, Nginx가 요청을 받아 Gunicorn으로 넘기는 구조 자체가 L7 리버스 프록시다. 서버를 늘린다면 upstream 블록에 서버만 추가하면 된다.

# /etc/nginx/sites-available/offset0xf.com
upstream school_app {
    # least_conn;  ← 연결 수 최소 방식으로 바꾸려면 주석 해제
    server 127.0.0.1:8001;              # 지금은 이 한 대
    # server 10.0.1.12:8001 weight=2;   ← 성능 좋은 2호기 (가중치 2)
    # server 10.0.1.13:8001 backup;     ← 평소엔 놀다가 장애 시 투입
}

server {
    listen 443 ssl;
    server_name offset0xf.com;

    location / {
        proxy_pass http://school_app;
        proxy_set_header Host              $host;
        proxy_set_header X-Real-IP         $remote_addr;
        proxy_set_header X-Forwarded-For   $proxy_add_x_forwarded_for;
        proxy_next_upstream error timeout http_502;  # 한 서버 실패 시 다음 서버로 재시도
    }
}