서킷 브레이커 (Circuit Breaker)

분산 시스템에서 한 서비스가 죽으면, 그 서비스를 호출하던 다른 서비스들의 스레드가 응답을 기다리며 줄줄이 멈춘다. 이 연쇄 장애(cascading failure)를 막는 장치가 전기 회로의 두꺼비집(차단기)에서 이름을 딴 서킷 브레이커다. 실패가 임계값을 넘으면 회로를 열어(OPEN) 호출을 즉시 실패시키고, 잠시 뒤 반열림(HALF_OPEN) 상태로 슬쩍 찔러보며 회복을 확인한다.

인터랙티브 데모

세 가지 상태

핵심 구현 (의사 코드)

# 상태: CLOSED / OPEN / HALF_OPEN
class CircuitBreaker:
    def call(self, fn):
        if self.state == "OPEN":
            if now() - self.opened_at < self.timeout:
                raise CircuitOpenError()      # 빠른 실패, fn 호출 안 함
            self.state = "HALF_OPEN"              # 찔러볼 시간
            self.probe_ok = 0

        try:
            result = fn()                        # 실제 원격 호출
        except Exception:
            self.fails += 1
            if self.state == "HALF_OPEN" or self.fails >= self.threshold:
                self.state, self.opened_at = "OPEN", now()
            raise

        # 성공 처리
        if self.state == "HALF_OPEN":
            self.probe_ok += 1
            if self.probe_ok >= self.need_probes:
                self.state = "CLOSED"
        self.fails = 0
        return result

현실에서는