좋은 설계의 복리 효과: 하루 300억 요청을 처리하는 LINE API Gateway의 진화

하루 300억 건. 15년간 운영되어 온 LINE의 API Gateway가 감당해 온 요청량입니다. 하지만 시스템이 성장할수록 한계도 드러났습니다. 특정 백엔드 서비스 하나의 지연이 전체 API에 영향을 주었고, API를 추가하려면 직접 코드를 작성해야 했습니다. 700개가 넘는 API 문서는 코드와 분리되어 관리되며 불일치가 쌓여 갔습니다.

Moon은 이러한 문제를 해결하기 위해 개발된 API Gateway 프레임워크입니다. API를 선언형 명세로 정의하고, 비동기 처리와 플러그인 구조를 기반으로 설계해 서버당 3배의 성능 향상과 재배포 없는 API 추가를 가능하게 했습니다.

흥미로운 점은 이 설계가 성능 개선에만 머물지 않았다는 것입니다. 동일한 명세를 기반으로 문서를 자동 생성하고, 실제 트래픽으로 명세의 정확성을 검증하며, AI 개발 도구와의 연계까지 가능해졌습니다. 이 세션에서는 Moon의 설계와 운영 경험을 통해, 하나의 아키텍처 결정이 어떻게 새로운 개발 경험과 확장 가능성으로 이어졌는지 살펴봅니다.