같은 질문에 두 번 답하지 마세요: 넷플릭스 규모의 Druid를 위한 인터벌 인식 캐싱 기획
Summary
초당 1,500만 건의 데이터 홍수 속에서 넷플릭스가 DB 부하를 33% 줄인 비결
이동하는 시간 윈도우와 중복 쿼리 문제를 해결하는 '인터벌 인식 캐싱'과 지수적 TTL 전략 기술 리포트
본 아티클은 넷플릭스가 Apache Druid 기반의 실시간 모니터링 시스템에서 겪은 확장성 문제를 해결하기 위해 구축한 실험적인 캐싱 레이어를 소개합니다. 고정된 결과 캐싱 대신 쿼리를 시간 버킷 단위로 분할하여 부분적인 캐시 재사용을 극대화하고, 데이터의 신뢰도에 따라 캐시 유지 시간을 조절하는 혁신적인 접근법을 제시합니다.
- 01롤링 윈도우 쿼리의 중복 처리를 방지하는 시간 기반 버킷팅 기술
- 02데이터의 경과 시간에 비례하여 캐시 수명을 늘리는 Exponential TTL 전략
- 03Druid Router에서 요청을 가로채 투명하게 캐싱을 적용하는 프록시 아키텍처
- 04P90 응답 속도 66% 향상 및 결과 데이터 전송량 최대 14배 절감
- 05데이터가 없는 구간에 대한 불필요한 재질의를 방지하는 Negative Caching 적용
RECOMMENDATION
실시간 시계열 대시보드로 인해 데이터베이스 부하가 급증하는 환경의 엔지니어에게 추천하며, 특히 이동 시간 윈도우(Rolling Window) 처리가 잦은 시스템에 즉시 응용 가능한 전략입니다.
The Problem
넷플릭스의 대규모 실시간 대시보드는 10초마다 수백 개의 쿼리를 생성하며, 시간 윈도우가 조금씩 이동할 때마다 기존 Apache Druid의 캐시가 무효화되어 DB에 과도한 중복 부하가 발생했습니다.
The Solution
쿼리를 시간 단위(버킷)로 쪼개어 관리하는 인터벌 인식(Interval-Aware) 캐싱 계층을 도입하고, 데이터의 신선도에 따라 TTL을 지수적으로 늘리는 'Exponential TTL' 전략을 적용했습니다.
The Result
실제 사용자 쿼리의 82%가 캐시 히트를 기록했으며, Druid로 전달되는 쿼리량 33% 감소 및 P90 쿼리 응답 속도가 66% 개선되는 성과를 거두었습니다.
Trade-off
실시간 데이터에 대해 최대 5초의 지연(staleness)을 허용해야 하며, 외부 프록시 서비스 운영에 따른 인프라 복잡도와 네트워크 홉(hop)이 추가되었습니다.
Key Concepts
More from Netflix
View all posts from NetflixMAPS: 넷플릭스의 대규모 멀티모달 에셋 개인화
CLIPMediaFMRecommendation Systems1일 전두 개의 플링크 오토스케일러 이야기
Apache FlinkAutoscalingStream Processing1주 전넷플릭스가 실시간 분산 그래프를 구축한 방법과 이유: 3부 — gRPC 실행 API를 통한 그래프 쿼리
gRPCGraph DatabaseDistributed Systems3주 전분석을 위한 디바이스 사양 모델링
Data ModelingFeature ManagementAnalytics4주 전GenRec: 넷플릭스의 LLM 네이티브 추천 시스템을 향하여
LLMRecommendation SystemContext Engineering1개월 전