
네이버가 Karpathy의 AutoResearch를 실무에 이식하여 QoE 17%를 끌어올린 자율 최적화 비결
라이브 스트리밍 품질 최적화라는 복잡한 엔지니어링 과제를 AI 에이전트에게 맡겨 자율적인 코드 개선 루프를 구현한 혁신 사례입니다. 단순한 코드 생성을 넘어 실험과 검증, 결과 분석까지 자동화하여 엔지니어링 리소스를 12배 효율화한 실제 워크플로우를 상세히 다룹니다.
수작업 반복 실험이 많은 성능 튜닝이나 알고리즘 최적화 영역에 AI 에이전트 도입을 고민하는 시니어 엔지니어 및 테크 리드에게 강력히 추천합니다.
라이브 스트리밍 환경에서 저지연(Low Latency)을 유지하면서 최적의 화질을 제공하는 ABR 알고리즘 튜닝은 매우 복잡하며, 기존 hls.js 방식은 최신 기술과의 격차가 있고 인적 최적화 비용이 높다.
Karpathy의 AutoResearch 방법론을 기반으로 AI 에이전트가 코드를 자율적으로 수정, 빌드, 실험, 판정하는 9단계 루프를 구축하고 통계적 엄격성을 위해 Regression Guard와 3중 기억 장치를 도입했다.
전체 7개 시나리오에서 스트리밍 품질(QoE)을 17% 개선했으며, 사람이 5시간 투입될 때 AI가 60시간 분량의 실험을 수행함으로써 약 12배의 생산성 레버리지를 확보했다.
Trade-off
AI 에이전트가 생성한 코드의 문맥 유지 문제(Context Rot)와 실험 인프라 운영의 복잡도가 증가하며, 모든 시나리오에서 성공하는 것은 아니기에 실패 및 중단(HALT) 케이스에 대한 세밀한 분석이 요구된다.
Andrej Karpathy가 제안한 개념으로 AI 에이전트가 목표 달성을 위해 스스로 가설을 세우고 코드를 작성한 뒤 실행 결과를 바탕으로 반복 학습하는 폐쇄 루프 시스템이다.
서비스 이용자가 주관적으로 느끼는 품질의 총체로 스트리밍에서는 버퍼링, 화질 변화, 로딩 속도 등이 주요 지표가 된다.
새로운 코드 수정이나 최적화 시도가 기존의 성능이나 기능을 저하시키지 않도록 방어하고 통계적 유의성을 검증하는 계층이다.




