AI가 팀 규칙을 지키도록 하는 방법
Summary
세션이 길어지면 까먹는 AI? 토스뱅크가 코딩 에이전트에게 팀 규칙을 주입하는 방법
Linter에서 영감을 받아 에이전트 루프 속에 실시간 피드백 루프를 심다
AI 코딩 에이전트가 협업의 주축이 되면서 팀의 코드 컨벤션을 준수하게 만드는 것이 새로운 과제가 되었습니다. 토스뱅크는 'Lost in the Middle' 문제를 해결하기 위해, 에이전트가 파일을 생성한 직후 정규식 기반으로 규칙을 매칭해 즉각 피드백하는 'Stylepack' 시스템을 구축하여 에이전트의 품질을 극대화했습니다.
- 01Global Instruction의 한계인 'Lost in the Middle' 및 컨텍스트 오염 문제 해결
- 02속도 저하를 막기 위해 무거운 AI 판정 대신 가벼운 정규식 및 파일명 매칭 Hook 방식 채택
- 03코드 작성 직후 즉시 수정 피드백을 주는 'Linter Feedback Loop' 아이디어 차용
- 04컨텍스트 낭비를 방지하기 위해 한 번에 최대 2개, 세션당 1회로 피드백 제한 규칙 적용
- 05인터페이스 분리 등 다중 파일 검사가 필요한 아키텍처 단위의 한계점 인지 및 개선 방향 제시
RECOMMENDATION
사내 코딩 에이전트 도입 시 규칙 미준수나 컨텍스트 인지 저하로 고민하는 팀에 추천하며, 무조건적인 LLM 판정보다는 가벼운 정규식 기반 후킹 루프를 먼저 검토해보기를 권장합니다.
The Problem
코딩 에이전트가 코드를 작성할 때 전체 컨텍스트나 팀 규칙을 제대로 파악하지 못하며, 세션이 길어질수록 초기에 제공한 전역 지침(Global Instruction)을 무시하는 'Lost in the Middle' 현상이 발생합니다. 또한 세세한 규칙들을 전역 지침에 모두 적으면 컨텍스트를 과도하게 차지하는 문제가 있습니다.
The Solution
파일 작성 직후 자동으로 실행되는 Hook 장치를 활용해, AI 대신 정규식과 파일명 패턴 기반으로 빠르게 관련 규칙을 필터링하여 에이전트에게 실시간으로 피드백을 전달하는 'Stylepack' 플러그인을 도입했습니다.
The Result
컨벤션 규칙을 코딩 에이전트가 코드를 작성한 직후에 즉각 피드백함으로써, 에이전트가 누락된 분기 처리나 팀의 고유 라이브러리 사용 규칙 등을 스스로 올바르게 수정하게 되었습니다.
Trade-off
본문 내용에 따르면 단일 파일 수준의 Hook 방식으로는 여러 파일 간의 아키텍처 의존성(예: 구현체 결합 문제)을 감지하는 데 한계가 있는 것으로 판단되며, 컨텍스트 낭비를 막기 위해 세션당 피드백 빈도를 인위적으로 제한해야 합니다.
Key Concepts
More from 토스
View all posts from 토스
2. Beyond Our Expertise
Technical WritingSingle Source of TruthGenerative AI22시간 전1. Creating a Role That Didn’t Exist Before
Technical WritingAI ChatbotRAG22시간 전
How Documents Find Developers at Toss
RAGLLMSlackbot22시간 전
AI가 만든 코드가 어드민이 되기까지
Reactesbuild-wasmImport Map3일 전
1%가 겪은 버그 고쳐야할까요?
HotfixProgressive DeliveryQA Platform1주 전
