13년치 회사 기억을 먹은 AI: Knowledge DB 구축기
Summary
장애 분석을 2시간에서 8분으로 단축시킨 '13년의 기억을 품은 AI 에이전트' 구축기
조직의 흩어진 역사와 가드레일을 결합해 단순 챗봇을 두뇌형 멀티 에이전트로 진화시킨 비결
본 아티클은 사내에 흩어진 13년치 히스토리를 단일 지식 데이터베이스 'GOM'으로 통합하여 AI 에이전트의 생산성을 한 차원 끌어올린 실무 사례를 소개합니다. AI가 분석 작업을 시작하기 전 과거 선례와 도메인 정책을 우선 파악하도록 유도하는 아키텍처와 상세한 가드레일 설계 사례를 통해 실질적인 AI 활용법을 제시합니다.
- 01Slack, Jira, Notion 등의 사내 비정형 데이터와 코드베이스를 하나로 묶은 GOM CLI 개발
- 02AI가 다른 작업을 하기 전 과거 맥락을 무조건 먼저 확인하도록 강제하는 Tool Priority Chain 도입
- 03실제 장애 교훈을 축적한 50여 개의 가드레일(CLAUDE.md)을 활용해 환각 및 오진 제어
- 04장애 인지부터 원인 분석 및 타임라인 도출까지의 시간을 2시간에서 8분으로 획기적 개선
- 05단 1주일 만에 신규 입사자가 다음 입사자를 자체적으로 온보딩시키는 문서 고도화 선순환 형성
RECOMMENDATION
단순한 RAG 구축을 넘어 실무에 밀착된 AI 에이전트 시스템을 도입하려는 팀에 권장하며, 과거 장애 및 의사결정 맥락을 체계화한 사내 가드레일 문서를 조속히 구축하는 것을 추천합니다.
The Problem
기존 AI 에이전트는 인프라 장애나 의사결정 요구 시 도메인 맥락과 회사 과거 히스토리를 알지 못해 일반론적인 답변만 제공하거나 환각 현상을 보이는 한계가 있었습니다.
The Solution
13년 간 축적된 Slack, Jira, Notion, Datadog, 코드베이스 기록을 단일 인터페이스로 조회하는 지식 DB 'GOM'을 구축하고, AI가 작업을 시작할 때 우선적으로 과거 맥락을 조회하도록 강제하는 도구 우선순위 체계와 50개 이상의 맞춤형 가드레일을 적용했습니다.
The Result
장애 감지부터 원인 분석(RCA)까지 소요되는 시간을 기존 2시간에서 8분으로 대폭 단축시켰으며, 입사 1주일 차 신규 팀원이 AI 조력을 통해 직접 온보딩 문서를 고도화하는 등의 정성적 선순환 효과를 얻었습니다.
Trade-off
지식 DB 역시 완전한 환각 방지는 불가능하므로 원본 데이터를 통한 교차 검증 절차가 필수적이며, 과거의 선례에만 의존할 경우 변화한 현재 인프라 환경에 맞지 않는 오판을 내릴 위험이 내포되어 있습니다.
