#AI

AI Native 레포에서 조직으로: hollon-ai 구축기

Summary

“@hollon 이거 고쳐줘” 한마디에 코드가 고쳐지고 배포되는 AI Native 조직의 탄생

IDE를 탈출해 팀챗으로 들어온 AI, 전사적 실행 하네스와 메모리 계층으로 동료가 되다

채널톡이 AI Native 레포지토리를 넘어 조직 전체가 AI를 활용해 업무를 수행하는 'AI Native 조직'으로 진화한 과정을 상세히 담고 있습니다. 단순한 챗봇을 넘어 Kubernetes 기반의 격리된 실행 환경과 장기 기억 시스템을 결합하여 보안, 운영, 구현을 한 흐름으로 연결한 아키텍처를 소개합니다.

01팀챗(Slack)을 단순 UI가 아닌 요구사항과 승인이 교차하는 조직의 기억 저장소로 재정의
02Kubernetes Job을 활용해 태스크마다 독립적이고 안전한 일회성 실행 환경(Worker) 제공
03Claude Code의 강력한 코딩 능력을 조직용 실행 하네스 위에 얹어 실무 완성도 확보
04상태 머신 도입으로 계획 수립, 사용자 승인, 코드 리뷰 등 협업 규칙을 시스템적으로 강제
05L1~L4로 구성된 지식 계층을 통해 개인의 기억을 넘어 조직의 자산으로 데이터 축적

RECOMMENDATION

AI 에이전트를 실제 업무 환경에 배포하고자 하는 데브옵스 및 백엔드 엔지니어에게 강력히 추천합니다. 특히 단순한 대화형 인터페이스를 넘어 상태 관리와 인프라 격리, 그리고 장기 기억을 어떻게 구현해야 하는지에 대한 실무적 해답을 제시합니다.

The Problem

AI 코딩 도구가 개인의 IDE 내에 국한되어 있어 팀 단위의 협업 흐름(팀챗, 리뷰, 모니터링 등)과 분리되는 병목 현상이 발생했다. 또한 대화 세션이 종료되면 지식이 휘발되어 조직 차원의 의사결정 맥락이나 과거의 실수 등을 장기적으로 기억하지 못하는 한계가 있었다.

The Solution

팀챗(Slack)을 인터페이스로 활용하고 그 위에 API 서버, 오케스트레이터, Kubernetes Job 기반의 일회성 워커로 구성된 실행 하네스(Harness)를 구축했다. Claude Code를 코어 실행 엔진으로 채택하되, 상태 머신을 통한 승인 루프와 4단계(L1~L4) 메모리 계층을 도입하여 조직 지식이 축적되는 구조를 설계했다.

The Result

도입 이후 월간 실행 횟수가 777회에서 2,726회로 급증했으며, 보안 취약점 전수조사 및 운영 알람 트리아주를 자동화하는 성과를 거두었다. 특히 AI가 자기 자신의 코드를 수정하여 PR을 생성하고 머지까지 완료하는 수준에 도달하여 조직의 실행력을 실질적으로 높였다.

Trade-off

비정형적인 대화와 결정론적인 상태 제어 사이의 균형을 맞추는 데 어려움이 있었으며, 분산 환경에서의 중복 처리 및 상태 복구 등 인프라 안정화에 상당한 리소스가 투입되었다. 초기에는 파일 기반 메모리 휘발 문제로 인해 지식 저장 경로를 재설계해야 했던 시행착오가 존재했다.