
바쁜 업무 속에서 사라지는 장애 이력과 의사결정 맥락을 마크다운 링크로 엮어 AI에게 영구적인 기억을 이식하는 방법
이 아티클은 사내 보안 우려로 외부 에이전트를 쓰기 어려운 환경에서 개인이 실용적으로 도입할 수 있는 LLM 장기 기억 저장소 구축을 다룹니다. 카파시의 LLM 위키 아키텍처를 기반으로 삼고, 여기에 수동 탐색을 돕는 목차(MOC) 레이어와 엄격한 데이터 정합성 유지 규칙들을 결합하여 실질적인 업무 도구로 정착시킨 과정을 담았습니다. 동일한 알림 메시지가 반복되는 긴박한 장애 상황에서 위키 기반의 AI가 어떻게 오판을 방지하고 원인을 명확하게 짚어내는지 생생한 트러블슈팅 사례를 통해 보여줍니다.
단순 업무 도우미 수준을 넘어 본인의 프로젝트 히스토리와 장애 패턴을 가장 잘 아는 파트너 AI를 만들고 싶은 시니어 개발자에게 권장합니다. 거창한 벡터 DB나 RAG 시스템을 도입하기 전에 마크다운 파일과 정교한 프롬프트 규칙만으로 효율적인 장기 기억 공간을 구성해 보십시오.
기존 AI 비서의 대화 세션이 종료되면 기억이 사라지는 한계가 있었고, 이를 보완하기 위해 수천 장의 메모 앱 데이터를 활용하려 했으나 문서 간 맥락적 연결(링크)이 부족하여 AI가 엉뚱한 과거 기록을 오인하는 문제가 있었습니다.
안드레이 카파시의 LLM 위키 패턴을 바탕으로 불변의 원본(raw)과 변경 가능한 정리본을 분리하고, 사람이 수동으로 탐색할 수 있는 목차(MOC) 계층과 원본 유지·상태 대장 관리·코드 우선 검증 등의 3가지 세부 운영 규칙을 추가한 마크다운 기반 개인 위키를 구축했습니다.
동일한 API에서 발생한 세 차례의 에러 상황에서 직관에 의존해 오판하지 않고, AI가 위키 내의 과거 분석 페이지를 빠르게 대조하여 세 사건이 비즈니스 에러, 파라미터 불일치, N+1 쿼리로 인한 커넥션 풀 고갈이라는 서로 다른 원인임을 1분 만에 규명해 냈습니다.
Trade-off
자료를 수집하고 저장하는 작업에 비해 이를 위키 구조로 관계를 맺으며 정리하는 수동 운영 리소스 소모가 매우 크며, 사용자가 직접 수집 명령을 내리지 않으면 바쁜 날의 기록이 누락될 수 있고 실제 배포되는 최신 코드의 실시간 정합성을 완벽히 반영하기 어렵다는 한계가 존재합니다.
안드레이 카파시가 고안한 문서 관리 패턴으로, 원본 데이터는 읽기 전용으로 동결하고 분석 정리본은 AI가 전담하여 편집하도록 통제하는 가벼운 LLM 지식 데이터베이스 아키텍처입니다.
옵시디언 등 마크다운 지식 관리 커뮤니티에서 활용되는 개념으로, 고정된 폴더 구조 대신 관심사나 도메인별 관련 문서의 링크들을 유기적으로 모아놓은 인덱스형 목차 페이지를 뜻합니다.
대규모 언어 모델이 한 번의 추론 및 답변 과정에서 동시에 수용하고 처리할 수 있는 최대 토큰(텍스트) 범위의 한계점을 의미합니다.




