DevLog

엔지니어링 블로그를 한 곳에서 탐색하고, 최근 발행 흐름을 빠르게 파악할 수 있는 서비스 입니다.

Quick Links

  • Latest Feed
  • Engineering Directory

Support

  • 소개
  • 개인정보처리방침

Contribute

  • 원하는 블로그 추가 (준비 중)
  • Feedback

© 2026 DevLog Inc. All rights reserved.

본 사이트는 공개 RSS 피드를 통해 콘텐츠를 수집하며, 모든 콘텐츠의 저작권은 원저작자에게 있습니다.

Back to Feed
Read Original

Contents

Continue Reading

  • More from 여기어때
  • Related reads#LLM
#AI

AI가 내 하루를 기억하게 하는 법 (1/2): 먼저, 기억할 곳을 만들었다 — 개인 LLM 위키

AI가 내 하루를 기억하게 하는 법 (1/2): 먼저, 기억할 곳을 만들었다 — 개인 LLM 위키
01

Summary

내 업무 맥락을 통째로 기억하는 AI 비서 만들기: 단발성 대화를 넘는 개인 LLM 위키 구축기

바쁜 업무 속에서 사라지는 장애 이력과 의사결정 맥락을 마크다운 링크로 엮어 AI에게 영구적인 기억을 이식하는 방법

이 아티클은 사내 보안 우려로 외부 에이전트를 쓰기 어려운 환경에서 개인이 실용적으로 도입할 수 있는 LLM 장기 기억 저장소 구축을 다룹니다. 카파시의 LLM 위키 아키텍처를 기반으로 삼고, 여기에 수동 탐색을 돕는 목차(MOC) 레이어와 엄격한 데이터 정합성 유지 규칙들을 결합하여 실질적인 업무 도구로 정착시킨 과정을 담았습니다. 동일한 알림 메시지가 반복되는 긴박한 장애 상황에서 위키 기반의 AI가 어떻게 오판을 방지하고 원인을 명확하게 짚어내는지 생생한 트러블슈팅 사례를 통해 보여줍니다.

  • 01대화 세션이 끝나면 소멸하는 AI의 단기 기억 문제를 해결하기 위해 마크다운 위키를 영구 저장소로 결합
  • 02단순 텍스트 적재를 넘어 '문서 간의 길(링크)'을 형성함으로써 AI가 맥락과 관계를 따라 추론할 수 있게 설계
  • 03원본 데이터의 이동과 수정을 금지하여 링크가 깨지는 현상을 방지하고 AI의 기억 신뢰도 극대화
  • 04위키 정보의 노후화 가능성을 인정하고 최종 검증 단계에서 실제 코드를 대조하게 만드는 방어적 규칙 수립
  • 05동일한 API에서 발생한 연속적인 에러들의 상이한 원인을 위키 기반 교차 분석으로 단 수분 만에 구분해 낸 성공 사례 공유

+RECOMMENDATION

단순 업무 도우미 수준을 넘어 본인의 프로젝트 히스토리와 장애 패턴을 가장 잘 아는 파트너 AI를 만들고 싶은 시니어 개발자에게 권장합니다. 거창한 벡터 DB나 RAG 시스템을 도입하기 전에 마크다운 파일과 정교한 프롬프트 규칙만으로 효율적인 장기 기억 공간을 구성해 보십시오.

The Problem

기존 AI 비서의 대화 세션이 종료되면 기억이 사라지는 한계가 있었고, 이를 보완하기 위해 수천 장의 메모 앱 데이터를 활용하려 했으나 문서 간 맥락적 연결(링크)이 부족하여 AI가 엉뚱한 과거 기록을 오인하는 문제가 있었습니다.

The Solution

안드레이 카파시의 LLM 위키 패턴을 바탕으로 불변의 원본(raw)과 변경 가능한 정리본을 분리하고, 사람이 수동으로 탐색할 수 있는 목차(MOC) 계층과 원본 유지·상태 대장 관리·코드 우선 검증 등의 3가지 세부 운영 규칙을 추가한 마크다운 기반 개인 위키를 구축했습니다.

The Result

동일한 API에서 발생한 세 차례의 에러 상황에서 직관에 의존해 오판하지 않고, AI가 위키 내의 과거 분석 페이지를 빠르게 대조하여 세 사건이 비즈니스 에러, 파라미터 불일치, N+1 쿼리로 인한 커넥션 풀 고갈이라는 서로 다른 원인임을 1분 만에 규명해 냈습니다.

Trade-off

자료를 수집하고 저장하는 작업에 비해 이를 위키 구조로 관계를 맺으며 정리하는 수동 운영 리소스 소모가 매우 크며, 사용자가 직접 수집 명령을 내리지 않으면 바쁜 날의 기록이 누락될 수 있고 실제 배포되는 최신 코드의 실시간 정합성을 완벽히 반영하기 어렵다는 한계가 존재합니다.

03

Key Concepts

Concept · 01

LLM 위키 패턴 (LLM Wiki Pattern)

안드레이 카파시가 고안한 문서 관리 패턴으로, 원본 데이터는 읽기 전용으로 동결하고 분석 정리본은 AI가 전담하여 편집하도록 통제하는 가벼운 LLM 지식 데이터베이스 아키텍처입니다.

  • AI와 인간의 협업을 위해 원본(Raw)과 정리본의 디렉터리 역할을 철저히 구분하여 설계
  • 전체 페이지를 일목요연하게 나열하는 index 및 log 변경 작업을 AI가 스스로 자동 수행하도록 조율
Concept · 02

MOC (Map of Content)

옵시디언 등 마크다운 지식 관리 커뮤니티에서 활용되는 개념으로, 고정된 폴더 구조 대신 관심사나 도메인별 관련 문서의 링크들을 유기적으로 모아놓은 인덱스형 목차 페이지를 뜻합니다.

  • AI 전용 색인 목록의 가독성 한계를 보완하고 인간 사용자가 쉽게 다닐 수 있는 탐색 경로 제공
  • 모든 신규 위키 페이지가 어떤 계층 구조에서든 반드시 연결되도록 강제하여 외톨이 문서의 발생 방지
Concept · 03

컨텍스트 윈도우 (Context Window)

대규모 언어 모델이 한 번의 추론 및 답변 과정에서 동시에 수용하고 처리할 수 있는 최대 토큰(텍스트) 범위의 한계점을 의미합니다.

  • 세션 초기화와 토큰 한계로 기억을 상실하는 단점을 극복하는 외부 기억 장치로 개인 위키를 구성
  • 불필요하게 원본 파일을 매번 전체 스캔하는 비용을 줄이기 위해 처리 대장을 별도로 관리하여 토큰 절약
Continue reading · same source

여기어때More from 여기어때

View all posts from 여기어때
  • 항공 프론트엔드 구축기 (10/10): 폴더 이름 앞의 기호 하나

    Frontend ArchitectureDirectory StructureFeature-Sliced Design
    3시간 전
  • 항공 프론트엔드 구축기 (8/10): 토큰이 세 군데서 온다

    NextJSWebViewAuthentication
    3시간 전
  • [2편] Grafana 커스텀 패널로 10만 점 산점도 그리기 — 만들고 나서야 보인 함정 3가지

    GrafanaCanvas APIReact
    3시간 전
  • [1편] APM 스캐터 차트 직접 만들기 — OpenTelemetry 수집과 ClickHouse 저장

    OpenTelemetryClickHouseAPM
    3시간 전
  • 전시 QA에서 예약·정산 QA로 넘어가며 달라진 관점들

    QA-TestingData-ConsistencyState-Table
    3시간 전

Related reads#LLM

Explore #LLM
토스

AI가 팀 규칙을 지키도록 하는 방법

#LLM2일 전
토스·RAG

How Documents Find Developers at Toss

#LLM2일 전
라인·SRE

장애 Alert의 원인을 스스로 찾다: SRE Observer 개발기

#LLM6일 전
여기어때·Generative AI

비주얼 디자이너는 AI로 어떤 문제까지 도전해볼 수 있을까?

#LLM1주 전
Samsung Tech

LLM에게 수백 MB 로그를 통째로 주지 마세요 — 근거를 "검증"할 수 있는 AI 이슈 분석 에이전트 개발기

#LLM1주 전

Source

여기어때
여기어때
Engineering Blog

Published · September 10, 2026

Topics

LLMMarkdown WikiContext WindowKarpathy PatternKnowledge Base