Read Original
#AI

사내 지식으로 Agentic RAG 만들기 (1/3) : RAG 파이프라인의 바닥 다지기

사내 지식으로 Agentic RAG 만들기 (1/3) : RAG 파이프라인의 바닥 다지기
01

Summary

사내 문서와 아키텍처 다이어그램까지 완벽 색인! 여기어때의 초대형 'Agentic RAG' 데이터 파이프라인 구축기

단순 키워드 매칭을 넘어 이미지 속 숨은 의도와 문서 계층 구조까지 이해하는 강력한 MCP 검색 도구의 기초 다지기

사내 지식 관리를 챗봇 수준을 넘어 무한 확장이 가능한 MCP(Model Context Protocol) 구조로 변환한 실제 혁신 사례를 다룹니다. 기존 RAG 모델들이 겪던 이미지 정보 유실과 높은 API 요금 문제를 해결하기 위해 증분 수집, Markdown 정규화, 그리고 문맥 인지형 대체 텍스트 생성 파이프라인을 구축한 과정을 상세히 설명합니다. 검색 품질 향상과 더불어 운영 비용을 100분의 1로 절감한 실전 RAG 바닥 설계 노하우를 공유합니다.

  • 01사내 에이전트 누구나 쉽게 탈착해 쓸 수 있도록 유연한 MCP(Model Context Protocol) 규격 인터페이스 채택
  • 02CQL, JQL 쿼리를 이용해 매일 변동되는 평균 1,300건의 문서만 골라 가공하는 스마트 증분 파이프라인 설계
  • 03LLM이 이해하기 가장 편하면서도 핵심 문서 구조(헤더, 코드 블록)를 보존하는 Markdown 변환 필터 도입
  • 04단순 사물 묘사가 아닌, 이미지 전후 맥락 정보를 활용하여 문서 내 역할에 집중하게 만드는 고도화된 AI 대체 텍스트 엔진 탑재
  • 05필요할 때만 식별키(ID)로 원본 이미지를 불러오는 지연 로드 장치를 마련하여 대규모 토큰 소모 방지

RECOMMENDATION

Confluence나 Jira 등의 위키 문서를 기반으로 RAG를 도입하고자 하나, 아키텍처 다이어그램이나 시각 자료가 누락되어 검색 품질 저하를 겪는 빌더들에게 강력히 추천합니다. 대규모 문서 처리 시 LLM 비용 낭비를 절감하고 싶다면 증분 배치 가공 로직을 직접 참고하기 좋습니다.

The Problem

사내 위키나 업무 이력이 문서화되어 있음에도 정보가 개인에게 종속되어 반복적인 질문에 시기적절하게 답하기 어려웠습니다. 기존 Atlassian MCP 검색 도구는 단순 키워드 매칭 방식이라 맞는 단어를 모르면 검색을 반복하며 비용을 소모했고, 문서 내 이미지 정보를 누락하여 오답을 유도하는 문제가 있었습니다.

The Solution

Confluence와 Jira에서 CQL/JQL을 사용해 마지막 변경 사항만 가공하는 증분 수집 배치를 구성하고, 수집한 raw JSON을 구조와 메타데이터가 보존되는 Markdown 형태로 변환했습니다. 이미지 유실 문제를 해결하기 위해 문서 제목과 전후 맥락을 Gemini 모델에 함께 제공하여 이미지의 본래 역할이 텍스트 형태로 치환된 고품질 대체 텍스트 파이프라인을 구축했습니다.

The Result

전체 재적재 방식 대비 가공 비용을 100분의 1 수준으로 줄였으며, 이미지 정보와 문서 구조를 성공적으로 복원하여 정확한 정보를 색인했습니다. 필요한 문서를 곧바로 찾게 됨에 따라 에이전트의 반복 검색(왕복 탐색) 횟수가 크게 줄어들었고, 이에 따른 LLM 토큰 소모 비용도 동반 절감되었습니다.

Trade-off

대체 텍스트만으로는 이미지 내 모든 미세한 정보나 관계를 완전하게 보존하기는 어려우며, 이를 위해 에이전트가 ID를 기반으로 원본 이미지를 지연 호출(Lazy Load)하는 추가 로직이 필요합니다. 또한 실시간 동기화가 아닌 배치 주기 기반 수집 형식을 취하므로 생성 직후의 문서에 대해서는 즉각적인 검색 지연이 발생할 수 있습니다.

03

Key Concepts

Concept · 01

MCP (Model Context Protocol)

AI 에이전트가 외부의 도구, 데이터 소스, 엔드포인트를 규격화된 방식으로 쉽게 활용할 수 있게 해주는 표준 인터페이스 가이드라인입니다.

  • 사내 지식 검색 엔진을 단순 챗봇 형태가 아닌 공용 MCP로 구현하여 사내의 다양한 LLM 에이전트들이 공용 도구로 재사용할 수 있도록 설계했습니다.
Concept · 02

증분 가공 수집 (Incremental Processing)

전체 데이터를 주기적으로 전량 재수집하는 비효율을 방지하고, 직전 수집 시각 이후 생성 및 변경된 대상 데이터만 추출하여 업데이트하는 데이터 가공 기법입니다.

  • Confluence API와 Jira API의 쿼리 문법(CQL, JQL)을 통해 최신 변경분만 타겟팅함으로써, LLM 대체 텍스트 및 임베딩 처리 비용을 기존 전량 처리 방식 대비 100분의 1 수준으로 줄였습니다.
Concept · 03

문맥 인지형 대체 텍스트 (Context-Aware Alt-Text)

단순히 이미지가 무엇을 그리고 있는지 시각적으로 묘사하는 데 그치지 않고, 그 이미지가 쓰인 문서의 주제, 전후 본문 내용 등의 맥락을 파악하여 이미지의 논리적 목적을 요약하는 기법입니다.

  • 인파가 가득한 삽화 이미지를 단순 해변 풍경 묘사가 아닌 '의미적 격차 예시용 삽화'로 해석하도록 gemini-3.1-flash-lite와 이미지 주변 텍스트를 결합 전달하여 RAG 성능을 고도화했습니다.