Read Original
#AI

사내 지식으로 Agentic RAG 만들기 (2/3) : 검색을 얹기, LightRAG와 Navigator

사내 지식으로 Agentic RAG 만들기 (2/3) : 검색을 얹기, LightRAG와 Navigator
01

Summary

벡터 검색의 한계를 극복하다! LightRAG와 Neo4j로 완성한 사내 지식 RAG

문서 간 '의미 연결'과 '위치 계층'을 통합 탐색하여 RAG 답변 정확도를 84%까지 끌어올린 개발기

여기어때 팀이 Confluence와 Jira 문서의 관계성 및 구조적 단서를 보존하기 위해 LightRAG와 Navigator(Neo4j)를 결합한 검색 시스템 구축 과정을 다룹니다. 노이즈 Entity 제거, 사내 도메인 특화 프롬프트 개선, Neo4j 배치 적재 및 해싱 기법을 통해 고성능 검색 파이프라인을 완성한 기술적 인사이트를 제공합니다.

  • 01LightRAG의 Entity Type 재정의 및 프롬프트 압축을 통해 검색 정확도 84% 달성
  • 02Confluence 트리와 Jira 계층 구조를 원본 그대로 Neo4j에 이식한 Navigator 검색 시스템 구현
  • 03임베딩 입력 시점에 문서의 계층 경로(Hierarchy Path)를 결합하여 위치 기반 오답 최소화
  • 04속성 인덱스 적용 및 팀 단위 배치 적재로 17만 건 대용량 적재 시간 81% 단축

RECOMMENDATION

단순 벡터 유사도 검색의 한계로 오답률이 높은 사내 챗봇/에이전트 시스템을 개선하고자 하는 AI 및 백엔드 엔지니어에게 적극 추천합니다.

The Problem

기존의 단순 벡터 검색 방식은 사내 Confluence 및 Jira 문서 조각 간의 유기적 관계와 계층 위치를 파악하지 못해 복잡한 질문에 대한 오답을 내고, 검색 및 열람을 수차례 반복하는 비효율을 초래했습니다.

The Solution

개념과 관계를 지식 그래프로 연결하는 LightRAG와 문서의 트리/에픽 계층 구조를 Neo4j DB로 보존하는 Navigator라는 두 리트리버를 구축하고, 프롬프트 특화 및 적재 성능 최적화를 진행했습니다.

The Result

LightRAG 프롬프트 튜닝으로 노이즈 엔티티가 86% 감소하고 검색 정확도가 76%에서 84%로 향상되었으며, Neo4j 인덱싱 및 배치 처리로 대용량 문서 적재 시간이 81% 단축되고 메모리 사용률이 40% 감소했습니다.

Trade-off

비동기 삭제 및 인덱싱 구조로 인해 재처리 점검 스케줄과 트랜잭션 예외 처리가 추가되었고, 임베딩 모델 변경 시 전사 데이터를 재인덱싱해야 하는 비용이 수반됩니다.

03

Key Concepts

Concept · 01

LightRAG

개체(Entity)와 관계(Relation)를 추출하여 지식 그래프를 구축하고, 그래프 탐색과 벡터 검색을 통합 수행하는 경량화된 GraphRAG 프레임워크입니다.

  • 사내 Confluence 및 Jira 문서에서 키워드와 개념 간 연결 고리를 그래프 형태로 추출
  • Entity/Relation/청크 원문 기반의 multi-vector 탐색을 통해 의미 맥락 보존
Concept · 02

Navigator

Confluence의 폴더 구조 및 Jira의 에픽 계층을 Neo4j 그래프 DB에 원본 그대로 매핑하여 위치 맥락을 탐색하는 모듈입니다.

  • 청크 임베딩 전 상위 계층 경로 정보를 자동으로 붙여 동일 제목 문서 간 혼선 방지
  • Neo4j를 통해 의미 검색과 부모 노드 탐색을 단일 쿼리로 결합 수행
Concept · 03

GraphRAG

텍스트 조각을 독립된 벡터로만 다루지 않고, 개체 간의 연관 관계를 지식 그래프로 인덱싱하여 검색 정밀도를 높이는 기술입니다.

  • 질문 시점에 조각을 잇는 LLM 추측 오차를 방지하고 미리 구축된 지식 연결망 활용