Agentic Search 시스템 구축기: 사내 검색 환경을 재정의하기 위해 우리가 선택한 것들
Summary
단순 RAG의 한계를 넘다! 삼성전자가 선택한 LangGraph 기반 Agentic Search 구축 전략
파편화된 복합 모달 사내 지식을 정교하게 통합 제어하는 AI 에이전트 아키텍처의 실전 설계 노하우
본 아티클은 복잡하고 유기적인 사내 데이터를 효과적으로 검색하기 위해 Agentic Search 시스템을 설계하고 구현한 실무 과정을 소개합니다. 단순 Chat 형태를 넘어 실행 흐름을 DAG 관점으로 바라보고, 다양한 맞춤형 Tool 설계와 LangGraph 프레임워크를 연계하여 성능 및 모니터링 가시성을 모두 잡은 에이전트 구축 여정을 다룹니다.
- 01전체 에이전트 실행 흐름을 DAG로 모델링하고 CoT 기반으로 묶어 비용과 지연 시간(Latency) 최소화
- 02Context 크기 폭발 방지를 위해 전처리 Chunking 후 SLM으로 분석하는 컨텍스트 툴 설계
- 03FE 컴포넌트와 유기적으로 소통하여 복잡한 UX를 제어하는 사용자 상호작용 툴 도입
- 04확장성과 유지보수성을 극대화하기 위한 MCP(Model Context Protocol) 기반의 리소스 인터페이스 구성
- 05상태 관리 및 모니터링(Langfuse) 연계가 탁월한 Pregel 기반 LangGraph 런타임 탑재
RECOMMENDATION
단순 RAG 도입 이후 컨텍스트 과부하나 파편화된 데이터 검색 한계에 부딪힌 AI 서비스 기획자 및 백엔드 개발자분들께 추천합니다. 실무에서 바로 적용할 수 있는 에이전트 노드 설계 패턴과 런타임 최적화에 대한 훌륭한 나침반이 될 것입니다.
The Problem
사내 지식 데이터가 DB, 문서, 이미지 등 다양한 형태로 파편화되어 존재함에 따라, 기존의 조건식 검색이나 맥락이 배제된 단순 임베딩 기반 검색으로는 다중 모달 정보를 효과적으로 탐색하는 데 한계가 있었습니다.
The Solution
에이전트의 실행 흐름을 DAG 구조로 재정의하여 CoT 기반 단일 Reasoning으로 통합하고, SLM 기반 문서 분석을 통한 컨텍스트 핸들링, 사용자 상호작용 및 MCP 인터페이스 기반 리소스 툴을 구현한 뒤, 이들을 안정적으로 구동하기 위한 런타임으로 LangGraph를 도입했습니다.
The Result
다양한 검색 결과 속에서도 컨텍스트 크기를 안정적으로 유지할 수 있게 되었으며, 멀티턴 확장 및 Scale-out 배치 시스템 구축 환경을 마련하고 Langfuse 연계를 통해 노드 단위 모니터링 용이성을 확보했습니다.
Trade-off
에이전트 노드를 극도로 세분화할 경우 노드 간 홉과 LLM 호출 횟수가 늘어나 Latency 및 비용이 상승하고 복잡도가 증가하는 한계가 있어, 일부 서브 태스크를 단일 Reasoning 프롬프트로 병합하는 최적화 절충안을 택해야 했습니다.
Key Concepts
More from Samsung Tech
View all posts from Samsung TechLLM에게 계산을 시키지 마세요 — 숫자를 '신뢰'할 수 있는 AI 데이터 애널리스트 개발기
LLMData AnalyticsMulti-Agent System2주 전전문가를 넘어선 AI – 5G vRAN 추론 코드 자동 생성을 위한 Multi-Agent 컴파일러
LLMMulti-AgentSIMD2개월 전가전제품 MCU 펌웨어, AI가 100% 개발하는 시나리오 가능한가
AI AgentMCUFirmware2개월 전AI 저작권 소송 – 美 법원의 판단 기준
Generative AICopyright LawFair Use3개월 전6G를 위한 AI/ML 물리계층 – JSCM 기반 오디오 전송
6GJSCMSemantic Communication3개월 전