소프트웨어 3.0 시대를 맞이하며
Summary
소프트웨어 3.0 시대, 우리가 알던 '레이어드 아키텍처'가 AI 에이전트의 정답이다
Andrej Karpathy가 예고한 미래, Claude Code와 Harness 개념으로 풀어보는 에이전트 설계 전략
Andrej Karpathy의 Software 3.0 담론을 시작으로, LLM을 실무형 에이전트로 진화시키기 위한 'Harness'의 중요성을 강조합니다. 특히 Anthropic의 Claude Code 구조를 분석하여 우리가 익숙한 백엔드 아키텍처 패턴이 AI 시대에도 어떻게 유효한 지침이 되는지 상세히 설명합니다.
- 01Software 1.0(코드)에서 2.0(데이터)을 거쳐 3.0(자연어 프롬프트)으로의 패러다임 전환
- 02LLM의 야생마 같은 힘을 제어하는 마구, 'Harness' 개념의 등장
- 03Slash Command부터 MCP까지, 전통적 레이어드 아키텍처와 1:1 매칭되는 에이전트 구조
- 04God Skill, Tight Coupling 등 AI 에이전트 설계 시 주의해야 할 '코드 스멜' 정의
- 05Exception을 Question으로 바꾸는 Human-in-the-Loop(HITL)의 혁신성
RECOMMENDATION
LLM 기반 서비스를 준비 중인 엔지니어라면 새로운 기술 용어에 매몰되기보다, 기존의 SRP(단일 책임 원칙)와 레이어드 아키텍처를 프롬프트와 도구 설계에 투영해 볼 것을 강력히 권장합니다.
The Problem
LLM은 강력한 추론 능력을 갖추었으나 파일 시스템 접근, API 호출, 상태 관리 등 실제 업무를 수행하기 위한 외부 시스템과의 연결 및 제어 능력이 부족하여 단독으로는 실무에 활용하기 어렵습니다.
The Solution
LLM의 한계를 보완하고 실제 업무에 연결하는 'Harness' 개념을 도입하며, 이를 위해 Slash Command(Controller), Sub-agent(Service), Skills(Domain), MCP(Infrastructure) 등 전통적인 레이어드 아키텍처 구조를 에이전트 설계에 적용합니다.
The Result
전통적인 소프트웨어 공학의 설계 원칙을 에이전트에 적용함으로써 확장성과 재사용성을 확보할 수 있으며, 특히 예외 상황에서 사용자에게 판단을 위임하는 Human-in-the-Loop(HITL) 방식을 통해 기존 자동화의 한계를 극복할 수 있습니다.
Trade-off
전통적 아키텍처의 안티패턴인 God Skill이나 스파게티 설정 파일 등의 문제가 에이전트 설계에서도 동일하게 발생할 수 있으며, 자동화 과정에서 사용자의 개입이 잦아질 경우 완전 자동화 대비 실행 속도가 저하될 수 있습니다.
Key Concepts
More from 토스
View all posts from 토스누군가는 토스를 테스트하는 동안, 우리는 테스트하는 법을 만듭니다.
QA EngineeringTest AutomationAI in Testing2주 전
es-toolkit: How a Small Internal Library Became a Global Project
JavaScriptTypeScriptTree-shaking2주 전6. 도구를 넘어, 기준과 책임으로
Technical WritingAI AutomationKnowledge Governance2주 전5. Technical Writer, 사라질 결심
LLMGitHub ActionsGenerative AI2주 전es-toolkit, 사내 작은 라이브러리가 전세계적인 라이브러리가 되기까지
JavaScriptTypeScriptTree-shaking3주 전