AI Agent란? 일반 LLM과 무엇이 다른가
AI Agent가 일반 챗봇·LLM 호출과 무엇이 다른지 Anthropic의 공식 정의를 기준으로 정리하고, 언제 에이전트가 필요한지 설명한다.
AI Agent는 사람이 매 단계 지시하지 않아도 스스로 다음 행동을 판단해 여러 단계를 이어가는 AI 시스템을 말한다. Anthropic은 엔지니어링 블로그에서 이를 “LLM이 자신의 프로세스와 도구 사용을 스스로 지휘하며, 작업을 어떻게 완수할지에 대한 통제권을 유지하는 시스템”이라고 정의한다. 이 정의는 업계에서 널리 인용되는 기준 중 하나다.
“그냥 LLM을 부르는 것”과 무엇이 다른가
일반적인 LLM 호출(예: ChatGPT에 질문 하나를 던지고 답을 받는 것)은 입력 하나에 출력 하나가 나오는 단발성 상호작용이다. 반면 AI Agent는 다음과 같은 반복 구조를 가진다.
- 현재 상황을 판단한다.
- 다음에 어떤 도구를 쓸지, 또는 작업이 끝났는지 스스로 결정한다.
- 도구를 실행하고 결과를 관찰한다.
- 목표를 달성할 때까지 1~3을 반복한다.
Anthropic은 이와 대비되는 개념으로 **“워크플로(Workflow)”**를 제시한다. 워크플로는 “LLM과 도구가 미리 정해진 코드 경로를 통해 조율되는 시스템”이다. 즉 사람이 미리 “A를 하고, 그 다음 B를 하고, 조건이 맞으면 C를 하라”는 순서를 코드로 정해두는 방식이다. 반면 에이전트는 그 순서 자체를 LLM이 실시간으로 정한다는 점이 핵심 차이다.
| 구분 | 워크플로(Workflow) | AI Agent |
|---|---|---|
| 실행 경로 | 사람이 미리 코드로 정의 | LLM이 상황에 따라 스스로 결정 |
| 예측 가능성 | 높음(정해진 단계만 실행) | 낮음(단계 수·순서가 가변적) |
| 적합한 문제 | 필요한 단계를 미리 알 수 있는 작업 | 몇 단계가 필요할지 예측하기 어려운 열린 문제 |
| 예시 | 정해진 순서의 데이터 파이프라인 | Claude Code의 자율적인 버그 수정 |
모든 문제에 에이전트가 필요한 것은 아니다
Anthropic은 “가능하면 단순하게 시작하라”고 권고한다. 많은 경우 검색(retrieval)과 예시를 곁들인 단일 LLM 호출만으로 충분하며, 에이전트는 지연 시간과 비용이 늘어나는 트레이드오프를 감수할 만한 가치가 있을 때만 고려해야 한다는 것이다. Anthropic이 제시하는 에이전트가 적합한 조건은 명확하다 — **“필요한 단계 수를 예측하기 어렵고, 고정된 경로를 미리 정해둘 수 없는 열린 문제(open-ended problem)”**일 때다.
에이전트를 구성하는 기본 단위: Augmented LLM
Anthropic은 모든 에이전트 시스템의 기반이 되는 가장 작은 단위로 **“증강된 LLM(Augmented LLM)”**을 꼽는다. 검색(retrieval), 도구(tools), 메모리 같은 능력이 더해진 LLM을 말한다. 여기에 MCP 같은 표준을 통해 외부 도구를 연결하면, LLM은 단순히 텍스트를 생성하는 것을 넘어 실제로 파일을 읽고, API를 호출하고, 다른 시스템에 접근하는 “행동”을 할 수 있게 된다. Anthropic은 별도로 “에이전트는 도구를 이용해 행동을 취할 수 있는 AI 시스템 — 코드를 실행하고, 외부 API를 호출하고, 다른 에이전트에게 메시지를 보낼 수 있는 시스템”이라고도 설명한다.
대표적인 활용 패턴
Anthropic의 자료는 워크플로와 에이전트를 아우르는 몇 가지 대표 패턴을 소개한다.
- 프롬프트 체이닝: 작업을 여러 단계로 나눠 순서대로 LLM을 호출
- 라우팅: 입력 종류에 따라 다른 처리 경로로 분기
- 병렬화: 여러 하위 작업을 동시에 처리
- 오케스트레이터-워커: 하나의 에이전트가 여러 하위 작업자에게 작업을 나눠줌
- 평가자-최적화: 결과를 평가하고 스스로 개선을 반복
- 자율 에이전트: 위 패턴들과 달리 미리 정해진 경로 없이 스스로 판단해 진행
한계와 주의할 점
- 에이전트는 예측 가능성이 낮은 대신 실수할 여지도 늘어난다. 되돌리기 어려운 작업(결제, 삭제, 외부 발신 등)에는 사람의 승인 단계를 두는 것이 안전하다.
- “에이전트”라는 용어는 업계에서 아직 완전히 통일된 정의로 쓰이지 않으며, 회사·문헌마다 강조점이 조금씩 다를 수 있다. 이 글은 Anthropic의 정의를 기준으로 삼았다.
- 에이전트와 관련된 자율성(autonomy) 수준을 어떻게 측정할지도 아직 연구가 진행 중인 영역이다.
결론
AI Agent는 “정해진 순서를 따르는 자동화”가 아니라 “다음에 무엇을 할지 스스로 판단하는 시스템”이다. 판단의 주체가 사람이 미리 짠 코드인지, LLM 자신인지가 워크플로와 에이전트를 가르는 핵심 기준이다. 여러 에이전트가 모여 더 큰 목표를 조율하는 상위 개념은 Agentic AI 글에서 이어서 다룬다.