theinnovators왜 지금 ‘에이전트’인가?
대형 언어 모델(LLM)의 발전은 단순히 질문에 답변하거나 텍스트를 생성하는 수준을 넘어, 실제로 업무를 대신 수행하는 시스템, 즉 에이전트(Agent) 의 시대를 열고 있습니다.
기존 자동화가 “도구”에 불과했다면, 에이전트는 사용자 대신 ‘행동하는 주체’입니다. 예를 들어, 단순한 챗봇이 아닌, 고객의 환불 요청을 분석하고 필요한 API를 호출한 후 결과를 요약해 전달하는 일련의 흐름을 혼자 수행할 수 있습니다.
에이전트란 무엇인가?
에이전트는 다음의 특징을 갖춘 LLM 기반의 자동화 시스템입니다:
- 독립성: 사용자의 개입 없이 스스로 의사결정하고 실행
- 툴 사용 능력: 외부 시스템(API, DB, 웹 등)에 접근해 정보 조회 및 행동 수행
- 워크플로우 이해: 목표 달성을 위해 여러 단계를 순차적으로 실행
단순 응답형 LLM이나 챗봇은 에이전트가 아닙니다. 에이전트는 ‘실행’까지 포함합니다.
언제 에이전트를 도입해야 할까?
에이전트는 다음과 같은 복잡한 워크플로우에서 빛을 발합니다:
- 판단이 필요한 업무: 고객의 환불 요청 처리, 계약서 검토 등
- 복잡한 규칙 시스템의 대체: 보안 심사, 정산 검토 등
- 비정형 데이터 활용: 문서 해석, 메일 분류, 자연어 기반 대화
에이전트 구성 요소
에이전트는 다음 세 가지로 구성됩니다:
- 모델 (Model)
- LLM이 판단과 실행 흐름을 담당합니다.
- 복잡한 작업은 GPT-4, 간단한 작업은 소형 모델로 분리 가능.
- 도구 (Tools)
- 에이전트가 실제로 외부와 상호작용하는 수단(API, DB, UI 등).
- 예: 고객 DB 조회, 이메일 발송, 주문 상태 확인 등.
- 지침 (Instructions)
- 에이전트의 행동을 구체적으로 설명한 명세서.
- 실제 매뉴얼이나 정책 문서를 자연어로 변환해 활용.
오케스트레이션 전략
에이전트를 잘 작동시키기 위해 워크플로우를 어떻게 구성할지도 중요합니다.
1. 단일 에이전트 패턴
- 하나의 에이전트에 여러 도구와 명령을 넣어 간단하게 시작
- 유지보수가 쉬움, 신규 도구 추가도 간편
2. 다중 에이전트 패턴
- 기능별로 에이전트를 나누고, 매니저(agent orchestrator) 가 조정
- 예: 번역 요청을 받으면, 매니저가 스페인어/프랑스어/이탈리아어 에이전트를 호출
복잡성이 높아질수록 다중 에이전트 설계가 유리합니다.
에이전트의 안전장치: Guardrails
에이전트는 실시간으로 판단하고 행동하기 때문에 안전성과 통제력이 필수입니다. 이를 위해 Guardrail을 설정합니다.
Guardrail의 예시:
| 종류 | 설명 |
|---|---|
| Relevance 필터 | 엉뚱한 질문 차단 |
| Safety 검사 | 시스템 프롬프트 유출 방지, 프롬프트 인젝션 탐지 |
| 개인정보 필터 | PII 노출 방지 |
| 출력 검증 | 브랜드 가이드에 어긋나는 출력 차단 |
| 도구 위험도 평가 | 고위험 도구 사용 시 승인 요청, 사람 개입 |
휴먼 인 더 루프 전략
에이전트가 모든 걸 완벽히 처리할 수는 없습니다. 다음과 같은 상황에서는 사람 개입이 필수입니다:
- 실패 반복 시 (예: 같은 질문에 엉뚱한 답만 하는 경우)
- 고위험 작업 시 (예: 자동 환불, 결제 등)
초반에는 반드시 사람 개입 루틴을 넣고, 점진적으로 자동화 비중을 늘리는 것이 안전합니다.
시작은 작게, 구조는 크게
에이전트는 단순한 기술 트렌드가 아니라, 업무 흐름 전체를 재정의하는 도구입니다.
실전 팁 요약
- 처음엔 단일 에이전트 + 명확한 지침 + 몇 개의 도구로 시작하세요.
- 점진적으로 멀티 에이전트와 가드레일을 추가하세요.
- 모든 결정에 앞서 “이걸 에이전트가 처리하는 게 정말 더 나은가?” 를 자문하세요.
TI Tech Lab 박선홍 연구원
Source
- OpenAI Agents SDK
- 모델 선택 가이드
- https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf?utm_source=pytorchkr&ref=pytorchkr
Add comment