질문에 답하는 LLM이 항상 Agent인 것은 아닙니다.

Agent는 목표를 이해하고 현재 상태를 확인한 뒤 다음 행동을 선택하고 Tool을 실행하며 결과를 다시 확인할 수 있습니다.

기본 구조는 다음과 같습니다.

Goal → Observe → Decide → Act → Evaluate → Repeat

AI Agent란 무엇인가?

AI Agent는 목표를 달성하기 위해 여러 단계의 판단과 행동을 수행하는 시스템입니다.

예를 들어 사용자가 Acme 고객의 현재 상태를 분석해 달라고 하면 Agent는 CRM 검색, Opportunity 조회, Support Ticket 분석과 최종 요약까지 수행할 수 있습니다.

Chatbot은 주로 답변을 생성하지만 Agent는 Workflow를 실행할 수 있습니다.

Agent Loop

Agent Loop는 Agent의 핵심 실행 구조입니다.

Observe
↓
Decide
↓
Act
↓
Inspect Result
↓
Repeat

Agent에는 반드시 Stop Condition이 필요합니다.

예를 들어 목표 완료, 정보 부족, 사용자 질문 필요, Human Approval 필요, 최대 단계 초과 등이 있습니다.

Planning

Planning은 큰 목표를 작은 단계로 나누는 과정입니다.

예를 들어 분기별 Sales Report 작성이라는 목표를 데이터 조회, 정리, Revenue 계산, Top Customer 분석, 이전 분기 비교와 Summary 생성으로 나눌 수 있습니다.

Reasoning

Reasoning은 현재 정보와 규칙을 바탕으로 다음 행동을 선택하는 과정입니다.

Agent의 결정은 다음 중 하나일 수 있습니다.

ACT

ASK

ABSTAIN

ESCALATE

Production에서는 긴 내부 추론보다 구조화된 결정 결과를 저장하는 것이 좋습니다.

Tool Calling

Tool은 Agent를 실제 시스템과 연결합니다.

예:

get_customer(customerId)
get_opportunities(accountId)
create_task(data)
send_email(data)

LLM은 Tool을 선택할 수 있지만 실제 실행과 Permission 검사는 Backend가 담당해야 합니다.

Multi-step Tasks

Agent의 강점은 여러 단계가 필요한 작업입니다.

예를 들어 Churn Risk가 높은 고객을 찾고 Account Manager에게 Follow-up Task를 만드는 과정에는 Usage, Support, Payment 데이터 조회와 Ranking, Manager 조회 및 Task 생성이 필요할 수 있습니다.

이 과정에서 State가 중요합니다.

Memory

Memory는 Agent가 나중에 다시 사용할 정보를 저장하는 기능입니다.

Context Window와는 다릅니다.

주요 Memory 유형은 다음과 같습니다.

• Working Memory
• Conversation Memory
• Long-term Memory
• Episodic Memory
• Semantic Memory

모든 정보를 저장하는 것은 좋은 설계가 아닙니다. Privacy, Cost와 오래된 정보 문제가 발생할 수 있습니다.

ReAct

ReAct는 판단과 행동을 반복하는 대표적인 Agent 패턴입니다.

Observe → Decide → Act → Observe

Agent는 Tool 결과를 보고 다시 다음 행동을 선택합니다.

Reflection과 Verification

Agent는 결과를 다시 확인해 작업이 제대로 완료되었는지 검사할 수 있습니다.

하지만 Permission이나 금액 제한 같은 명확한 규칙은 LLM이 아니라 Code에서 검증하는 것이 좋습니다.

Human in the Loop

민감한 작업은 자동 실행하지 않고 사람의 승인을 받을 수 있습니다.

Agent Proposal → Human Approval → Backend Execution

Agent Architecture

User
↓
Agent Controller
↓
LLM
↓
Decision
↓
Tool Router
↓
APIs / Database
↓
Result

Agent Controller는 State, Step Limit, Permission, Retry, Timeout, Logging과 Human Approval을 관리해야 합니다.

Agentic CRM 예제

Agent가 Churn Risk가 높은 고객을 찾는다고 가정합니다.

Agent는 Accounts, Usage, Support Tickets, Payment History를 조회하고 Risk를 계산한 뒤 Top Customers를 선택하고 Account Manager에게 Task를 생성할 수 있습니다.

필요한 정보가 없으면 추측하지 말고 사용자에게 질문하거나 Escalate해야 합니다.

보안

Agent는 실제 Tool에 연결되므로 Prompt Injection, Tool Abuse, Unauthorized Action과 Data Leakage 위험이 더 커집니다.

Permission과 핵심 보안 규칙은 LLM 외부에서 검증해야 합니다.

정리

AI Agent는 목표 달성을 위해 여러 단계의 판단과 행동을 수행합니다.

Agent Loop는 Observe, Decide, Act, Evaluate의 반복입니다.

Planning은 목표를 작은 단계로 나눕니다.

Tool Calling은 Agent를 실제 시스템과 연결합니다.

Memory는 필요한 정보를 나중에 다시 사용할 수 있게 합니다.

신뢰할 수 있는 Agent에는 State Management, Validation, Permission, Error Handling, Stop Conditions, Logging과 필요한 경우 Human Approval이 필요합니다.

다음 단계에서는 ReAct, Planner-Executor, Reflection, Verification, Orchestration 같은 Agent Architecture를 학습할 수 있습니다.