콘텐츠로 이동

에이전트

에이전트는 앱의 핵심 구성 요소입니다. 에이전트는 instructions 와 tools 로 구성된 대규모 언어 모델(LLM)입니다.

기본 구성

에이전트에서 가장 일반적으로 설정하는 속성은 다음과 같습니다:

  • name: 에이전트를 식별하는 필수 문자열
  • instructions: 개발자 메시지 또는 시스템 프롬프트라고도 함
  • model: 사용할 LLM 및 temperature, top_p 등 모델 튜닝 매개변수를 설정하는 선택적 model_settings
  • tools: 에이전트가 작업을 수행하기 위해 사용할 수 있는 도구들
from agents import Agent, ModelSettings, function_tool

@function_tool
def get_weather(city: str) -> str:
    """returns weather info for the specified city."""
    return f"The weather in {city} is sunny"

agent = Agent(
    name="Haiku agent",
    instructions="Always respond in haiku form",
    model="gpt-5-nano",
    tools=[get_weather],
)

컨텍스트

에이전트는 context 타입에 대해 제네릭합니다. 컨텍스트는 의존성 주입 도구로, 사용자가 생성하여 Runner.run() 에 전달하는 객체입니다. 이는 모든 에이전트, tool, handoff 등에 전달되며, 에이전트 실행을 위한 의존성과 상태를 담는 가방 역할을 합니다. 컨텍스트로는 어떤 Python 객체든 제공할 수 있습니다.

@dataclass
class UserContext:
    name: str
    uid: str
    is_pro_user: bool

    async def fetch_purchases() -> list[Purchase]:
        return ...

agent = Agent[UserContext](
    ...,
)

출력 타입

기본적으로, 에이전트는 일반 텍스트(즉, str) 출력을 생성합니다. 에이전트가 특정 타입의 출력을 생성하도록 하려면 output_type 매개변수를 사용할 수 있습니다. 일반적인 선택은 Pydantic 객체를 사용하는 것이지만, Pydantic TypeAdapter 로 감쌀 수 있는 모든 타입(데이터클래스, 리스트, TypedDict 등)을 지원합니다.

from pydantic import BaseModel
from agents import Agent


class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

agent = Agent(
    name="Calendar extractor",
    instructions="Extract calendar events from text",
    output_type=CalendarEvent,
)

Note

output_type 을 전달하면, 모델은 일반 텍스트 응답 대신 structured outputs 를 사용하게 됩니다.

멀티 에이전트 시스템 설계 패턴

멀티 에이전트 시스템을 설계하는 방법은 다양하지만, 일반적으로 다음 두 가지 널리 적용 가능한 패턴이 있습니다:

  1. 매니저(에이전트를 도구로 사용): 중앙 매니저/오케스트레이터가 특화된 하위 에이전트를 도구처럼 호출하고 대화를 계속 제어
  2. 핸드오프: 동등한 에이전트들 간에 제어권을 특화된 에이전트로 넘겨서 그 에이전트가 대화를 이어감. 탈중앙화 방식

자세한 내용은 에이전트 빌딩 실용 가이드 를 참고하세요.

매니저(에이전트를 도구로 사용)

customer_facing_agent 는 모든 사용자 상호작용을 처리하고, 도구로 공개된 특화된 하위 에이전트를 호출합니다. 자세한 내용은 도구 문서를 참조하세요.

from agents import Agent

booking_agent = Agent(...)
refund_agent = Agent(...)

customer_facing_agent = Agent(
    name="Customer-facing agent",
    instructions=(
        "Handle all direct user communication. "
        "Call the relevant tools when specialized expertise is needed."
    ),
    tools=[
        booking_agent.as_tool(
            tool_name="booking_expert",
            tool_description="Handles booking questions and requests.",
        ),
        refund_agent.as_tool(
            tool_name="refund_expert",
            tool_description="Handles refund questions and requests.",
        )
    ],
)

핸드오프

핸드오프는 에이전트가 위임할 수 있는 하위 에이전트입니다. 핸드오프가 발생하면, 위임된 에이전트가 대화 기록을 전달받고 대화를 이어갑니다. 이 패턴은 단일 작업에 특화되어 뛰어난 성능을 내는 모듈식 특화 에이전트를 가능하게 합니다. 자세한 내용은 핸드오프 문서를 참조하세요.

from agents import Agent

booking_agent = Agent(...)
refund_agent = Agent(...)

triage_agent = Agent(
    name="Triage agent",
    instructions=(
        "Help the user with their questions. "
        "If they ask about booking, hand off to the booking agent. "
        "If they ask about refunds, hand off to the refund agent."
    ),
    handoffs=[booking_agent, refund_agent],
)

동적 instructions

대부분의 경우, 에이전트를 생성할 때 instructions 를 제공할 수 있습니다. 그러나 함수로 동적 instructions 를 제공할 수도 있습니다. 이 함수는 에이전트와 컨텍스트를 인수로 받고, 프롬프트를 반환해야 합니다. 일반 함수와 async 함수 모두 허용됩니다.

def dynamic_instructions(
    context: RunContextWrapper[UserContext], agent: Agent[UserContext]
) -> str:
    return f"The user's name is {context.context.name}. Help them with their questions."


agent = Agent[UserContext](
    name="Triage agent",
    instructions=dynamic_instructions,
)

라이프사이클 이벤트(hooks)

때로는 에이전트의 라이프사이클을 관찰하고 싶을 수 있습니다. 예를 들어, 이벤트를 로깅하거나 특정 이벤트 발생 시 데이터를 미리 가져오고 싶을 수 있습니다. hooks 속성을 사용하여 에이전트 라이프사이클에 훅을 걸 수 있습니다. AgentHooks 클래스를 상속하고, 관심 있는 메서드를 오버라이드하세요.

가드레일

가드레일은 에이전트가 실행되는 동안 사용자 입력에 대한 검사/검증을 병렬로 수행하고, 에이전트 출력이 생성된 후에는 그 출력에 대해서도 수행할 수 있게 합니다. 예를 들어, 사용자 입력과 에이전트 출력을 관련성 기준으로 선별할 수 있습니다. 자세한 내용은 가드레일 문서를 참조하세요.

에이전트 복제/복사

에이전트에서 clone() 메서드를 사용하면, 에이전트를 복제하고 원하는 속성을 선택적으로 변경할 수 있습니다.

pirate_agent = Agent(
    name="Pirate",
    instructions="Write like a pirate",
    model="gpt-4.1",
)

robot_agent = pirate_agent.clone(
    name="Robot",
    instructions="Write like a robot",
)

도구 사용 강제

도구 목록을 제공한다고 해서 LLM 이 항상 도구를 사용하는 것은 아닙니다. ModelSettings.tool_choice 를 설정하여 도구 사용을 강제할 수 있습니다. 유효한 값은 다음과 같습니다:

  1. auto: LLM 이 도구 사용 여부를 스스로 결정
  2. required: LLM 이 반드시 도구를 사용해야 함(어떤 도구를 사용할지는 지능적으로 결정 가능)
  3. none: LLM 이 도구를 사용하지 않도록 요구
  4. 특정 문자열(예: my_tool)을 설정: LLM 이 해당 특정 도구를 사용하도록 요구
from agents import Agent, Runner, function_tool, ModelSettings

@function_tool
def get_weather(city: str) -> str:
    """Returns weather info for the specified city."""
    return f"The weather in {city} is sunny"

agent = Agent(
    name="Weather Agent",
    instructions="Retrieve weather details.",
    tools=[get_weather],
    model_settings=ModelSettings(tool_choice="get_weather")
)

도구 사용 동작

Agent 구성의 tool_use_behavior 매개변수는 도구 출력 처리 방식을 제어합니다:

  • "run_llm_again": 기본값. 도구를 실행하고, LLM 이 그 결과를 처리하여 최종 응답을 생성
  • "stop_on_first_tool": 첫 번째 도구 호출의 출력을 추가적인 LLM 처리 없이 최종 응답으로 사용
from agents import Agent, Runner, function_tool, ModelSettings

@function_tool
def get_weather(city: str) -> str:
    """Returns weather info for the specified city."""
    return f"The weather in {city} is sunny"

agent = Agent(
    name="Weather Agent",
    instructions="Retrieve weather details.",
    tools=[get_weather],
    tool_use_behavior="stop_on_first_tool"
)
  • StopAtTools(stop_at_tool_names=[...]): 지정된 도구 중 하나가 호출되면 중지하고, 해당 도구 출력을 최종 응답으로 사용
from agents import Agent, Runner, function_tool
from agents.agent import StopAtTools

@function_tool
def get_weather(city: str) -> str:
    """Returns weather info for the specified city."""
    return f"The weather in {city} is sunny"

@function_tool
def sum_numbers(a: int, b: int) -> int:
    """Adds two numbers."""
    return a + b

agent = Agent(
    name="Stop At Stock Agent",
    instructions="Get weather or sum numbers.",
    tools=[get_weather, sum_numbers],
    tool_use_behavior=StopAtTools(stop_at_tool_names=["get_weather"])
)
  • ToolsToFinalOutputFunction: 도구 결과를 처리하고 LLM 과 계속할지 중지할지를 결정하는 사용자 정의 함수
from agents import Agent, Runner, function_tool, FunctionToolResult, RunContextWrapper
from agents.agent import ToolsToFinalOutputResult
from typing import List, Any

@function_tool
def get_weather(city: str) -> str:
    """Returns weather info for the specified city."""
    return f"The weather in {city} is sunny"

def custom_tool_handler(
    context: RunContextWrapper[Any],
    tool_results: List[FunctionToolResult]
) -> ToolsToFinalOutputResult:
    """Processes tool results to decide final output."""
    for result in tool_results:
        if result.output and "sunny" in result.output:
            return ToolsToFinalOutputResult(
                is_final_output=True,
                final_output=f"Final weather: {result.output}"
            )
    return ToolsToFinalOutputResult(
        is_final_output=False,
        final_output=None
    )

agent = Agent(
    name="Weather Agent",
    instructions="Retrieve weather details.",
    tools=[get_weather],
    tool_use_behavior=custom_tool_handler
)

Note

무한 루프를 방지하기 위해, 프레임워크는 도구 호출 이후 tool_choice 를 자동으로 "auto" 로 재설정합니다. 이 동작은 agent.reset_tool_choice 로 구성할 수 있습니다. 무한 루프는 도구 결과가 LLM 으로 전달되고, tool_choice 때문에 LLM 이 또 다른 도구 호출을 생성하는 과정이 반복되면서 발생합니다.