컨텍스트 관리

컨텍스트는 의미가 중첩된 용어입니다. 관심을 가질 수 있는 컨텍스트는 크게 두 가지 범주가 있습니다:

코드에서 로컬로 사용할 수 있는 컨텍스트: 도구 함수 실행 시, on_handoff 같은 콜백 중, 라이프사이클 훅 등에서 필요할 수 있는 데이터와 의존성입니다
LLM에서 사용할 수 있는 컨텍스트: 응답을 생성할 때 LLM이 보게 되는 데이터입니다

로컬 컨텍스트

이는 RunContextWrapper 클래스와 그 안의 context 프로퍼티로 표현됩니다. 동작 방식은 다음과 같습니다:

원하는 어떤 파이썬 객체든 생성합니다. 흔한 패턴은 dataclass 또는 Pydantic 객체를 사용하는 것입니다
해당 객체를 다양한 run 메서드(예: Runner.run(..., context=whatever))에 전달합니다
모든 도구 호출, 라이프사이클 훅 등에는 래퍼 객체 RunContextWrapper[T]가 전달되며, 여기서 T는 wrapper.context로 접근할 수 있는 컨텍스트 객체의 타입을 나타냅니다

가장 중요한 점: 특정 에이전트 run에 대해, 해당 run에서 사용되는 모든 에이전트, 도구 함수, 라이프사이클 등은 동일한 컨텍스트 _타입_을 사용해야 합니다

컨텍스트는 다음과 같은 용도로 사용할 수 있습니다:

실행에 대한 컨텍스트 데이터(예: 사용자 이름/uid 또는 사용자에 대한 기타 정보)
의존성(예: 로거 객체, 데이터 페처 등)
헬퍼 함수

Note

컨텍스트 객체는 LLM에 전송되지 않습니다. 이는 순수하게 로컬 객체로, 읽고/쓰고/메서드를 호출할 수 있습니다

import asyncio
from dataclasses import dataclass

from agents import Agent, RunContextWrapper, Runner, function_tool

@dataclass
class UserInfo:  # (1)!
    name: str
    uid: int

@function_tool
async def fetch_user_age(wrapper: RunContextWrapper[UserInfo]) -> str:  # (2)!
    """Fetch the age of the user. Call this function to get user's age information."""
    return f"The user {wrapper.context.name} is 47 years old"

async def main():
    user_info = UserInfo(name="John", uid=123)

    agent = Agent[UserInfo](  # (3)!
        name="Assistant",
        tools=[fetch_user_age],
    )

    result = await Runner.run(  # (4)!
        starting_agent=agent,
        input="What is the age of the user?",
        context=user_info,
    )

    print(result.final_output)  # (5)!
    # The user John is 47 years old.

if __name__ == "__main__":
    asyncio.run(main())

이것이 컨텍스트 객체입니다. 여기서는 dataclass를 사용했지만 어떤 타입이든 사용할 수 있습니다
이것은 도구입니다. RunContextWrapper[UserInfo]를 받는 것을 볼 수 있습니다. 도구 구현은 컨텍스트에서 값을 읽습니다
타입체커가 오류를 잡을 수 있도록(예: 다른 컨텍스트 타입을 받는 도구를 전달하려고 할 때) 에이전트에 제네릭 UserInfo를 표시합니다
컨텍스트는 run 함수에 전달됩니다
에이전트는 도구를 올바르게 호출하고 나이를 얻습니다

고급: `ToolContext`

일부 경우에는 실행 중인 도구에 대한 추가 메타데이터(예: 이름, 호출 ID, 원문 인자 문자열)에 접근하고 싶을 수 있습니다.
이를 위해 RunContextWrapper를 확장한 ToolContext 클래스를 사용할 수 있습니다.

from typing import Annotated
from pydantic import BaseModel, Field
from agents import Agent, Runner, function_tool
from agents.tool_context import ToolContext

class WeatherContext(BaseModel):
    user_id: str

class Weather(BaseModel):
    city: str = Field(description="The city name")
    temperature_range: str = Field(description="The temperature range in Celsius")
    conditions: str = Field(description="The weather conditions")

@function_tool
def get_weather(ctx: ToolContext[WeatherContext], city: Annotated[str, "The city to get the weather for"]) -> Weather:
    print(f"[debug] Tool context: (name: {ctx.tool_name}, call_id: {ctx.tool_call_id}, args: {ctx.tool_arguments})")
    return Weather(city=city, temperature_range="14-20C", conditions="Sunny with wind.")

agent = Agent(
    name="Weather Agent",
    instructions="You are a helpful agent that can tell the weather of a given city.",
    tools=[get_weather],
)

ToolContext는 RunContextWrapper와 동일한 .context 프로퍼티를 제공하며,
여기에 더해 현재 도구 호출에 특화된 추가 필드를 제공합니다:

tool_name – 호출되는 도구의 이름
tool_call_id – 이 도구 호출을 위한 고유 식별자
tool_arguments – 도구에 전달된 원문 인자 문자열

실행 중 도구 수준의 메타데이터가 필요할 때 ToolContext를 사용하세요.
에이전트와 도구 간 일반적인 컨텍스트 공유에는 RunContextWrapper만으로도 충분합니다.

에이전트/LLM 컨텍스트

LLM이 호출될 때, LLM이 볼 수 있는 데이터는 대화 히스토리에서 온 것 뿐입니다. 즉, 새로운 데이터를 LLM에서 사용할 수 있게 만들고 싶다면, 해당 데이터가 그 히스토리에 포함되도록 하는 방식으로 해야 합니다. 이를 위한 몇 가지 방법이 있습니다:

Agent instructions에 추가할 수 있습니다. 이는 "system prompt" 또는 "developer message"라고도 합니다. 시스템 프롬프트는 정적인 문자열일 수도 있고, 컨텍스트를 받아 문자열을 출력하는 동적 함수일 수도 있습니다. 이는 항상 유용한 정보(예: 사용자 이름 또는 현재 날짜)에 대한 일반적인 전술입니다
Runner.run 함수를 호출할 때 input에 추가합니다. 이는 instructions 전술과 유사하지만, chain of command에서 더 낮은 수준의 메시지를 둘 수 있습니다
함수 도구를 통해 노출합니다. 이는 온디맨드 컨텍스트에 유용합니다. LLM이 언제 어떤 데이터가 필요한지 결정하고, 해당 데이터를 가져오기 위해 도구를 호출할 수 있습니다
retrieval 또는 웹 검색을 사용합니다. 이는 파일이나 데이터베이스에서 관련 데이터를 가져오거나(retrieval), 웹에서 가져올 수 있는(웹 검색) 특수 도구입니다. 이는 응답을 관련 컨텍스트 데이터에 "그라운딩"하는 데 유용합니다

컨텍스트 관리

로컬 컨텍스트

고급: ToolContext

에이전트/LLM 컨텍스트

고급: `ToolContext`