エージェントの実行
Runner クラスを使用してエージェントを実行できます。次の 3 つの方法があります。
Runner.run()は非同期で実行され、RunResultを返します。Runner.run_sync()は同期メソッドで、内部では単に.run()を実行します。Runner.run_streamed()は非同期で実行され、RunResultStreamingを返します。LLM をストリーミングモードで呼び出し、受信したイベントをその都度ストリーミングします。
from agents import Agent, Runner
async def main():
agent = Agent(name="Assistant", instructions="You are a helpful assistant")
result = await Runner.run(agent, "Write a haiku about recursion in programming.")
print(result.final_output)
# Code within the code,
# Functions calling themselves,
# Infinite loop's dance
詳細については、実行結果ガイドを参照してください。
Runner のライフサイクルと設定
エージェントループ
上記 3 つの Runner メソッドのいずれかを呼び出す際は、開始エージェントと入力を渡します。入力には次のものを指定できます。
- 文字列(ユーザーメッセージとして扱われます)
- OpenAI Responses API 形式の入力項目のリスト
- 一時停止した実行、または
cancel(mode="after_turn")で停止した実行を再開する場合のRunState。この状態には、次に再開されるモデル呼び出し用にステージングされた入力も含められます。
その後、Runner はループを実行します。
- 現在のエージェントについて、現在の入力を使用して LLM を呼び出します。
- LLM が出力を生成します。
- Runner が LLM の出力を最終出力と分類した場合、ループを終了して実行結果を返します。
- LLM がハンドオフを要求した場合、現在のエージェントと入力を更新し、ループを再実行します。
- LLM がツール呼び出しを生成した場合、そのツール呼び出しを実行して実行結果を追加し、ループを再実行します。
- 渡された
max_turnsを超過した場合、MaxTurnsExceeded例外が発生します。このターン制限を無効にするには、max_turns=Noneを渡します。
Note
LLM の出力を「最終出力」と見なす条件は、目的の型のテキスト出力が生成され、ツール呼び出しがないことです。
ストリーミング
ストリーミングを使用すると、LLM の実行中にストリーミングイベントも受信できます。ストリームが完了すると、RunResultStreaming に、新たに生成されたすべての出力を含む実行の完全な情報が格納されます。ストリーミングイベントには .stream_events() を呼び出せます。詳細については、ストリーミングガイドを参照してください。
Responses WebSocket トランスポート(オプションのヘルパー)
OpenAI Responses の WebSocket トランスポートを有効にしても、通常の Runner API を引き続き使用できます。接続を再利用する場合は WebSocket セッションヘルパーを推奨しますが、必須ではありません。
これは WebSocket トランスポート経由の Responses API であり、Realtime APIではありません。
トランスポートの選択ルール、および具象モデルオブジェクトやカスタムプロバイダーに関する注意事項については、モデルを参照してください。
パターン 1:セッションヘルパーなし(利用可能)
WebSocket トランスポートのみが必要で、SDK に共有プロバイダーやセッションを管理させる必要がない場合に使用します。
import asyncio
from agents import Agent, Runner, set_default_openai_responses_transport
async def main():
set_default_openai_responses_transport("websocket")
agent = Agent(name="Assistant", instructions="Be concise.")
result = Runner.run_streamed(agent, "Summarize recursion in one sentence.")
async for event in result.stream_events():
if event.type == "raw_response_event":
continue
print(event.type)
asyncio.run(main())
このパターンは単一の実行に適しています。Runner.run() / Runner.run_streamed() を繰り返し呼び出す場合、同じ RunConfig / プロバイダーインスタンスを手動で再利用しない限り、実行のたびに再接続される可能性があります。
Runner がモデルプロバイダーを所有するのは、run_config が省略された場合、または dict ベースの設定で model_provider が省略された場合のみです。Runner は、非ストリーミング実行から戻った後、またはストリーミング実行が完了した後に、エラーやキャンセルの経路も含め、暗黙的に作成されたプロバイダーを閉じます。RunConfig インスタンス、または model_provider を含む dict を渡した場合、そのプロバイダーはアプリケーションが所有します。Runner は再利用できるようにプロバイダーを開いたままにするため、最終的にはアプリケーションがその aclose() メソッドを呼び出す必要があります。
パターン 2:responses_websocket_session() の使用(複数ターンでの再利用に推奨)
複数の実行で、WebSocket 対応の共有プロバイダーと RunConfig を使用する場合は、responses_websocket_session() を使用します。同じ run_config を継承する、ネストされた Agents-as-tools 呼び出しも対象です。
import asyncio
from agents import Agent, responses_websocket_session
async def main():
agent = Agent(name="Assistant", instructions="Be concise.")
async with responses_websocket_session(
responses_websocket_options={"ping_interval": 20.0, "ping_timeout": 60.0},
) as ws:
first = ws.run_streamed(agent, "Say hello in one short sentence.")
async for _event in first.stream_events():
pass
second = ws.run_streamed(
agent,
"Now say goodbye.",
previous_response_id=first.last_response_id,
)
async for _event in second.stream_events():
pass
asyncio.run(main())
コンテキストを終了する前に、ストリーミングされた実行結果を最後まで消費してください。WebSocket リクエストが処理中の状態でコンテキストを終了すると、共有接続が強制的に閉じられる可能性があります。
サービスは各 WebSocket 接続で一度に 1 つのレスポンスを処理し、接続時間を 60 分に制限します。ヘルパーは接続を再利用しますが、これらの制約を取り除くものではありません。再接続後、store=False と ZDR フローではキャッシュされていない previous_response_id を復元できません。完全な入力コンテキストで新しいチェーンを開始するか、ローカルで管理しているセッション状態から再構築してください。復元動作の詳細については、Responses WebSocket トランスポートに関する注意事項を参照してください。
長時間の推論ターンで WebSocket のキープアライブタイムアウトが発生する場合は、ping_timeout を増やすか、ping_timeout=None を設定してハートビートタイムアウトを無効にしてください。WebSocket のレイテンシーよりも信頼性が重要な実行では、HTTP/SSE トランスポートを使用してください。
実行設定
run_config パラメーターを使用すると、エージェントの実行に関する一部のグローバル設定を構成できます。
一般的な実行設定のカテゴリー
各エージェントの定義を変更せずに単一の実行の動作を上書きするには、RunConfig を使用します。
モデル、プロバイダー、セッションのデフォルト設定
model:各 Agent のmodelに関係なく、使用するグローバル LLM モデルを設定できます。model_provider:モデル名を検索するためのモデルプロバイダーです。デフォルトは OpenAI です。model_settings:エージェント固有の設定を上書きします。たとえば、グローバルなtemperatureまたはtop_pを設定できます。session_settings:実行中に履歴を取得する際のセッションレベルのデフォルト設定(SessionSettings(limit=...)など)を上書きします。session_input_callback:Sessions を使用する場合に、各Runner実行前に新しいユーザー入力をセッション履歴と結合する方法をカスタマイズします。コールバックは同期または非同期にできます。
ガードレール、ハンドオフ、モデル入力の調整
input_guardrails、output_guardrails:すべての実行に含める入力または出力ガードレールのリストです。handoff_input_filter:ハンドオフに入力フィルターがまだ設定されていない場合、すべてのハンドオフに適用するグローバル入力フィルターです。入力フィルターを使用すると、新しいエージェントに送信される入力を編集できます。詳細については、Handoff.input_filterのドキュメントを参照してください。nest_handoff_history:次のエージェントを呼び出す前に、損失のないメッセージ項目を元の位置に保持しながら、要約可能な履歴を順序付きのアシスタント要約セグメントへ圧縮する、オプトインのベータ機能です。ネストされたハンドオフを安定化している間はデフォルトで無効です。有効にするにはTrueを設定し、raw トランスクリプトをそのまま渡すにはFalseのままにします。Sessions、RunState、およびRunResult.to_input_list()は、SDK デフォルトのネストされた履歴がすでに所有している同一のメッセージ出現を 2 回追加することを避けつつ、別々に存在する同一メッセージは保持します。すべての Runner メソッドは、指定されていない場合にRunConfigを自動的に作成するため、クイックスタートとコード例ではデフォルトが無効なまま維持されます。また、明示的なHandoff.input_filterコールバックは引き続きこの設定を上書きします。個々のハンドオフでは、Handoff.nest_handoff_historyを介してこの設定を上書きできます。handoff_history_mapper:nest_handoff_historyをオプトインするたびに、正規化されたトランスクリプト(履歴とハンドオフ項目)を受け取るオプションの callable です。完全なハンドオフフィルターを記述せずに組み込みの順序付き要約セグメントを置き換え、次のエージェントに転送する入力項目の正確なリストを返す必要があります。call_model_input_filter:モデル呼び出しの直前に、完全に準備されたモデル入力(instructions と入力項目)を編集するためのフックです。たとえば、履歴のトリミングやシステムプロンプトの注入に使用できます。reasoning_item_id_policy:Runner が以前の出力を次のターンのモデル入力へ変換する際に、推論項目 ID を保持するか省略するかを制御します。
トレーシングと可観測性
tracing_disabled:実行全体のトレーシングを無効にできます。tracing:実行ごとのトレーシング API キーなど、トレースのエクスポート設定を上書きするには、TracingConfigを渡します。trace_include_sensitive_data:LLM やツール呼び出しの入出力など、機密である可能性のあるデータをトレースに含めるかどうかを設定します。workflow_name、trace_id、group_id:実行のトレーシングワークフロー名、トレース ID、トレースグループ ID を設定します。少なくともworkflow_nameを設定することを推奨します。グループ ID は、複数の実行にわたってトレースを関連付けるためのオプションフィールドです。trace_metadata:すべてのトレースに含めるメタデータです。
ツール実行、承認、ツールエラーの動作
tool_execution:同時に実行されるローカル関数ツール呼び出しの数を制限するなど、ローカルツール呼び出しに対する SDK 側の実行動作を設定します。tool_not_found_behavior:モデルが生成した関数ツール呼び出しのツール名が、現在のエージェントで利用可能な関数ツールのいずれとも一致しない場合に、Runner がどのように処理するかを設定します。デフォルトではModelBehaviorErrorが発生します。代わりにモデルから見えるエラー出力を返すには、オプトインします。tool_name_collision_policy:名前空間のない関数ツール名とハンドオフ名が衝突した場合に、Runner がどのように処理するかを設定します。デフォルトの"warn"では、対処可能な警告をログに記録し、現在のディスパッチ先として選ばれたもののみを公開します。"error"では、モデルの呼び出し前にUserErrorが発生します。名前空間付きツールおよび遅延読み込みツールに対する厳密な検証は変更されません。tool_error_formatter:承認の拒否や、オプトインしたツール未検出時の出力など、モデルから見えるツールエラーメッセージをカスタマイズします。
ネストされたハンドオフは、オプトインのベータ機能として利用できます。RunConfig(nest_handoff_history=True) を渡して順序付きトランスクリプト圧縮を有効にするか、特定のハンドオフで有効にするには handoff(..., nest_handoff_history=True) を設定します。組み込みのマッパーは、トランスクリプト全体を 1 つのメッセージにまとめるのではなく、損失のないメッセージ項目の前後に生成されたアシスタント要約セグメントを配置します。raw トランスクリプトを保持する場合(デフォルト)は、フラグを未設定のままにするか、必要に応じて会話をそのまま転送する handoff_input_filter(または handoff_history_mapper)を指定します。カスタムマッパーを記述せずに、生成される要約セグメントで使用するラッパーテキストを変更するには、set_conversation_history_wrappers を呼び出します。デフォルトに戻すには、reset_conversation_history_wrappers を呼び出します。
実行設定の詳細
tool_execution
実行におけるローカル関数ツールの同時実行数を制限するなど、ローカル関数ツールに対する SDK 側の動作を設定する場合は、tool_execution を使用します。
from agents import Agent, RunConfig, Runner, ToolExecutionConfig
agent = Agent(name="Assistant", tools=[...])
result = await Runner.run(
agent,
"Run the required tool calls.",
run_config=RunConfig(
tool_execution=ToolExecutionConfig(
max_function_tool_concurrency=2,
pre_approval_tool_input_guardrails=True,
),
),
)
max_function_tool_concurrency=None はデフォルトの動作を維持します。モデルが 1 ターンで複数の関数ツール呼び出しを生成した場合、SDK は生成されたすべてのローカル関数ツール呼び出しを開始します。同時に実行するローカル関数ツール呼び出しの数を制限するには、整数値を設定します。
これは、プロバイダー側の ModelSettings.parallel_tool_calls とは別のものです。parallel_tool_calls は、モデルが 1 つのレスポンスで複数のツール呼び出しを生成できるかどうかを制御します。tool_execution.max_function_tool_concurrency は、モデルがローカル関数ツール呼び出しを生成した後に、SDK がそれらをどのように実行するかを制御します。
pre_approval_tool_input_guardrails=False はデフォルトの承認フローを維持します。関数ツールに承認が必要な場合、まず実行が一時停止し、ツール入力ガードレールは承認後の実行直前にのみ実行されます。保留中の承認による中断が通知される前に関数ツールの入力ガードレールを実行する場合は、True に設定します。この承認前チェックに合格した呼び出しでも、承認後に同じ入力ガードレールが再度実行されるため、時間依存のチェックは実行前に再検証されます。
tool_not_found_behavior
デフォルトでは、モデルが現在のエージェントで利用可能な関数ツールのいずれとも一致しない関数ツール呼び出しを生成すると、Runner は ModelBehaviorError を発生させます。
実行を復元可能な状態に維持する場合は、tool_not_found_behavior="return_error_to_model" を設定します。このモードでは、SDK は解決できなかったツール呼び出しに function_call_output を追加し、モデルを再度実行します。これにより、モデルは利用可能なツールを選択するか、そのツールを使用せずに回答できます。
from agents import Agent, RunConfig, Runner
agent = Agent(name="Assistant", tools=[...])
result = await Runner.run(
agent,
"Handle this request with the available tools.",
run_config=RunConfig(tool_not_found_behavior="return_error_to_model"),
)
現在、このオプションはツール名の検索に失敗した関数ツール呼び出しにのみ適用されます。その他の無効なツールペイロードでは、既存のエラー動作が引き続き使用されます。
tool_error_formatter
SDK がモデルから見えるツールエラー出力を作成する際に、モデルへ返されるメッセージをカスタマイズするには、tool_error_formatter を使用します。
フォーマッターは、次の内容を含む ToolErrorFormatterArgs を受け取ります。
kind:"approval_rejected"や"tool_not_found"などのエラーカテゴリー。tool_type:ツールランタイム("function"、"computer"、"shell"、"apply_patch"、または"custom")。tool_name:ツール名。call_id:ツール呼び出し ID。default_message:SDK のデフォルトの、モデルから見えるメッセージ。run_context:アクティブな実行コンテキストのラッパー。
メッセージを置き換える文字列を返すか、SDK のデフォルトを使用する場合は None を返します。
from agents import Agent, RunConfig, Runner, ToolErrorFormatterArgs
def format_rejection(args: ToolErrorFormatterArgs[None]) -> str | None:
if args.kind == "approval_rejected":
return (
f"Tool call '{args.tool_name}' was rejected by a human reviewer. "
"Ask for confirmation or propose a safer alternative."
)
if args.kind == "tool_not_found":
return f"Tool '{args.tool_name}' is not available. Choose one of the listed tools."
return None
agent = Agent(name="Assistant")
result = Runner.run_sync(
agent,
"Please delete the production database.",
run_config=RunConfig(tool_error_formatter=format_rejection),
)
reasoning_item_id_policy
reasoning_item_id_policy は、Runner が履歴を次のターンへ引き継ぐ際に、推論項目を次のターンのモデル入力へ変換する方法を制御します(たとえば、RunResult.to_input_list() またはセッションベースの実行を使用する場合)。
Noneまたは"preserve"(デフォルト):推論項目 ID を保持します。"omit":生成される次のターンの入力から推論項目 ID を削除します。
"omit" は主に、推論項目が id とともに送信される一方、必要な後続項目(Item 'rs_...' of type 'reasoning' was provided without its required following item. など)がない場合に発生する、特定の Responses API 400 エラーへのオプトインの緩和策として使用します。
これは、SDK が以前の出力から後続入力を構築する複数ターンのエージェント実行で発生する可能性があります。これには、セッションの永続化、サーバー管理の会話差分、ストリーミングまたは非ストリーミングの後続ターン、再開経路が含まれます。推論項目 ID が保持されているものの、プロバイダー側ではその ID と対応する後続項目のペアを維持する必要がある場合に発生します。
reasoning_item_id_policy="omit" を設定すると、推論内容は維持されますが、推論項目の id は削除されます。これにより、SDK が生成した後続入力でこの API の不変条件に違反することを回避できます。
適用範囲に関する注意事項:
- これは、SDK が後続入力を構築する際に生成または転送する推論項目のみを変更します。
- ユーザーが指定した初期入力項目は書き換えません。
call_model_input_filterは、このポリシーの適用後も意図的に推論 ID を再導入できます。
状態と会話の管理
メモリー戦略の選択
次のターンに状態を引き継ぐ一般的な方法は 4 つあります。
| 戦略 | 状態の保存場所 | 適した用途 | 次のターンで渡すもの |
|---|---|---|---|
result.to_input_list() |
アプリケーションのメモリー | 小規模なチャットループ、完全な手動制御、任意のプロバイダー | result.to_input_list() のリストと次のユーザーメッセージ |
session |
ストレージと SDK | 永続的なチャット状態、再開可能な実行、カスタムストア | 同じ session インスタンス、または同じストアを参照する別のインスタンス |
conversation_id |
OpenAI Conversations API | ワーカーやサービス間で共有する、名前付きのサーバー側会話 | 同じ conversation_id と新しいユーザーターンのみ |
previous_response_id |
OpenAI Responses API | 会話リソースを作成せずに利用する、軽量なサーバー管理の継続 | result.last_response_id と新しいユーザーターンのみ |
result.to_input_list() と session はクライアント管理です。conversation_id と previous_response_id は OpenAI 管理であり、OpenAI Responses API を使用している場合にのみ適用されます。ほとんどのアプリケーションでは、会話ごとに永続化戦略を 1 つ選択します。クライアント管理の履歴と OpenAI 管理の状態を混在させると、両方のレイヤーを意図的に調整している場合を除き、コンテキストが重複する可能性があります。
Note
セッションの永続化と、サーバー管理の会話設定
(conversation_id、previous_response_id、または auto_previous_response_id)を
同じ実行で組み合わせることはできません。呼び出しごとに 1 つの方法を選択してください。
会話とチャットスレッド
いずれかの実行メソッドを呼び出すと、1 つ以上のエージェントが実行される場合があります(したがって、1 回以上の LLM 呼び出しが発生します)が、チャット会話においては単一の論理ターンを表します。たとえば、次のようになります。
- ユーザーターン:ユーザーがテキストを入力します。
- Runner の実行:最初のエージェントが LLM を呼び出し、ツールを実行して 2 番目のエージェントにハンドオフします。2 番目のエージェントがさらにツールを実行し、出力を生成します。
エージェントの実行終了時に、ユーザーへ何を表示するかを選択できます。たとえば、エージェントが生成した新しい項目をすべて表示することも、最終出力のみを表示することもできます。いずれの場合も、ユーザーが続けて質問する場合は、実行メソッドを再度呼び出せます。
会話の手動管理
RunResultBase.to_input_list() メソッドを使用して次のターンの入力を取得し、会話履歴を手動で管理できます。
from agents import Agent, Runner, trace
async def main():
agent = Agent(name="Assistant", instructions="Reply very concisely.")
thread_id = "thread_123" # Example thread ID
with trace(workflow_name="Conversation", group_id=thread_id):
# First turn
result = await Runner.run(agent, "What city is the Golden Gate Bridge in?")
print(result.final_output)
# San Francisco
# Second turn
new_input = result.to_input_list() + [{"role": "user", "content": "What state is it in?"}]
result = await Runner.run(agent, new_input)
print(result.final_output)
# California
Sessions による会話の自動管理
より簡単な方法として、.to_input_list() を手動で呼び出さずに会話履歴を自動処理する Sessions を使用できます。
from agents import Agent, Runner, SQLiteSession, trace
async def main():
agent = Agent(name="Assistant", instructions="Reply very concisely.")
# Create session instance
session = SQLiteSession("conversation_123")
thread_id = "thread_123" # Example thread ID
with trace(workflow_name="Conversation", group_id=thread_id):
# First turn
result = await Runner.run(agent, "What city is the Golden Gate Bridge in?", session=session)
print(result.final_output)
# San Francisco
# Second turn - agent automatically remembers previous context
result = await Runner.run(agent, "What state is it in?", session=session)
print(result.final_output)
# California
Sessions は以下を自動的に行います。
- 各実行前に会話履歴を取得します
- 各実行後に新しいメッセージを保存します
- セッション ID ごとに個別の会話を維持します
詳細については、Sessions のドキュメントを参照してください。
サーバー管理の会話
to_input_list() または Sessions を使用してローカルで処理する代わりに、OpenAI の会話状態機能にサーバー側で会話状態を管理させることもできます。これにより、過去のすべてのメッセージを手動で再送信せずに会話履歴を保持できます。以下のいずれのサーバー管理方式でも、リクエストごとに新しいターンの入力のみを渡し、保存した ID を再利用します。詳細については、OpenAI の会話状態ガイドを参照してください。
OpenAI は、ターン間で状態を追跡する方法を 2 つ提供しています。
1. conversation_id の使用
まず OpenAI Conversations API を使用して会話を作成し、その後のすべての呼び出しでその ID を再利用します。
from agents import Agent, Runner
from openai import AsyncOpenAI
client = AsyncOpenAI()
async def main():
agent = Agent(name="Assistant", instructions="Reply very concisely.")
# Create a server-managed conversation
conversation = await client.conversations.create()
conv_id = conversation.id
while True:
user_input = input("You: ")
result = await Runner.run(agent, user_input, conversation_id=conv_id)
print(f"Assistant: {result.final_output}")
2. previous_response_id の使用
もう 1 つの選択肢は レスポンスチェーン です。この方法では、各ターンを前のターンのレスポンス ID に明示的にリンクします。
from agents import Agent, Runner
async def main():
agent = Agent(name="Assistant", instructions="Reply very concisely.")
previous_response_id = None
while True:
user_input = input("You: ")
# Setting auto_previous_response_id=True enables response chaining automatically
# for the first turn, even when there's no actual previous response ID yet.
result = await Runner.run(
agent,
user_input,
previous_response_id=previous_response_id,
auto_previous_response_id=True,
)
previous_response_id = result.last_response_id
print(f"Assistant: {result.final_output}")
実行が承認待ちで一時停止し、RunState から再開した場合、SDK は保存された conversation_id / previous_response_id / auto_previous_response_id の設定を保持するため、再開したターンは同じサーバー管理の会話で継続されます。
conversation_id と previous_response_id は相互排他的です。システム間で共有できる名前付き会話リソースが必要な場合は、conversation_id を使用します。ターン間で最も軽量な Responses API の継続用基本コンポーネントが必要な場合は、previous_response_id を使用します。
Note
SDK は conversation_locked エラーに対してバックオフを伴う再試行を自動的に行います。サーバー管理の
会話実行では、再試行前に内部の会話トラッカー入力を巻き戻し、同じ準備済み項目を
問題なく再送信できるようにします。
ローカルのセッションベースの実行(conversation_id、
previous_response_id、または auto_previous_response_id とは組み合わせられません)では、SDK は
最近永続化された入力項目についてベストエフォートのロールバックも行い、再試行後の履歴項目の重複を減らします。
この互換性のための再試行は、ModelSettings.retry を設定していない場合でも行われます。モデルリクエストに対する
より広範なオプトインの再試行動作については、Runner 管理の再試行を参照してください。
フックとカスタマイズ
モデル呼び出しの入力フィルター
モデル呼び出しの直前にモデル入力を編集するには、call_model_input_filter を使用します。このフックは現在のエージェント、コンテキスト、および結合済みの入力項目(存在する場合はセッション履歴を含む)を受け取り、新しい ModelInputData を返します。
戻り値は ModelInputData オブジェクトである必要があります。その input フィールドは必須であり、入力項目のリストでなければなりません。それ以外の形式を返すと、UserError が発生します。
from agents import Agent, Runner, RunConfig
from agents.run import CallModelData, ModelInputData
def drop_old_messages(data: CallModelData[None]) -> ModelInputData:
# Keep only the last 5 items and preserve existing instructions.
trimmed = data.model_data.input[-5:]
return ModelInputData(input=trimmed, instructions=data.model_data.instructions)
agent = Agent(name="Assistant", instructions="Answer concisely.")
result = Runner.run_sync(
agent,
"Explain quines",
run_config=RunConfig(call_model_input_filter=drop_old_messages),
)
Runner は準備済み入力リストのコピーをフックに渡すため、呼び出し元の元のリストをインプレースで変更せずに、トリミング、置換、並べ替えを行えます。
セッションを使用している場合、call_model_input_filter はセッション履歴がすでに読み込まれ、現在のターンと結合された後に実行されます。それより前の結合ステップ自体をカスタマイズする場合は、session_input_callback を使用します。
conversation_id、previous_response_id、または auto_previous_response_id を使用して OpenAI のサーバー管理の会話状態を利用している場合、フックは次の Responses API 呼び出し用に準備されたペイロードに対して実行されます。そのペイロードは、以前の履歴全体の再送ではなく、新しいターンの差分のみを表している場合があります。返した項目だけが、そのサーバー管理の継続用に送信済みとしてマークされます。
機密データの編集、長い履歴のトリミング、追加のシステムガイダンスの注入を行うには、run_config を介して実行ごとにフックを設定します。
エラーと復旧
エラーハンドラー
すべての Runner エントリーポイントは、エラー種別をキーとする辞書 error_handlers を受け取ります。サポートされるキーは "max_turns"、"model_refusal"、"invalid_final_output" です。対応するエラーで実行を終了する代わりに、制御された最終出力を返す場合に使用します。
from agents import (
Agent,
RunErrorHandlerInput,
RunErrorHandlerResult,
Runner,
)
agent = Agent(name="Assistant", instructions="Be concise.")
def on_max_turns(_data: RunErrorHandlerInput[None]) -> RunErrorHandlerResult:
return RunErrorHandlerResult(
final_output="I couldn't finish within the turn limit. Please narrow the request.",
include_in_history=False,
)
result = Runner.run_sync(
agent,
"Analyze this long transcript",
max_turns=3,
error_handlers={"max_turns": on_max_turns},
)
print(result.final_output)
モデルメッセージがエージェントの structured output_type に対して検証を通過しない場合、またはモデルが structured な最終メッセージを返さない場合は、"invalid_final_output" を使用します。ハンドラーはアプリケーション固有のフォールバックを返すことができ、SDK はそれを同じ output_type に対して検証します。モデル呼び出しの再試行や、ツールの副作用の再実行は行いません。None を返すと復旧を辞退します。フォールバックがない場合、空でない値の検証失敗では引き続き ModelBehaviorError が発生し、空の structured レスポンスでは既存の次ターン動作が維持されます。
from pydantic import BaseModel
from agents import Agent, ModelBehaviorError, RunErrorHandlerInput, Runner
class Recipe(BaseModel):
ingredients: list[str]
recovered_from_invalid_output: bool = False
def on_invalid_final_output(data: RunErrorHandlerInput[None]) -> Recipe:
assert isinstance(data.error, ModelBehaviorError)
return Recipe(ingredients=[], recovered_from_invalid_output=True)
agent = Agent(
name="Recipe assistant",
instructions="Return a structured recipe.",
output_type=Recipe,
)
result = Runner.run_sync(
agent,
"Plan tonight's dinner.",
error_handlers={"invalid_final_output": on_invalid_final_output},
)
print(result.final_output)
RunErrorHandlerResult.include_in_history のデフォルトは True です。最大ターン数のハンドラーでは、合成されたフォールバック出力が会話履歴に追加され、設定済みのセッションに永続化されます。実行結果の履歴やセッションストレージに追加せずにフォールバックを呼び出し元へ返す場合は、include_in_history=False を設定します。
モデルによる拒否で ModelRefusalError によって実行を終了する代わりに、アプリケーション固有のフォールバックを生成する場合は、"model_refusal" を使用します。
from pydantic import BaseModel
from agents import Agent, ModelRefusalError, RunErrorHandlerInput, Runner
class Recipe(BaseModel):
ingredients: list[str]
refusal_reason: str | None = None
def on_model_refusal(data: RunErrorHandlerInput[None]) -> Recipe:
assert isinstance(data.error, ModelRefusalError)
return Recipe(ingredients=[], refusal_reason=data.error.refusal)
agent = Agent(
name="Recipe assistant",
instructions="Return a structured recipe.",
output_type=Recipe,
)
result = Runner.run_sync(
agent,
"Make me something unsafe.",
error_handlers={"model_refusal": on_model_refusal},
)
print(result.final_output)
永続的実行の統合と Human-in-the-loop
ツール承認の一時停止と再開のパターンについては、専用の Human-in-the-loop ガイドから始めてください。以下の統合は、実行が長時間の待機、再試行、またはプロセスの再起動にまたがる可能性がある場合の、永続的なオーケストレーションを対象としています。
Dapr
Agents SDK の Dapr Diagrid 統合を使用すると、障害から自動的に復旧し、Human-in-the-loop ワークフローをサポートする、永続的で長時間実行されるエージェントを実行できます。Dapr はベンダー中立の CNCF ワークフローオーケストレーターです。Dapr と OpenAI エージェントの使用を開始するには、こちらを参照してください。
Temporal
Agents SDK の Temporal 統合を使用すると、Human-in-the-loop タスクを含む、永続的で長時間実行されるワークフローを実行できます。Temporal と Agents SDK が連携して長時間実行タスクを完了するデモについては、こちらの動画を参照してください。また、ドキュメントはこちらです。
Restate
Agents SDK の Restate 統合は、人による承認、ハンドオフ、セッション管理などを含む、軽量で永続的なエージェントに使用できます。この統合は、Restate の単一バイナリランタイムを依存関係として必要とし、エージェントをプロセス、コンテナ、またはサーバーレス関数として実行できます。詳細については、概要またはドキュメントを参照してください。
DBOS
Agents SDK の DBOS 統合を使用すると、障害や再起動が発生しても進行状況を保持する、信頼性の高いエージェントを実行できます。長時間実行されるエージェント、Human-in-the-loop ワークフロー、ハンドオフをサポートします。同期メソッドと非同期メソッドの両方に対応しています。この統合に必要なのは、SQLite または Postgres データベースのみです。詳細については、統合のリポジトリとドキュメントを参照してください。
例外
SDK は特定の場合に例外を発生させます。完全な一覧は agents.exceptions にあります。概要は次のとおりです。
AgentsException:SDK が発生させるすべての例外の基底クラスです。他のすべての具体的な例外が派生する汎用型として機能します。MaxTurnsExceeded:エージェントの実行が、Runner.run、Runner.run_sync、またはRunner.run_streamedメソッドに渡されたmax_turnsの制限を超えた場合に発生します。これは、指定されたエージェントループのターン数(LLM 呼び出し回数)内に、エージェントがタスクを完了できなかったことを示します。制限を無効にするには、max_turns=Noneを設定します。ModelTimeoutError:モデル呼び出しの試行がModelSettings.timeoutを超えた場合に発生します。適用範囲と再試行の動作については、モデル呼び出しのタイムアウトを参照してください。ModelBehaviorError:基盤モデル(LLM)が予期しない、または無効な出力を生成した場合に発生します。これには次のものが含まれます。- 不正な JSON:モデルがツール呼び出しまたは直接出力で、不正な JSON 構造を提供した場合です。特に、特定の
output_typeが定義されている場合に該当します。 - 予期しないツール関連の失敗:モデルが想定された方法でツールを使用できなかった場合です
- 失敗または未完了の非ストリーミング Responses 呼び出し:
OpenAIResponsesModelおよびAnyLLMModelの Responses 経路では、返されたレスポンスの最終ステータスがfailedまたはincompleteの場合に、この例外が発生します。例外には最終ステータスが示され、レスポンスから取得可能なエラーまたは未完了の詳細が含まれます。
- 不正な JSON:モデルがツール呼び出しまたは直接出力で、不正な JSON 構造を提供した場合です。特に、特定の
ToolTimeoutError:関数ツール呼び出しが設定済みのタイムアウトを超え、そのツールがtimeout_behavior="raise_exception"を使用している場合に発生します。UserError:SDK を使用するコードの作成者が、SDK の使用中に誤りを犯した場合に発生します。通常は、不適切なコード実装、無効な設定、または SDK API の誤用が原因です。InputGuardrailTripwireTriggered、OutputGuardrailTripwireTriggered:入力ガードレールの条件が満たされた場合はInputGuardrailTripwireTriggeredが発生し、出力ガードレールの条件が満たされた場合はOutputGuardrailTripwireTriggeredが発生します。入力ガードレールは処理前に受信メッセージを確認し、出力ガードレールは配信前にエージェントの最終レスポンスを確認します。