コンテンツにスキップ

コンテキスト管理

コンテキストは多義的な用語です。主に次の 2 つのコンテキストがあります。

  1. 実行中にコードがアクセスできる ローカルコンテキスト:ツールに必要な依存関係やデータ、onHandoff のようなコールバック、ライフサイクルフック
  2. 応答生成時に言語モデルが参照できる エージェント/LLM コンテキスト

ローカルコンテキストは RunContext<T> 型で表現されます。状態や依存関係を保持する任意のオブジェクトを作成して Runner.run() に渡します。すべてのツール呼び出しとフックは RunContext ラッパーを受け取り、そのオブジェクトを読み書きできます。

ローカルコンテキストの例
import { Agent, run, RunContext, tool } from '@openai/agents';
import { z } from 'zod';
interface UserInfo {
name: string;
uid: number;
}
const fetchUserAge = tool({
name: 'fetch_user_age',
description: 'Return the age of the current user',
parameters: z.object({}),
execute: async (
_args,
runContext?: RunContext<UserInfo>,
): Promise<string> => {
return `User ${runContext?.context.name} is 47 years old`;
},
});
async function main() {
const userInfo: UserInfo = { name: 'John', uid: 123 };
const agent = new Agent<UserInfo>({
name: 'Assistant',
tools: [fetchUserAge],
});
const result = await run(agent, 'What is the age of the user?', {
context: userInfo,
});
console.log(result.finalOutput);
// The user John is 47 years old.
}
if (require.main === module) {
main().catch(console.error);
}

単一の実行に参加するすべてのエージェント、ツール、フックは、同じ種類のコンテキスト(同じ type)を使用する必要があります。

ローカルコンテキストの用途例:

  • 実行に関するデータ(ユーザー名、ID など)
  • ロガーやデータフェッチャーなどの依存関係
  • ヘルパー関数

LLM が呼び出されるとき、参照できるのは会話履歴からのデータのみです。追加情報を利用可能にするには、次の方法があります。

  1. エージェントの instructions に追加する — system または developer メッセージとも呼ばれます。これは静的な文字列でも、コンテキストを受け取って文字列を返す関数でもかまいません
  2. Runner.run() 呼び出し時の input に含める。この方法は instructions に似ていますが、メッセージをchain of command の下位に配置できます
  3. 関数ツール経由で公開し、LLM がオンデマンドでデータを取得できるようにする
  4. リトリーバルや Web 検索ツールを使って、ファイル、データベース、Web などの関連データに基づいて応答を根拠づける