コンテキスト管理

コンテキストという言葉には複数の意味があります。主に次の 2 種類のコンテキストを扱います:

ローカルコンテキスト
実行中にコードからアクセスできる依存関係やデータ、onHandoff のようなコールバック、ライフサイクルフック
エージェント／LLM コンテキスト
言語モデルが応答を生成するときに参照できる情報

ローカルコンテキスト

ローカルコンテキストは RunContext<T> 型で表されます。状態や依存関係を保持する任意のオブジェクトを作成し、それを Runner.run() に渡します。すべてのツール呼び出しとフックは RunContext ラッパーを受け取り、そのオブジェクトを読み書きできます。

import { Agent, run, RunContext, tool } from '@openai/agents';
import { z } from 'zod';

interface UserInfo {
  name: string;
  uid: number;
}

const fetchUserAge = tool({
  name: 'fetch_user_age',
  description: 'Return the age of the current user',
  parameters: z.object({}),
  execute: async (
    _args,
    runContext?: RunContext<UserInfo>,
  ): Promise<string> => {
    return `User ${runContext?.context.name} is 47 years old`;
  },
});

async function main() {
  const userInfo: UserInfo = { name: 'John', uid: 123 };

  const agent = new Agent<UserInfo>({
    name: 'Assistant',
    tools: [fetchUserAge],
  });

  const result = await run(agent, 'What is the age of the user?', {
    context: userInfo,
  });

  console.log(result.finalOutput);
  // The user John is 47 years old.
}

if (require.main === module) {
  main().catch(console.error);
}

同じ実行に参加するすべてのエージェント、ツール、フックは同じ型のコンテキストを使用する必要があります。

ローカルコンテキストは次のような用途に適しています:

実行に関するデータ (ユーザー名、ID など)
ロガーやデータフェッチャーなどの依存関係
ヘルパー関数

エージェント／LLM コンテキスト

LLM が呼び出されるとき、モデルが参照できるのは会話履歴だけです。追加情報を利用可能にする方法はいくつかあります:

Agent の instructions に追加する
システムメッセージや開発者メッセージとしても知られます。静的文字列を指定するか、コンテキストを受け取って文字列を返す関数を指定できます。
Runner.run() 呼び出し時の input に含める
instructions と似ていますが、指揮系統の下位にメッセージを配置できます。
関数ツールを介して公開し、LLM が必要に応じてデータを取得できるようにする
リトリーバルや Web 検索ツールを使用して、ファイル、データベース、Web から取得した関連データをもとに回答を補強する