追踪
Agents SDK 内置追踪功能,可收集智能体运行期间发生的全面事件记录:LLM 生成、工具调用、任务转移、安全防护措施,甚至自定义事件。通过追踪仪表板,你可以在开发和生产环境中调试、可视化并监控工作流。
Note
追踪默认启用。你可以通过三种常见方式将其禁用:
- 设置环境变量
OPENAI_AGENTS_DISABLE_TRACING=1,在全局范围内禁用追踪 - 使用
set_tracing_disabled(True),在代码中全局禁用追踪 - 将
agents.run.RunConfig.tracing_disabled设置为True,针对单次运行禁用追踪
对于根据零数据保留(ZDR)政策使用 OpenAI API 的组织,追踪功能不可用。
追踪与跨度
- 追踪表示一次“工作流”的端到端操作。它们由多个跨度组成。追踪具有以下属性:
workflow_name:逻辑工作流或应用的名称,例如“代码生成”或“客户服务”。trace_id:追踪的唯一 ID。如果未传入,则自动生成。格式必须为trace_<32_alphanumeric>。group_id:可选的组 ID,用于关联同一对话中的多个追踪。例如,可以使用聊天线程 ID。disabled:如果为 True,则不会记录该追踪。metadata:追踪的可选元数据。
- 跨度表示具有开始和结束时间的操作。跨度具有:
started_at和ended_at时间戳。trace_id,表示它们所属的追踪parent_id,指向此跨度的父跨度(如果有)span_data,即有关该跨度的信息。例如,AgentSpanData包含有关智能体的信息,GenerationSpanData包含有关 LLM 生成的信息,依此类推。
默认追踪
默认情况下,SDK 会追踪以下内容:
- 整个
Runner.{run, run_sync, run_streamed}()包装在一个trace()中。 - 每次 runner 调用都包装在一个
task_span()中。 - 每个模型轮次都包装在一个
turn_span()中。 - 每次智能体运行时,都会包装在
agent_span()中 - LLM 生成包装在
generation_span()中 - 每次函数工具调用都分别包装在
function_span()中 - 安全防护措施包装在
guardrail_span()中 - 任务转移包装在
handoff_span()中 - 音频输入(语音转文本)包装在一个
transcription_span()中 - 音频输出(文本转语音)包装在一个
speech_span()中 - SDK 可能会将相关音频跨度置于一个
speech_group_span()下
默认情况下,追踪名称是字面字符串 Agent workflow。如果使用 trace,你可以设置此名称;也可以使用 RunConfig 配置名称和其他属性。
如果希望使用更紧凑的层级结构,请针对一次运行禁用自动任务跨度和轮次跨度。智能体、生成、函数、安全防护措施、任务转移和自定义跨度仍会被记录。
from agents import RunConfig, Runner
result = await Runner.run(
agent,
"Hello",
run_config=RunConfig(tracing={"include_task_and_turn_spans": False}),
)
此外,你可以设置自定义追踪处理器,将追踪推送到其他目标位置(作为替代或辅助目标位置)。
长时间运行的工作进程与即时导出
默认的 BatchTraceProcessor 每隔几秒在后台导出追踪;当内存队列达到其大小触发阈值时,也会提前导出;进程退出时还会执行最后一次刷新。在 Celery、RQ、Dramatiq 或 FastAPI 后台任务等长时间运行的工作进程中,这意味着追踪通常无需任何额外代码即可自动导出,但每项作业结束后,它们可能不会立即显示在追踪仪表板中。
如果需要保证在工作单元结束时立即交付,请在退出追踪上下文后调用 flush_traces()。
from agents import Runner, flush_traces, trace
@celery_app.task
def run_agent_task(prompt: str):
try:
with trace("celery_task"):
result = Runner.run_sync(agent, prompt)
return result.final_output
finally:
flush_traces()
from fastapi import BackgroundTasks, FastAPI
from agents import Runner, flush_traces, trace
app = FastAPI()
def process_in_background(prompt: str) -> None:
try:
with trace("background_job"):
Runner.run_sync(agent, prompt)
finally:
flush_traces()
@app.post("/run")
async def run(prompt: str, background_tasks: BackgroundTasks):
background_tasks.add_task(process_in_background, prompt)
return {"status": "queued"}
flush_traces() 会阻塞,直到当前缓冲的追踪和跨度全部导出。因此,请在 trace() 关闭后调用它,以免刷新尚未构建完成的追踪。如果默认导出延迟可以接受,则可以跳过此调用。
禁用追踪会阻止默认提供程序创建新的追踪和跨度,但不会丢弃其处理器已缓冲的数据。通过 set_tracing_disabled(True) 或 OPENAI_AGENTS_DISABLE_TRACING=1 禁用追踪后,flush_traces() 仍会继续刷新这些缓冲数据。
更高级别的追踪
有时,你可能希望多次调用 run() 都属于同一个追踪。为此,可以将整个代码包装在一个 trace() 中。
from agents import Agent, Runner, trace
async def main():
agent = Agent(name="Joke generator", instructions="Tell funny jokes.")
with trace("Joke workflow"): # (1)!
first_result = await Runner.run(agent, "Tell me a joke")
second_result = await Runner.run(agent, f"Rate this joke: {first_result.final_output}")
print(f"Joke: {first_result.final_output}")
print(f"Rating: {second_result.final_output}")
- 由于两次
Runner.run调用都包装在一个with trace()中,因此这两次运行会成为同一个整体追踪的一部分,而不是各自创建单独的追踪。
追踪的创建
你可以使用 trace() 函数创建追踪。追踪需要启动和结束。可以通过以下两种方式实现:
- 推荐:将追踪用作上下文管理器,即
with trace(...) as my_trace。这会在适当的时间自动启动和结束追踪。 - 也可以手动调用
trace.start()和trace.finish()。
当前追踪通过 Python 的 contextvar 进行跟踪。这意味着它可以自动支持并发。如果手动启动和结束追踪,请将 mark_as_current 传给 start(),并将 reset_current 传给 finish(),以更新当前追踪。
跨度的创建
你可以使用各种 *_span() 方法创建跨度。通常不需要手动创建跨度。可以使用 custom_span() 函数跟踪自定义跨度信息。
跨度会自动成为当前追踪的一部分,并嵌套在最近的当前跨度下;当前跨度通过 Python 的 contextvar 进行跟踪。
敏感数据
某些跨度可能会捕获潜在的敏感数据。
generation_span() 会存储 LLM 生成的输入和输出,function_span() 会存储函数调用的输入和输出。这些内容可能包含敏感数据,因此可以通过 RunConfig.trace_include_sensitive_data 禁止捕获这些数据。
对于需要审批的函数工具,因等待审批而暂停的跨度不会将 SDK 的内部结果包装器存储为工具输出。如果应用使用自定义拒绝消息拒绝调用,则仅当 trace_include_sensitive_data 为 True 时,函数跨度才会将该消息存储为输出和错误文本。当此设置为 False 时,跨度会省略输出,并使用通用错误文本 Tool execution rejected。
同样,默认情况下,音频跨度会包含输入和输出音频的 base64 编码 PCM 数据。你可以通过配置 VoicePipelineConfig.trace_include_sensitive_audio_data,禁止捕获这些音频数据。
默认情况下,trace_include_sensitive_data 为 True。你可以在运行应用前,将 OPENAI_AGENTS_TRACE_INCLUDE_SENSITIVE_DATA 环境变量导出为 true/1 或 false/0,从而无需编写代码即可设置默认值。
当 trace_include_sensitive_data 为 False 时,Responses 模型跨度会省略请求输入和响应输出。对于对 OpenAI 官方端点的调用,跨度仍会包含 Responses API 的 response_id,作为关联元数据。对于自定义端点,SDK 会从经过隐去处理的跨度中省略该标识符。
自定义追踪处理器
追踪的高级架构如下:
- 初始化时,我们会创建一个全局
TraceProvider,负责创建追踪。 - 我们使用
BatchTraceProcessor配置TraceProvider,后者将追踪和跨度分批发送到BackendSpanExporter,由其将跨度和追踪分批导出到 OpenAI 后端。
若要自定义此默认设置、将追踪发送到替代或额外的后端,或者修改导出器行为,可以使用以下两种方式:
add_trace_processor()允许添加一个额外的追踪处理器,它将在追踪和跨度准备就绪时接收它们。这样,除了将追踪发送到 OpenAI 后端外,你还可以执行自己的处理。set_trace_processors()允许使用自己的追踪处理器替换默认处理器。这意味着,除非包含一个执行该操作的TracingProcessor,否则追踪不会发送到 OpenAI 后端。
导出前的数据隐去
追踪处理器是彼此独立的观察者。默认提供程序会捕获某个处理器的回调异常,并继续调用其他已注册的处理器。因此,即使在导出器之前注册了隐去处理器,如果隐去失败,也不会阻止该导出器接收数据。使用 add_trace_processor() 添加处理器时,默认 OpenAI 导出器也会保持注册状态。
当导出依赖于成功隐去数据时,应将数据隐去和交付保留在同一个由应用拥有的导出器内。使用 set_trace_processors(),将默认处理器替换为使用该导出器配置的 BatchTraceProcessor。导出器应复制序列化后的有效载荷,对副本执行隐去处理,并且仅将隐去后的结果传递到目标位置。如果序列化、复制或隐去失败,请在调用目标位置之前丢弃该批次。记录一条固定的失败消息,其中不得包含有效载荷、异常文本或追踪回溯。
追踪数据隐去代码示例演示了如何使用现有追踪 API 实现这种组合。该代码示例仅将事件类别及追踪/跨度关联 ID 输出到本地控制台,不会进行任何 API 调用。其允许列表省略了名称、元数据、错误和跨度数据。调用方提供的 ID 不得包含任何敏感信息,否则应用必须将这些 ID 映射为安全值。此诊断输出并非 OpenAI 追踪数据摄取模式;向后端发送数据的应用必须提供与该后端兼容的数据隐去策略和目标位置。
数据隐去器和目标位置属于受信任的应用代码。它们不得单独记录或发送原始数据。批处理器可能会在后台导出、显式刷新或关闭期间调用导出器,因此回调必须能够在这些执行上下文中安全使用。失败的批次会被丢弃,后续批次仍可继续导出。替换操作会影响未来的处理器回调,但不会清除此前注册的处理器已缓冲的数据。请在创建追踪或运行智能体之前配置替换项。
非 OpenAI 模型的追踪
使用非 OpenAI 模型时,可以向追踪导出器提供 OpenAI API 密钥,从而在不禁用追踪的情况下,在 OpenAI 追踪仪表板中免费使用追踪。有关适配器选择和设置注意事项,请参阅模型指南中的第三方适配器部分。
import os
from agents import set_tracing_export_api_key, Agent
from agents.extensions.models.any_llm_model import AnyLLMModel
tracing_api_key = os.environ["OPENAI_API_KEY"]
set_tracing_export_api_key(tracing_api_key)
model = AnyLLMModel(
model="your-provider/your-model-name",
api_key="your-api-key",
)
agent = Agent(
name="Assistant",
model=model,
)
如果只需为单次运行使用不同的追踪密钥,请通过 RunConfig 传入,而不要更改全局导出器。
from agents import Runner, RunConfig
await Runner.run(
agent,
input="Hello",
run_config=RunConfig(tracing={"api_key": "sk-tracing-123"}),
)
补充说明
- 可在 OpenAI 追踪仪表板中查看免费追踪。
生态系统集成
以下社区和供应商集成支持 OpenAI Agents SDK 的追踪 API 接口。
这些集成由其维护者提供支持。列入此列表并不代表 OpenAI 对其进行背书或安全认证。如需申请新增条目,请遵循集成收录标准。
外部追踪处理器列表
- Weights & Biases
- Arize Phoenix
- Future AGI
- MLflow(自托管/OSS)
- MLflow(由 Databricks 托管)
- Braintrust
- Pydantic Logfire
- AgentOps
- Scorecard
- Respan
- LangSmith
- Maxim AI
- Comet Opik
- Langfuse
- Langtrace
- Okahu-Monocle
- Galileo
- Portkey AI
- LangDB AI
- Agenta
- PostHog
- Traccia
- PromptLayer
- HoneyHive
- Asqav
- Datadog
- Latitude
- DProvenanceKit
- Tuning Engines
- Laminar
- Noveum