人工介入
使用人工介入(HITL)流程暂停智能体执行,直到人工批准或拒绝敏感的工具调用。工具会声明其何时需要批准,运行结果会将待审批项以中断的形式呈现,而 RunState 可让你序列化已暂停的运行,并在做出决定后恢复运行。
该审批机制适用于整个运行,并不限于当前的顶层智能体。无论工具属于当前智能体、通过任务转移到达的智能体,还是嵌套的 Agent.as_tool() 执行,都适用相同的模式。在嵌套的 Agent.as_tool() 情形下,中断仍会在外层运行中呈现,因此你需要在外层 RunState 上批准或拒绝,并恢复原始的顶层运行。
使用 Agent.as_tool() 时,审批可能发生在两个不同层级:智能体工具本身可以通过 Agent.as_tool(..., needs_approval=...) 要求审批,而嵌套智能体内部的工具也可能在嵌套运行开始后提出自己的审批请求。两者都通过同一个外层运行中断流程处理。
本页重点介绍通过 interruptions 进行的手动审批流程。如果你的应用能够在代码中做出决定,某些工具类型还支持程序化审批回调,使运行可以继续而无需暂停。
需要审批的工具标记
将 needs_approval 设置为 True 可始终要求审批,也可以提供一个异步函数来逐次调用做出决定。该可调用对象会接收运行上下文、已解析的工具参数和工具调用 ID。
当 SDK 无法安全检查参数时,可调用审批规则会采用安全失败策略。如果参数缺失、为空、仅包含空白字符、是格式错误的 JSON、是有效 JSON 但并非对象(例如 null 或列表),或包含 NaN、Infinity、-Infinity 等非标准常量,则不会调用该可调用对象,且该调用需要手动审批。Runner 和 Realtime 工具调用的行为相同。
from agents import Agent
from agents.decorators import tool
@tool(needs_approval=True)
async def cancel_order(order_id: int) -> str:
return f"Cancelled order {order_id}"
async def requires_review(_ctx, params, _call_id) -> bool:
return "refund" in params.get("subject", "").lower()
@tool(needs_approval=requires_review)
async def send_email(subject: str, body: str) -> str:
return f"Sent '{subject}'"
agent = Agent(
name="Support agent",
instructions="Handle tickets and ask for approval when needed.",
tools=[cancel_order, send_email],
)
needs_approval 可用于 function_tool、Agent.as_tool、ShellTool 和 ApplyPatchTool。本地 MCP 服务器还支持通过 MCPServerStdio、MCPServerSse 和 MCPServerStreamableHttp 上的 require_approval 进行审批。托管型 MCP 服务器通过 HostedMCPTool 支持审批,并使用 tool_config={"require_approval": "always"} 和可选的 on_approval_request 回调。如果你希望自动批准或自动拒绝,而不呈现中断,shell 和 apply_patch 工具可接受 on_approval 回调。
审批流程
- 当模型发出工具调用时,运行器会评估其审批规则(
needs_approval、require_approval或托管型 MCP 的等效规则)。 - 如果该工具调用的审批决定已存储在
RunContextWrapper中,运行器会直接继续,而不会提示。逐次调用审批仅限于特定调用 ID;传入always_approve=True或always_reject=True,可在运行的剩余期间为以后对同一工具标识的调用保留相同决定。 - 如果审批规则要求审批,但尚未存储该工具调用的决定,执行会暂停,并且
RunResult.interruptions(或RunResultStreaming.interruptions)会包含ToolApprovalItem条目,其中包括agent.name、tool_name和arguments等详细信息。这包括任务转移后或嵌套Agent.as_tool()执行内部提出的审批。 - 使用
result.to_state()将结果转换为RunState,调用state.approve(...)或state.reject(...),然后使用Runner.run(agent, state)或Runner.run_streamed(agent, state)恢复,其中agent是该运行原始的顶层智能体。 - 恢复后的运行会从暂停处继续,并在需要新审批时重新进入此流程。
通过 always_approve=True 或 always_reject=True 创建的持久决定会存储在运行状态中,因此当你之后恢复同一个已暂停运行时,它们在执行 state.to_string() / RunState.from_string(...) 和 state.to_json() / RunState.from_json(...) 后仍然有效。
对于来自 HostedMCPTool 的审批请求,Agents SDK 使用 server_label 与工具名称的组合来标识持久工具决定。在一个托管型 MCP 服务器上对 lookup_account 做出的始终批准决定,不会批准另一个服务器上同名的工具。只有当托管型 MCP 审批请求包含两个非空标识字段时,Agents SDK 才会保留始终批准或始终拒绝的决定。
你无需在同一轮处理中解决所有待审批项。interruptions 可以同时包含常规函数工具、托管型 MCP 审批和嵌套 Agent.as_tool() 审批。如果你仅批准或拒绝部分条目后重新运行,已解决的调用可以继续,而未解决的调用仍会保留在 interruptions 中,并再次暂停运行。
自定义拒绝消息
默认情况下,被拒绝的工具调用会将 SDK 的标准拒绝文本返回到运行中。你可以在两个层级自定义该消息:
- 全运行后备设置:设置
RunConfig.tool_error_formatter,以控制整个运行中审批被拒绝时默认向模型显示的消息。 - 逐次调用覆盖:如果希望某个特定的已拒绝工具调用显示不同的消息,请向
state.reject(...)传入rejection_message=...。
如果两者均已提供,则逐次调用的 rejection_message 优先于全运行格式化器。
from agents import RunConfig, ToolErrorFormatterArgs
def format_rejection(args: ToolErrorFormatterArgs[None]) -> str | None:
if args.kind != "approval_rejected":
return None
return "Publish action was canceled because approval was rejected."
run_config = RunConfig(tool_error_formatter=format_rejection)
# Later, while resolving a specific interruption:
state.reject(
interruption,
rejection_message="Publish action was canceled because the reviewer denied approval.",
)
请参阅 examples/agent_patterns/human_in_the_loop_custom_rejection.py,了解同时展示这两个层级的完整示例。
自动审批决定
手动 interruptions 是最通用的模式,但并非唯一模式:
- 本地
ShellTool和ApplyPatchTool可以使用on_approval,在代码中立即批准或拒绝。 HostedMCPTool可以将tool_config={"require_approval": "always"}与on_approval_request配合使用,以进行同类程序化决定。- 普通
function_tool工具和Agent.as_tool()使用本页介绍的手动中断流程。
当这些回调返回决定时,运行会继续,而无需暂停以等待人工响应。有关 Realtime 和语音会话 API,请参阅 Realtime 指南中的审批流程。
流式传输与会话
相同的中断流程也适用于流式运行。流式运行暂停后,继续消费 RunResultStreaming.stream_events(),直到迭代器结束;检查 RunResultStreaming.interruptions 并解决其中的中断;如果希望恢复后的输出继续进行流式传输,请使用 Runner.run_streamed(...) 恢复。有关此模式的流式版本,请参阅流式传输。
如果你还使用会话,请在从 RunState 恢复时继续传入同一个会话实例,或者传入为相同会话 ID 和后端存储配置的另一个会话对象。恢复后的轮次会追加到同一份已存储的对话历史记录中。有关会话生命周期的详细信息,请参阅会话。
示例:暂停、批准与恢复
下面的代码片段与 JavaScript HITL 指南中的流程一致:当工具需要审批时暂停,将状态持久化到磁盘,再重新加载状态,并在收集到决定后恢复。
import asyncio
import json
from pathlib import Path
from agents import Agent, Runner, RunState
from agents.decorators import tool
async def needs_oakland_approval(_ctx, params, _call_id) -> bool:
return "Oakland" in params.get("city", "")
@tool(needs_approval=needs_oakland_approval)
async def get_temperature(city: str) -> str:
return f"The temperature in {city} is 20° Celsius"
agent = Agent(
name="Weather assistant",
instructions="Answer weather questions with the provided tools.",
tools=[get_temperature],
)
STATE_PATH = Path(".cache/hitl_state.json")
def prompt_approval(tool_name: str, arguments: str | None) -> bool:
answer = input(f"Approve {tool_name} with {arguments}? [y/N]: ").strip().lower()
return answer in {"y", "yes"}
async def main() -> None:
result = await Runner.run(agent, "What is the temperature in Oakland?")
while result.interruptions:
# Persist the paused state.
state = result.to_state()
STATE_PATH.parent.mkdir(parents=True, exist_ok=True)
STATE_PATH.write_text(state.to_string())
# Load the state later (could be a different process).
stored = json.loads(STATE_PATH.read_text())
state = await RunState.from_json(agent, stored)
for interruption in result.interruptions:
approved = await asyncio.get_running_loop().run_in_executor(
None, prompt_approval, interruption.name or "unknown_tool", interruption.arguments
)
if approved:
state.approve(interruption, always_approve=False)
else:
state.reject(interruption)
result = await Runner.run(agent, state)
print(result.final_output)
if __name__ == "__main__":
asyncio.run(main())
在此示例中,prompt_approval 是同步的,因为它使用 input(),并通过 run_in_executor(...) 执行。如果你的审批来源本身已经是异步的(例如 HTTP 请求或异步数据库查询),则可以使用 async def 函数,并直接对其执行 await。
若要在可能因审批而暂停的运行中使用流式传输,请调用 Runner.run_streamed,消费 result.stream_events() 直到其完成,然后执行上文所示的相同 result.to_state() 和恢复步骤。
仓库模式与示例
- 流式审批:
examples/agent_patterns/human_in_the_loop_stream.py展示了如何消费完stream_events(),然后批准待处理的工具调用,再使用Runner.run_streamed(agent, state)恢复。 - 自定义拒绝文本:
examples/agent_patterns/human_in_the_loop_custom_rejection.py展示了审批被拒绝时,如何将运行级tool_error_formatter与逐次调用的rejection_message覆盖设置结合使用。 - 智能体作为工具的审批:当委派的智能体任务需要审核时,
Agent.as_tool(..., needs_approval=...)会应用相同的中断流程。嵌套中断仍会在外层运行中呈现,因此应恢复原始的顶层智能体,而不是嵌套智能体。 - 本地 shell 和 apply_patch 工具:
ShellTool和ApplyPatchTool也支持needs_approval。使用state.approve(interruption, always_approve=True)或state.reject(..., always_reject=True)可在运行的剩余期间缓存决定,供以后调用该工具时使用。对于自动决定,请提供on_approval(参阅examples/tools/shell.py);对于手动决定,请处理中断(参阅examples/tools/shell_human_in_the_loop.py)。托管式 shell 环境不支持needs_approval或on_approval;请参阅工具指南。 - 本地 MCP 服务器:在
MCPServerStdio/MCPServerSse/MCPServerStreamableHttp上使用require_approval,对 MCP 工具调用设置审批关卡(参阅examples/mcp/get_all_mcp_tools_example/main.py和examples/mcp/tool_filter_example/main.py)。 - 托管型 MCP 服务器:在
HostedMCPTool上设置tool_config={"require_approval": "always"}以强制使用 HITL,还可选择提供on_approval_request以自动批准或拒绝(参阅examples/hosted_mcp/human_in_the_loop.py和examples/hosted_mcp/on_approval.py)。对于受信任的服务器,请使用"never"(examples/hosted_mcp/simple.py)。 - 会话与记忆:向
Runner.run传入会话,使审批和对话历史记录能够跨多个轮次保留。SQLite 和 OpenAI Conversations 会话变体位于examples/memory/memory_session_hitl_example.py和examples/memory/openai_session_hitl_example.py中。 - Realtime 智能体:Realtime 演示公开了 WebSocket 消息,这些消息通过
RealtimeSession上的approve_tool_call/reject_tool_call批准或拒绝工具调用(服务器端处理程序参阅examples/realtime/app/server.py,API 接口参阅 Realtime 指南)。
长时间运行的审批
RunState 被设计为可持久保存。使用 state.to_json() 或 state.to_string() 将待处理工作存储在数据库或队列中,并在之后使用 RunState.from_json(...) 或 RunState.from_string(...) 重新创建。
可用的序列化选项:
context_serializer:自定义非映射上下文对象的序列化方式。context_deserializer:使用RunState.from_json(...)或RunState.from_string(...)加载状态时,重新构建非映射上下文对象。strict_context=True:除非上下文本身已是映射,或你提供了context_serializer,否则序列化失败;除非上下文本身已是映射,或你提供了context_deserializer,否则反序列化失败。context_override:加载状态时替换已序列化的上下文。当你不希望恢复原始上下文对象时,此选项很有用,但它不会从已经序列化的载荷中移除该上下文。include_tracing_api_key=True:在序列化的追踪载荷中包含追踪 API 密钥,以便恢复后的工作可以继续使用相同凭据导出追踪数据。
序列化的运行状态包括应用上下文,以及由 SDK 管理的运行时元数据,例如审批、用量、序列化的 tool_input、嵌套的智能体作为工具的恢复信息、追踪元数据和服务器管理的对话设置。如果你计划存储或传输序列化状态,请将 RunContextWrapper.context 视为持久化数据,并避免在其中放置密钥,除非你明确希望这些密钥随状态一起传递。
待处理任务的版本管理
如果审批可能会搁置一段时间,请将智能体定义或 SDK 的版本标记与序列化状态一起存储。随后,你可以将反序列化路由到匹配的代码路径,以避免模型、提示词或工具定义发生变化时出现不兼容问题。