模型

Agents SDK开箱即用地支持两种形式的OpenAI模型：

• 推荐：OpenAIResponsesModel，它使用新的Responses API调用OpenAI API。
• OpenAIChatCompletionsModel，它使用Chat Completions API调用OpenAI API。

模型设置选择

从最符合你设置的最简单路径开始：

如果你想要...	推荐路径	了解更多
仅使用OpenAI模型	使用默认OpenAI提供商和Responses模型路径	OpenAI模型
通过 WebSocket 传输使用OpenAI Responses API	保持Responses模型路径并启用 WebSocket 传输	Responses WebSocket 传输
使用一个非OpenAI提供商	从内置提供商集成点开始	非OpenAI模型
在多个智能体之间混用模型或提供商	按每次运行或每个智能体选择提供商，并查看功能差异	单个工作流中的模型混用和跨提供商的模型混用
调整高级OpenAI Responses请求设置	在OpenAI Responses路径上使用 ModelSettings	高级OpenAI Responses设置
为非OpenAI或混合提供商路由使用第三方适配器	比较受支持的 beta 适配器，并验证你计划上线的提供商路径	第三方适配器

OpenAI模型

对于大多数仅使用OpenAI的应用，推荐路径是将字符串模型名称与默认OpenAI提供商配合使用，并保持在Responses模型路径上。

如果在初始化 Agent 时未指定模型，则会使用默认模型。当前默认模型是 gpt-5.4-mini，并设置 reasoning.effort="none" 和 verbosity="low"，适用于低延迟智能体工作流。如果你具备访问权限，我们建议将智能体设置为 gpt-5.5，以在保留显式 model_settings 的同时获得更高质量。

如果你想切换到其他模型，例如 gpt-5.5，有两种方式可以配置智能体。

默认模型

首先，如果你想让所有未设置自定义模型的智能体始终使用某个特定模型，请在运行智能体之前设置 OPENAI_DEFAULT_MODEL 环境变量。

export OPENAI_DEFAULT_MODEL=gpt-5.5
python3 my_awesome_agent.py

其次，你可以通过 RunConfig 为一次运行设置默认模型。如果没有为某个智能体设置模型，则会使用这次运行的模型。

from agents import Agent, RunConfig, Runner

agent = Agent(
    name="Assistant",
    instructions="You're a helpful agent.",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model="gpt-5.5"),
)

GPT-5 模型

当你以这种方式使用任何 GPT-5 模型（例如 gpt-5.5）时，SDK会应用默认的 ModelSettings。它会设置最适合大多数使用场景的配置。若要调整默认模型的推理强度，请传入你自己的 ModelSettings：

from openai.types.shared import Reasoning
from agents import Agent, ModelSettings

my_agent = Agent(
    name="My Agent",
    instructions="You're a helpful agent.",
    # If OPENAI_DEFAULT_MODEL=gpt-5.5 is set, passing only model_settings works.
    # It's also fine to pass a GPT-5 model name explicitly:
    model="gpt-5.5",
    model_settings=ModelSettings(reasoning=Reasoning(effort="high"), verbosity="low")
)

为了降低延迟，建议在 GPT-5 模型中使用 reasoning.effort="none"。

ComputerTool 模型选择

如果智能体包含 ComputerTool，实际Responses请求上的生效模型会决定SDK发送哪种计算机工具 payload。显式的 gpt-5.5 请求会使用 GA 内置 computer 工具，而显式的 computer-use-preview 请求会保留较旧的 computer_use_preview payload。

由 prompt 管理的调用是主要例外。如果 prompt 模板拥有模型，并且SDK从请求中省略 model，SDK会默认使用兼容预览版的计算机 payload，以免猜测该 prompt 固定了哪个模型。若要在该流程中保持 GA 路径，请在请求中显式设置 model="gpt-5.5"，或使用 ModelSettings(tool_choice="computer") 或 ModelSettings(tool_choice="computer_use") 强制使用 GA 选择器。

注册了 ComputerTool 时，tool_choice="computer"、"computer_use" 和 "computer_use_preview" 会被规范化为与生效请求模型匹配的内置选择器。如果没有注册 ComputerTool，这些字符串会继续像普通函数名称一样工作。

兼容预览版的请求必须预先序列化 environment 和显示尺寸，因此使用 ComputerProvider 工厂的 prompt 管理流程，应传入一个具体的 Computer 或 AsyncComputer 实例，或在发送请求前强制使用 GA 选择器。完整迁移详情请参见工具。

非 GPT-5 模型

如果传入非 GPT-5 模型名称且没有自定义 model_settings，SDK会回退到与任何模型兼容的通用 ModelSettings。

仅 Responses 支持的工具搜索特性

以下工具特性仅OpenAI Responses模型支持：

• ToolSearchTool
• tool_namespace()
• @function_tool(defer_loading=True) 以及其他延迟加载的Responses工具接口

Chat Completions模型和非Responses后端会拒绝这些特性。使用延迟加载工具时，请向智能体添加 ToolSearchTool()，并让模型通过 auto 或 required tool choice 加载工具，而不是强制使用裸命名空间名称或仅延迟加载的函数名称。设置详情和当前约束请参见工具。

Responses WebSocket 传输

默认情况下，OpenAI Responses API请求使用 HTTP 传输。使用OpenAI支持的模型时，你可以选择启用 WebSocket 传输。

基本设置

from agents import set_default_openai_responses_transport

set_default_openai_responses_transport("websocket")

这会影响由默认OpenAI提供商解析的OpenAI Responses模型（包括诸如 "gpt-5.5" 之类的字符串模型名称）。

传输选择发生在SDK将模型名称解析为模型实例时。如果传入具体的 Model 对象，它的传输已经固定：OpenAIResponsesWSModel 使用 WebSocket，OpenAIResponsesModel 使用 HTTP，而 OpenAIChatCompletionsModel 保持在Chat Completions上。如果传入 RunConfig(model_provider=...)，则由该提供商控制传输选择，而不是使用全局默认值。

提供商级或运行级设置

你也可以按提供商或按运行配置 WebSocket 传输：

from agents import Agent, OpenAIProvider, RunConfig, Runner

provider = OpenAIProvider(
    use_responses_websocket=True,
    # Optional; if omitted, OPENAI_WEBSOCKET_BASE_URL is used when set.
    websocket_base_url="wss://your-proxy.example/v1",
    # Optional low-level websocket keepalive settings.
    responses_websocket_options={"ping_interval": 20.0, "ping_timeout": 60.0},
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

OpenAI支持的提供商还接受可选的智能体注册配置。这是一个高级选项，适用于你的OpenAI设置需要提供商级注册元数据（例如 harness ID）的场景。

from agents import (
    Agent,
    OpenAIAgentRegistrationConfig,
    OpenAIProvider,
    RunConfig,
    Runner,
)

provider = OpenAIProvider(
    use_responses_websocket=True,
    agent_registration=OpenAIAgentRegistrationConfig(harness_id="your-harness-id"),
)

agent = Agent(name="Assistant")
result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

使用 MultiProvider 的高级路由

如果需要基于前缀的模型路由（例如在同一次运行中混用 openai/... 和 any-llm/... 模型名称），请使用 MultiProvider，并在那里设置 openai_use_responses_websocket=True。

MultiProvider 保留了两个历史默认行为：

• openai/... 被视为OpenAI提供商的别名，因此 openai/gpt-4.1 会被路由为模型 gpt-4.1。
• 未知前缀会引发 UserError，而不是被透传。

当你将OpenAI提供商指向期望字面命名空间模型 ID 的OpenAI兼容端点时，请显式选择透传行为。在启用 WebSocket 的设置中，也请在 MultiProvider 上保留 openai_use_responses_websocket=True：

from agents import Agent, MultiProvider, RunConfig, Runner

provider = MultiProvider(
    openai_base_url="https://openrouter.ai/api/v1",
    openai_api_key="...",
    openai_use_responses_websocket=True,
    openai_prefix_mode="model_id",
    unknown_prefix_mode="model_id",
)

agent = Agent(
    name="Assistant",
    instructions="Be concise.",
    model="openai/gpt-4.1",
)

result = await Runner.run(
    agent,
    "Hello",
    run_config=RunConfig(model_provider=provider),
)

当后端期望字面 openai/... 字符串时，请使用 openai_prefix_mode="model_id"。当后端期望其他命名空间模型 ID（例如 openrouter/openai/gpt-4.1-mini）时，请使用 unknown_prefix_mode="model_id"。这些选项也适用于 WebSocket 传输之外的 MultiProvider；此示例保持启用 WebSocket，因为它是本节所述传输设置的一部分。同样的选项也可用于 responses_websocket_session()。

如果你在通过 MultiProvider 路由时需要相同的提供商级注册元数据，请传入 openai_agent_registration=OpenAIAgentRegistrationConfig(...)，它会被转发到底层OpenAI提供商。

如果你使用自定义OpenAI兼容端点或代理，WebSocket 传输还需要兼容的 WebSocket /responses 端点。在这些设置中，你可能需要显式设置 websocket_base_url。

注意事项

• 这是通过 WebSocket 传输使用的Responses API，而不是 Realtime API。它不适用于Chat Completions或非OpenAI提供商，除非它们支持Responses WebSocket /responses 端点。
• 如果你的环境中尚未提供 websockets 包，请安装它。
• 启用 WebSocket 传输后，你可以直接使用 Runner.run_streamed()。对于希望在多个轮次（以及嵌套的智能体作为工具调用）之间复用同一个 WebSocket 连接的多轮工作流，建议使用 responses_websocket_session() 辅助函数。请参见运行智能体指南和 examples/basic/stream_ws.py。
• 对于长时间推理轮次或存在延迟尖峰的网络，请使用 responses_websocket_options 自定义 WebSocket 保活行为。增大 ping_timeout 以容忍延迟的 pong 帧，或设置 ping_timeout=None 以在保持 ping 启用的同时禁用心跳超时。当可靠性比 WebSocket 延迟更重要时，请优先使用 HTTP/SSE 传输。

非OpenAI模型

如果需要非OpenAI提供商，请从SDK的内置提供商集成点开始。在许多设置中，这已经足够，无需添加第三方适配器。每种模式的代码示例位于 examples/model_providers。

非OpenAI提供商集成方式

方法	适用场景	范围
set_default_openai_client	一个OpenAI兼容端点应作为大多数或所有智能体的默认端点	全局默认
ModelProvider	一个自定义提供商应应用于单次运行	按运行
Agent.model	不同智能体需要不同的提供商或具体模型对象	按智能体
第三方适配器	你需要内置路径无法提供的、由适配器管理的提供商覆盖范围或路由	参见第三方适配器

你可以通过这些内置路径集成其他LLM提供商：

1. set_default_openai_client 适用于希望全局使用某个 AsyncOpenAI 实例作为LLM客户端的场景。这适用于LLM提供商拥有OpenAI兼容 API 端点，并且你可以设置 base_url 和 api_key 的情况。可配置的代码示例请参见 examples/model_providers/custom_example_global.py。
2. ModelProvider 位于 Runner.run 级别。这让你可以声明“在本次运行中为所有智能体使用自定义模型提供商”。可配置的代码示例请参见 examples/model_providers/custom_example_provider.py。
3. Agent.model 让你可以在特定智能体实例上指定模型。这使你能够为不同智能体混合搭配不同提供商。可配置的代码示例请参见 examples/model_providers/custom_example_agent.py。

如果你没有来自 platform.openai.com 的 API key，我们建议通过 set_tracing_disabled() 禁用追踪，或设置其他追踪进程。

from agents import Agent, AsyncOpenAI, OpenAIChatCompletionsModel, set_tracing_disabled

set_tracing_disabled(disabled=True)

client = AsyncOpenAI(api_key="Api_Key", base_url="Base URL of Provider")
model = OpenAIChatCompletionsModel(model="Model_Name", openai_client=client)

agent= Agent(name="Helping Agent", instructions="You are a Helping Agent", model=model)

Note

在这些代码示例中，我们使用Chat Completions API/模型，因为许多LLM提供商仍不支持Responses API。如果你的LLM提供商支持它，我们建议使用Responses。

单个工作流中的模型混用

在单个工作流中，你可能希望为每个智能体使用不同模型。例如，你可以使用更小、更快的模型进行初筛，同时使用更大、能力更强的模型处理复杂任务。配置 Agent 时，你可以通过以下任一方式选择特定模型：

1. 传入模型名称。
2. 传入任意模型名称 + 可将该名称映射到 Model 实例的 ModelProvider。
3. 直接提供 Model 实现。

Note

虽然我们的SDK同时支持 OpenAIResponsesModel 和 OpenAIChatCompletionsModel 这两种形态，但我们建议每个工作流使用单一模型形态，因为这两种形态支持的功能和工具集合不同。如果你的工作流需要混合搭配模型形态，请确保你使用的所有功能在两者上都可用。

from agents import Agent, Runner, AsyncOpenAI, OpenAIChatCompletionsModel
import asyncio

spanish_agent = Agent(
    name="Spanish agent",
    instructions="You only speak Spanish.",
    model="gpt-5-mini", # (1)!
)

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model=OpenAIChatCompletionsModel( # (2)!
        model="gpt-5-nano",
        openai_client=AsyncOpenAI()
    ),
)

triage_agent = Agent(
    name="Triage agent",
    instructions="Handoff to the appropriate agent based on the language of the request.",
    handoffs=[spanish_agent, english_agent],
    model="gpt-5.5",
)

async def main():
    result = await Runner.run(triage_agent, input="Hola, ¿cómo estás?")
    print(result.final_output)

1. 直接设置OpenAI模型的名称。
2. 提供 Model 实现。

当你想进一步配置智能体所使用的模型时，可以传入 [ModelSettings][agents.models.interface.ModelSettings]，它提供了可选的模型配置参数，例如 temperature。

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(temperature=0.1),
)

高级OpenAI Responses设置

当你使用OpenAI Responses路径并需要更多控制时，请从 ModelSettings 开始。

常见高级 ModelSettings 选项

使用OpenAI Responses API时，一些请求字段已经有直接对应的 ModelSettings 字段，因此不需要为它们使用 extra_args。

• parallel_tool_calls：允许或禁止在同一轮次中进行多个工具调用。
• truncation：设置为 "auto" 可让Responses API在上下文将要溢出时丢弃最早的对话项，而不是失败。
• store：控制生成的响应是否存储在服务端以便之后检索。这对于依赖响应 ID 的后续工作流，以及在 store=False 时可能需要回退到本地输入的会话压缩流程很重要。
• context_management：配置服务端上下文处理，例如带有 compact_threshold 的Responses压缩。
• prompt_cache_retention：更长时间保留缓存的 prompt 前缀，例如使用 "24h"。
• response_include：请求更丰富的响应 payload，例如 web_search_call.action.sources、file_search_call.results 或 reasoning.encrypted_content。
• top_logprobs：请求输出文本的 top-token logprobs。SDK还会自动添加 message.output_text.logprobs。
• retry：为模型调用选择启用由 runner 管理的重试设置。参见由 Runner 管理的重试。

from agents import Agent, ModelSettings

research_agent = Agent(
    name="Research agent",
    model="gpt-5.5",
    model_settings=ModelSettings(
        parallel_tool_calls=False,
        truncation="auto",
        store=True,
        context_management=[{"type": "compaction", "compact_threshold": 200000}],
        prompt_cache_retention="24h",
        response_include=["web_search_call.action.sources"],
        top_logprobs=5,
    ),
)

当你设置 store=False 时，Responses API不会保留该响应以供之后进行服务端检索。这对于无状态或零数据保留风格的流程很有用，但也意味着原本会复用响应 ID 的功能需要依赖本地管理的状态。例如，当最后一个响应未被存储时，OpenAIResponsesCompactionSession 会将其默认的 "auto" 压缩路径切换为基于输入的压缩。请参见会话指南。

服务端压缩不同于 OpenAIResponsesCompactionSession。context_management=[{"type": "compaction", "compact_threshold": ...}] 会随每个Responses API请求一起发送，并且当渲染后的上下文超过阈值时，API可以将压缩项作为响应的一部分发出。OpenAIResponsesCompactionSession 会在轮次之间调用独立的 responses.compact 端点，并重写本地会话历史。

extra_args 的传递方式

当你需要提供商特定的请求字段，或SDK尚未在顶层直接暴露的较新请求字段时，请使用 extra_args。

此外，当你使用OpenAI的Responses API时，还有一些其他可选参数（例如 user、service_tier 等）。如果它们在顶层不可用，你也可以使用 extra_args 传入它们。不要同时通过直接的 ModelSettings 字段设置相同请求字段。

from agents import Agent, ModelSettings

english_agent = Agent(
    name="English agent",
    instructions="You only speak English",
    model="gpt-4.1",
    model_settings=ModelSettings(
        temperature=0.1,
        extra_args={"service_tier": "flex", "user": "user_12345"},
    ),
)

由 Runner 管理的重试

重试仅在运行时生效且需要显式启用。除非你设置了 ModelSettings(retry=...)，并且你的重试策略选择重试，否则SDK不会重试一般模型请求。

from agents import Agent, ModelRetrySettings, ModelSettings, retry_policies

agent = Agent(
    name="Assistant",
    model="gpt-5.5",
    model_settings=ModelSettings(
        retry=ModelRetrySettings(
            max_retries=4,
            backoff={
                "initial_delay": 0.5,
                "max_delay": 5.0,
                "multiplier": 2.0,
                "jitter": True,
            },
            policy=retry_policies.any(
                retry_policies.provider_suggested(),
                retry_policies.retry_after(),
                retry_policies.network_error(),
                retry_policies.http_status([408, 409, 429, 500, 502, 503, 504]),
            ),
        )
    ),
)

ModelRetrySettings 有三个字段：

字段	类型	说明
max_retries	int | None	初始请求之后允许的重试尝试次数。
backoff	ModelRetryBackoffSettings | dict | None	当策略重试但未返回显式延迟时使用的默认延迟策略。backoff.max_delay 只会限制这个计算得出的 backoff 延迟。它不会限制策略返回的显式延迟或 retry-after 提示。
policy	RetryPolicy | None	决定是否重试的回调。该字段仅在运行时生效，不会被序列化。

重试策略会收到包含以下内容的 RetryPolicyContext：

• attempt 和 max_retries，以便你根据尝试次数做出决策。
• stream，以便你在流式传输和非流式传输行为之间分支。
• error，用于原始检查。
• normalized 事实，例如 status_code、retry_after、error_code、is_network_error、is_timeout 和 is_abort。
• 当底层模型适配器能够提供重试指导时，会包含 provider_advice。

策略可以返回以下任一项：

• True / False，用于简单的重试决策。
• 当你想覆盖延迟或附加诊断原因时，返回 RetryDecision。

SDK在 retry_policies 上导出了现成辅助函数：

辅助函数	行为
retry_policies.never()	始终不启用重试。
retry_policies.provider_suggested()	在提供商重试建议可用时遵循该建议。
retry_policies.network_error()	匹配暂时性传输和超时故障。
retry_policies.http_status([...])	匹配选定的 HTTP 状态码。
retry_policies.retry_after()	仅在 retry-after 提示可用时重试，并使用该延迟。该辅助函数会将 retry-after 值视为显式策略延迟，因此 backoff.max_delay 不会限制它。
retry_policies.any(...)	当任一嵌套策略选择启用时重试。
retry_policies.all(...)	仅当每个嵌套策略都选择启用时重试。

组合策略时，provider_suggested() 是最安全的首个构建块，因为当提供商能够区分时，它会保留提供商否决和重放安全批准。

安全边界

某些故障永远不会自动重试：

• 中止错误。
• 提供商建议将重放标记为不安全的请求。
• 输出已经以会使重放不安全的方式开始之后的流式传输运行。

使用 previous_response_id 或 conversation_id 的有状态后续请求也会被更保守地处理。对于这些请求，network_error() 或 http_status([500]) 等非提供商判断条件本身并不足够。重试策略应包含来自提供商的重放安全批准，通常通过 retry_policies.provider_suggested() 实现。

Runner 与智能体的合并行为

retry 会在 runner 级和智能体级 ModelSettings 之间进行深度合并：

• 智能体可以只覆盖 retry.max_retries，同时仍继承 runner 的 policy。
• 智能体可以只覆盖 retry.backoff 的一部分，并保留 runner 中同级的 backoff 字段。
• policy 仅在运行时生效，因此序列化后的 ModelSettings 会保留 max_retries 和 backoff，但省略回调本身。

更多完整代码示例请参见 examples/basic/retry.py 和由适配器支持的重试示例。

非OpenAI提供商故障排查

追踪客户端错误 401

如果遇到与追踪相关的错误，这是因为追踪数据会上传到OpenAI服务，而你没有OpenAI API key。你有三个选项可解决此问题：

1. 完全禁用追踪：set_tracing_disabled(True)。
2. 为追踪设置OpenAI key：set_tracing_export_api_key(...)。此 API key 仅用于上传追踪数据，且必须来自 platform.openai.com。
3. 使用非OpenAI追踪进程。参见追踪文档。

Responses API 支持

SDK默认使用Responses API，但许多其他LLM提供商仍不支持它。因此你可能会看到 404 错误或类似问题。要解决此问题，你有两个选项：

1. 调用 set_default_openai_api("chat_completions")。如果你通过环境变量设置 OPENAI_API_KEY 和 OPENAI_BASE_URL，这会生效。
2. 使用 OpenAIChatCompletionsModel。代码示例在此处。

Structured outputs 支持

一些模型提供商不支持 structured outputs。这有时会导致类似如下的错误：

BadRequestError: Error code: 400 - {'error': {'message': "'response_format.type' : value is not one of the allowed values ['text','json_object']", 'type': 'invalid_request_error'}}

这是一些模型提供商的不足——它们支持 JSON 输出，但不允许你指定输出要使用的 json_schema。我们正在修复此问题，但我们建议依赖确实支持 JSON schema 输出的提供商，否则你的应用经常会因为格式错误的 JSON 而出错。

跨提供商的模型混用

你需要了解模型提供商之间的功能差异，否则可能会遇到错误。例如，OpenAI支持 structured outputs、多模态输入，以及托管的文件检索和网络检索，但许多其他提供商不支持这些功能。请注意这些限制：

• 不要向无法理解的提供商发送不受支持的 tools
• 在调用仅支持文本的模型之前，过滤掉多模态输入
• 请注意，不支持结构化 JSON 输出的提供商偶尔会生成无效 JSON。

第三方适配器

仅当SDK的内置提供商集成点不足够时，才使用第三方适配器。如果你只通过此SDK使用OpenAI模型，请优先使用内置的 OpenAIResponsesModel 路径，而不是 Any-LLM 或 LiteLLM。第三方适配器适用于需要将OpenAI模型与非OpenAI提供商组合使用，或需要内置路径无法提供的、由适配器管理的提供商覆盖范围或路由的场景。适配器会在SDK和上游模型提供商之间增加另一层兼容层，因此功能支持和请求语义可能因提供商而异。SDK目前包含 Any-LLM 和 LiteLLM，作为尽力而为的 beta 版适配器集成。

Any-LLM

Any-LLM 支持以尽力而为的 beta 形式提供，适用于你需要由Any-LLM管理的提供商覆盖范围或路由的场景。

根据上游提供商路径，Any-LLM 可能会使用Responses API、Chat Completions兼容 API，或提供商特定的兼容层。

如果需要 Any-LLM，请安装 openai-agents[any-llm]，然后从 examples/model_providers/any_llm_auto.py 或 examples/model_providers/any_llm_provider.py 开始。你可以将 any-llm/... 模型名称与 MultiProvider 一起使用，直接实例化 AnyLLMModel，或在运行范围内使用 AnyLLMProvider。如果需要显式固定模型接口，请在构造 AnyLLMModel 时传入 api="responses" 或 api="chat_completions"。

Any-LLM 仍是第三方适配器层，因此提供商依赖和能力差距由上游Any-LLM定义，而不是由SDK定义。当上游提供商返回使用量指标时，这些指标会自动传播，但流式传输的Chat Completions后端可能需要先设置 ModelSettings(include_usage=True) 才会发出 usage 片段。如果你依赖 structured outputs、工具调用、使用量报告或Responses特定行为，请验证你计划部署的确切提供商后端。

LiteLLM

LiteLLM 支持以尽力而为的 beta 形式提供，适用于你需要 LiteLLM 特定的提供商覆盖范围或路由的场景。

如果需要 LiteLLM，请安装 openai-agents[litellm]，然后从 examples/model_providers/litellm_auto.py 或 examples/model_providers/litellm_provider.py 开始。你可以使用 litellm/... 模型名称，或直接实例化 LitellmModel。

一些由LiteLLM支持的提供商默认不会填充SDK使用量指标。如果需要使用量报告，请传入 ModelSettings(include_usage=True)；如果你依赖 structured outputs、工具调用、使用量报告或适配器特定的路由行为，请验证你计划部署的确切提供商后端。