agent-router
所有系统运行正常

一个 API 访问 主流 AI 模型

通过统一 API 接入当前已上线的 DeepSeek、Qwen、豆包等模型, 兼容 OpenAI 与 Anthropic 协议。

兼容 OpenAI / Anthropic SDK

quickstart.py
from openai import OpenAI

client = OpenAI(
  api_key="your_api_key",
  base_url="http://api.agent-router.cn/v1"
)

response = client.chat.completions.create(
  model="qwen3.7-max",
  messages=[{"role": "user", "content": "你好!"}]
)

print(response.choices[0].message.content)
企业部署与治理

可配置、可审计的模型网关

统一模型接入、调用审计与私有化部署能力,帮助团队建立清晰的安全和运维边界

多上游接入

通过统一网关接入已配置的模型上游,同一模型可配置多个部署并按权重分配请求。

可配置安全边界

支持 PII 脱敏、正文留存开关和日志保留策略;公网部署时应由运维侧配置 HTTPS 与访问控制。

全链路可追溯

每一次 API 调用都有完整的审计日志,支持请求溯源与用量归因,满足企业治理需求。

私有化部署

支持 Docker Compose 方式部署,企业可在自己的网络与上游采购通道内运行网关。

接入能力
OpenAI 协议Anthropic 协议多上游部署
治理能力
PII 脱敏调用审计私有化部署

构建 AI 应用所需的一切

专注于打造优秀产品,基础设施交给我们。

统一 API

一个 API Key,一个接入点。通过当前模型列表切换模型,兼容 OpenAI 与 Anthropic 协议。

隐私与安全

支持 PII 脱敏与操作审计。当前 HTTP 网关仅应在可信网络中使用,公网访问前需配置 HTTPS。

实时数据分析

通过强大的仪表盘实时监控所有模型的 Token 用量、延迟和错误率。

智能路由

同一模型的多个上游部署可按配置进行负载分配,并对临时失败执行有限重试。

超低延迟

统一记录首包时间、总耗时和错误率,便于根据实际调用数据选择合适模型。

3 分钟快速上手

无需复杂配置,无需学习新 SDK,兼容你现有的代码。

01

创建账户

手机号一键登录即可开始使用,无需复杂配置。

02

生成 API Key

在控制台创建 API Key。直接使用 OpenAI SDK,无需学习新的库。

03

开始调用

将现有代码的请求地址指向网关,并使用模型列表接口返回的模型 ID 发起调用。

支持任何编程语言

兼容 OpenAI SDK 与 Anthropic SDK,使用现有客户端库即可,无需专属 SDK。

from openai import OpenAI

client = OpenAI(
    api_key="your_api_key",
    base_url="http://api.agent-router.cn/v1"
)

response = client.chat.completions.create(
    model="qwen3.7-max",
    messages=[{"role": "user", "content": "解释量子计算"}],
    temperature=0.7,
    stream=True
)

for chunk in response:
    print(chunk.choices[0].delta.content, end="")

常见问题

agent-router 是如何工作的?

agent-router 提供一个统一的 API 接入点,同时兼容 OpenAI(/v1/chat/completions)与 Anthropic(/v1/messages)协议。你向我们的接入点发送请求,指定要使用的模型,我们将请求路由到相应的供应商,并返回对应协议的标准化响应。

我需要为每个供应商单独申请 API Key 吗?

不需要。你只需要一个 agent-router 的 API Key。我们在后端处理所有供应商的认证。这意味着你不需要管理多个 API Key 或供应商关系。

我的数据安全吗?

平台支持 PII 脱敏和调用审计,提示词与响应可能按平台配置写入脱敏后的调用日志,用于排障和审计。当前 API 地址使用 HTTP,仅应在可信网络中使用;通过公网或不可信网络访问前必须配置 HTTPS,且不要发送不必要的敏感数据。

如果某个模型供应商宕机了怎么办?

同一模型配置了多个上游部署时,网关可进行负载分配,并对部分临时失败执行有限重试。客户端仍应设置合理超时、指数退避,并对 429、500、502、504 等错误做好处理;网关不会承诺自动切换到语义等效的其他模型。

我可以直接使用现有的 OpenAI 或 Anthropic SDK 代码吗?

可以。OpenAI SDK 的 base_url 设为 http://api.agent-router.cn/v1;Anthropic SDK 与 Claude Code 的 Base URL 设为 http://api.agent-router.cn,客户端会自行追加 /v1/messages。还需要使用网关 API Key 和 GET /v1/models 返回的模型 ID;工具调用等能力因模型而异。

支持流式输出吗?

支持流式输出的模型可在请求中设置 stream: true。OpenAI 端点返回 chat.completion.chunk,Anthropic 端点返回 message_start、content_block_delta 等事件;具体支持情况以目标模型的实际响应为准。

延迟开销是多少?

端到端延迟取决于模型、提示长度、输出长度、上游负载和网络状况。可在控制台查看实际首包时间、总耗时与错误率,再据此选择模型和超时策略。