模型网关接入文档

用一个 Key 调用已备案的国产模型,接口兼容 OpenAI。我们只记录用量元数据,不保存提示词和回复。

快速开始

  1. 在开发者中心创建团队(个人开发者也需要),等待开通内测。
  2. 在团队的“模型网关”页面创建 API Key,只保存在服务端。
  3. 把 SDK 的 base URL 设为 https://staging-api.ymgymg.xin/v1。

用官方 OpenAI SDK,把 base URL 换成下面的地址即可。

curl

Python

Node.js

可用模型

暂时没有可用模型。

接口

  • POST /v1/chat/completions — 支持流式、工具调用、JSON 输出
  • POST /v1/embeddings
  • GET /v1/models — 返回当前可用模型、备案号和价格
  • GET /v1/aiyo/balance, GET /v1/aiyo/usage — 余额与用量

计费

按模型台账价格分别计算输入、缓存命中和输出 token。请求前按 max_tokens 预估冻结,结束后按实际用量结算并释放;先扣补贴额度,再扣余额。

限流

默认每个 Key 每分钟 60 次请求、200,000 个 token;超限返回 429 和 Retry-After。

隐私

网关只记录模型、token 数、耗时和状态码等元数据,不保存提示词和回复内容。

生成内容标识

每个回复带有响应头 x-aiyo-aigc: 1,表示内容由 AI 生成。在你的产品里向用户展示生成内容时,请按规定显式标识。

错误码

invalid_api_keyKey 不存在或格式错误
key_revokedKey 已吊销
ip_not_allowed请求 IP 不在白名单
gateway_not_enabled团队尚未开通网关
realname_required使用补贴额度需团队完成实名
insufficient_balance余额与补贴额度不足
spend_limit_exceeded超过 Key 的每月消费上限
model_not_in_ledger模型不在本区域台账
model_not_available模型暂停或合同到期
content_blocked输入或输出未通过内容安全检查
rate_limited超过 RPM/TPM 限制
dedicated_channel_unavailable专属上游暂不可用
upstream_unavailable所有上游渠道失败,请重试
upstream_timeout上游超时