跳转到正文

Sine Gateway:模型 API 与预算

接入托管或 BYOK 模型路由,配置预算与 API 请求认证,并核对用量、结算及结果不确定的调用。

更新于

Sine Gateway 提供组织范围的模型接入、路由、调用记录和预算管理。无需先创建项目或准备独立 Gateway 实例。可用模型与操作取决于当前环境实际发布的目录和供应商能力。

选择托管或 BYOK

模式 凭据与费用 准备工作
平台托管 平台维护供应商凭据;调用按发布价格从组织钱包结算。 选择已发布路由,开启组织托管预算并准备可用余额。
BYOK(自有密钥) 组织保存自己的供应商凭据;供应商自行收费,当前 Cloud 调用服务费为零。 所有者或管理员创建连接,发现或登记模型。

两种模式都经过成员、产品权限、路由范围和请求限额检查。BYOK 的零 Cloud 服务费不表示供应商免费。

使用托管模型

  1. 登录 Console,选择组织,打开 Gateway → Settings(设置)。
  2. 查看对外发布的路由、公开 Route ID、支持操作、价格、输入限制和最高预留。
  3. 由所有者或管理员开启托管调用,设置 UTC 月度预算与单次预留上限。新组织默认关闭托管调用、预算为零。
  4. 确认组织钱包有足够可用积分。预算是消费约束,提高预算不会增加资金。
  5. 在 Playground(调试台) 选择路由和支持的操作,提供输入并明确发送。然后在 Activity(调用记录) 核对结果和财务状态。

平台连接在目录中显示为只读 Sine Cloud,内部供应商与凭据不会开放给组织修改。组织可按需启用或停用平台内置路由,也可创建指向已发布平台模型的单目标路由;平台与 BYOK 混合的多目标路由暂不支持。

使用自有供应商连接

  1. 所有者或管理员在 Providers 选择供应商,按表单提供凭据、必要的 Base URL 和供应商参数。
  2. 对支持自动发现的供应商,保存后检查连接并查看导入的模型;其他模型可在 Models 手动登记准确的上游模型 ID 和支持操作。
  3. 在模型详情复制完整 Route ID。应用调用时将这个 ID 作为 model,不要自行用供应商模型名称替换。
  4. 在 Playground 选择该路由和操作,提交输入,检查实际结果。

供应商模型列表检查不会发起生成。保存连接成功不代表所有模型可用,也不代表不支持自动检查的供应商已验证凭据。Base URL 必须包含供应商要求的路径前缀;需要自定义地址时使用公网 HTTPS 地址,不把凭据写入 URL。

接入 API

Sine Gateway 模型 API 使用以下公共 Base URL:

https://sinecloud.dev/api/gateway/v1

在控制台的 API 密钥 页面创建带 Gateway 授权的密钥。仅调用模型需要 modelInvoke;查询目录还需要 modelRead。将自己的完整密钥安全加载为环境变量 SINE_GATEWAY_KEY,然后查询当前授权范围内的路由:

curl 'https://sinecloud.dev/api/gateway/v1/models' \
  -H "Authorization: Bearer $SINE_GATEWAY_KEY"

GET /models 请求读取已保存目录,不触发模型生成。返回的 id 可直接作为请求的 model;同时查看 operations,仅调用该路由明确支持的操作。空目录可能需要管理员先配置可用路由。

操作 相对 Base URL 的路径
聊天与受支持的视觉理解 POST /chat/completions
Responses POST /responses
向量 POST /embeddings
图片生成 POST /images/generations
异步任务查询 GET /tasks/{task-id}

聊天请求提供真实路由 ID、messages 和适用的输出上限。托管请求可使用 max_tokens 或 max_completion_tokens,不能同时使用,也不能超出发布上限。

为每次新生成请求保存唯一的 Idempotency-Key;保留响应中的 x-sine-invocation-id。更完整的媒体与供应商参数以控制台当前路由示例为准,并非所有 OpenAI 接口都受支持。

可选的项目归属通过 x-sine-project-id 指定。项目必须属于同一组织,请求头不能扩大项目受限 API 密钥的权限。

预算、结算与恢复

Token 价格按可信实际用量结算,预留同时受钱包可用余额、UTC 月度剩余预算和单次上限约束。关闭预算不会释放已有预留,跨月也不会清除尚未对账的资金占用。

固定请求价的同步操作当前要求非流式,按成功完整响应结算。异步媒体任务按供应商接受提交结算,后续生成失败或取消不会自动退款。查询任务或取消不会创建第二笔模型收费;直到任务状态确认取消,才可认定已取消。

网络错误、流中断或未知用量不能证明没有供应商费用。结果不确定时,查看原调用或任务,保留原请求身份;相同幂等键不会触发第二次供应商调用,可能返回 409 和原调用标识。不要换新键来“重试确认”。未知财务状态可能保留预留,需平台管理员核对。

Activity 与组织用量和账务可相互追溯。概览 HTTP 指标和最近记录并非全量结算统计,未知用量与零费用必须分别理解。

控制台

输入关键词开始搜索…

↑↓ 移动↵ 选择Esc 关闭