Sine Gateway 提供组织范围的模型接入、路由、调用记录和预算管理。无需先创建项目或准备独立 Gateway 实例。可用模型与操作取决于当前环境实际发布的目录和供应商能力。
选择托管或 BYOK
| 模式 | 凭据与费用 | 准备工作 |
|---|---|---|
| 平台托管 | 平台维护供应商凭据;调用按发布价格从组织钱包结算。 | 选择已发布路由,开启组织托管预算并准备可用余额。 |
| BYOK(自有密钥) | 组织保存自己的供应商凭据;供应商自行收费,当前 Cloud 调用服务费为零。 | 所有者或管理员创建连接,发现或登记模型。 |
两种模式都经过成员、产品权限、路由范围和请求限额检查。BYOK 的零 Cloud 服务费不表示供应商免费。
使用托管模型
- 登录 Console,选择组织,打开 Gateway → Settings(设置)。
- 查看对外发布的路由、公开 Route ID、支持操作、价格、输入限制和最高预留。
- 由所有者或管理员开启托管调用,设置 UTC 月度预算与单次预留上限。新组织默认关闭托管调用、预算为零。
- 确认组织钱包有足够可用积分。预算是消费约束,提高预算不会增加资金。
- 在 Playground(调试台) 选择路由和支持的操作,提供输入并明确发送。然后在 Activity(调用记录) 核对结果和财务状态。
平台连接在目录中显示为只读 Sine Cloud,内部供应商与凭据不会开放给组织修改。组织可按需启用或停用平台内置路由,也可创建指向已发布平台模型的单目标路由;平台与 BYOK 混合的多目标路由暂不支持。
使用自有供应商连接
- 所有者或管理员在 Providers 选择供应商,按表单提供凭据、必要的 Base URL 和供应商参数。
- 对支持自动发现的供应商,保存后检查连接并查看导入的模型;其他模型可在 Models 手动登记准确的上游模型 ID 和支持操作。
- 在模型详情复制完整 Route ID。应用调用时将这个 ID 作为
model,不要自行用供应商模型名称替换。 - 在 Playground 选择该路由和操作,提交输入,检查实际结果。
供应商模型列表检查不会发起生成。保存连接成功不代表所有模型可用,也不代表不支持自动检查的供应商已验证凭据。Base URL 必须包含供应商要求的路径前缀;需要自定义地址时使用公网 HTTPS 地址,不把凭据写入 URL。
接入 API
Sine Gateway 模型 API 使用以下公共 Base URL:
https://sinecloud.dev/api/gateway/v1在控制台的 API 密钥 页面创建带 Gateway 授权的密钥。仅调用模型需要 modelInvoke;查询目录还需要 modelRead。将自己的完整密钥安全加载为环境变量 SINE_GATEWAY_KEY,然后查询当前授权范围内的路由:
curl 'https://sinecloud.dev/api/gateway/v1/models' \
-H "Authorization: Bearer $SINE_GATEWAY_KEY"GET /models 请求读取已保存目录,不触发模型生成。返回的 id 可直接作为请求的 model;同时查看 operations,仅调用该路由明确支持的操作。空目录可能需要管理员先配置可用路由。
| 操作 | 相对 Base URL 的路径 |
|---|---|
| 聊天与受支持的视觉理解 | POST /chat/completions |
| Responses | POST /responses |
| 向量 | POST /embeddings |
| 图片生成 | POST /images/generations |
| 异步任务查询 | GET /tasks/{task-id} |
聊天请求提供真实路由 ID、messages 和适用的输出上限。托管请求可使用 max_tokens 或 max_completion_tokens,不能同时使用,也不能超出发布上限。
为每次新生成请求保存唯一的 Idempotency-Key;保留响应中的 x-sine-invocation-id。更完整的媒体与供应商参数以控制台当前路由示例为准,并非所有 OpenAI 接口都受支持。
可选的项目归属通过 x-sine-project-id 指定。项目必须属于同一组织,请求头不能扩大项目受限 API 密钥的权限。
预算、结算与恢复
Token 价格按可信实际用量结算,预留同时受钱包可用余额、UTC 月度剩余预算和单次上限约束。关闭预算不会释放已有预留,跨月也不会清除尚未对账的资金占用。
固定请求价的同步操作当前要求非流式,按成功完整响应结算。异步媒体任务按供应商接受提交结算,后续生成失败或取消不会自动退款。查询任务或取消不会创建第二笔模型收费;直到任务状态确认取消,才可认定已取消。
网络错误、流中断或未知用量不能证明没有供应商费用。结果不确定时,查看原调用或任务,保留原请求身份;相同幂等键不会触发第二次供应商调用,可能返回 409 和原调用标识。不要换新键来“重试确认”。未知财务状态可能保留预留,需平台管理员核对。
Activity 与组织用量和账务可相互追溯。概览 HTTP 指标和最近记录并非全量结算统计,未知用量与零费用必须分别理解。