响应与计费
Usage 与计费
usage 统计、余额检查和扣费记录。
计费以真实 usage 为准
顶级AI不是按请求是否成功转发来直接扣费,而是按协议提取上游返回的 usage,再结合当前模型价格完成结算。
调用到结算的顺序
调用前检查
验证用户 API Key、并发限制、模型状态和账户余额。用户余额必须大于 0 才能发起模型调用。
选择上游候选
按入口协议和 public model id 选择可用上游。
转发请求并读取响应
非流式读取完整响应;流式响应按协议观察 usage:OpenAI Chat 和 Gemini 保留最后有效 usage,Anthropic 合并 stream usage,Responses 读取完成事件里的 response usage。
提取 usage 并结算
usage 合法时写入用量记录;产生扣费时同时写入账务流水。usage 缺失或异常时按失败处理。
余额边界
余额可以结算后变成负数
调用发起前余额必须大于 0。一次调用完成结算后,余额允许被扣成负数;余额为 0 或负数时不能发起新的模型调用。
各协议 usage 来源
Prop
Type
usage 异常
| 网关字符串 | 含义 | 常见原因 |
|---|---|---|
usage_missing | 上游响应缺少可结算 usage | 上游没有返回 usage,或流式响应没有观察到当前协议要求的 usage |
usage_invalid | usage 格式不符合要求 | token 字段为负数、类型不对、缓存 token 大于输入 token |
不要用响应文本估算计费
文档、控制台和账务都应以服务端提取到的 usage 为准,不用客户端自行估算的 token 数替代结算依据。
最后更新于