Omni API
Omni API Docs

错误和限制

错误 envelope、限流和 API 任务上限。

错误和限制

API 响应使用稳定的 envelope,方便客户端区分网络失败和业务错误。

错误结构

{
  "code": "INSUFFICIENT_CREDITS",
  "message": "insufficient credits",
  "details": {}
}

普通用户页面只展示简洁失败信息。管理员页面和日志可以保留 worker、provider、对象存储等详细错误。

未完成任务上限

API 用户可以按滚动窗口限制未完成任务数。未完成任务包含排队中和处理中任务。这样可以保护队列,同时不需要设置严格 QPS 限制。

容量行为

GPU 容量紧张时,平台应把符合条件的任务接收入队并返回队列状态。硬性安全上限仍然要保护数据库、队列、对象存储和 GPU 调度器。

幂等

客户端在网络失败后重试创建任务时应使用 idempotency key。相同 key 如果绑定不同 payload,应返回冲突错误。