Omni API Docs
错误和限制
错误 envelope、限流和 API 任务上限。
错误和限制
API 响应使用稳定的 envelope,方便客户端区分网络失败和业务错误。
错误结构
{
"code": "INSUFFICIENT_CREDITS",
"message": "insufficient credits",
"details": {}
}
普通用户页面只展示简洁失败信息。管理员页面和日志可以保留 worker、provider、对象存储等详细错误。
未完成任务上限
API 用户可以按滚动窗口限制未完成任务数。未完成任务包含排队中和处理中任务。这样可以保护队列,同时不需要设置严格 QPS 限制。
容量行为
GPU 容量紧张时,平台应把符合条件的任务接收入队并返回队列状态。硬性安全上限仍然要保护数据库、队列、对象存储和 GPU 调度器。
幂等
客户端在网络失败后重试创建任务时应使用 idempotency key。相同 key 如果绑定不同 payload,应返回冲突错误。
