跳到正文
原文
Cloudflare Changelog·· 2026-09-17AI 评分22

Cloudflare Workers AI 新增 rejectIfBusy 选项,容量不足时拒绝同步推理请求

Workers AI - Reject busy synchronous inference requests

AI 导读

Cloudflare Workers AI 为同步推理请求新增 rejectIfBusy 选项,容量不可用时直接失败,不再排队等待。该选项可作为第三个参数传给 Workers AI binding,或在原生 REST API 请求体的 options 中设置。OpenAI 兼容用法的错误行为参见官方「Reject busy requests」文档。

来源:Cloudflare Changelog · developers.cloudflare.com