Vercel News· Rohan Taneja·· 13 天前AI 评分36
Vercel AI Gateway 新增基于置信度的决策回退
AI Gateway adds confidence-based decision fallbacks
AI 导读
Vercel AI Gateway 现可在主模型答案触发你设定的置信度条件时,把决策请求升级到回退模型,条件支持组合,覆盖 Choice 与 Score 类问题,Boolean 问题则按概率区间升级。在 providerOptions.gateway.models 中加一个条件对象即可启用,未配置的请求行为不变;触发回退会运行第二次决策,因此两段都计费。该决策回退功能处于 beta 阶段。
来源:Vercel News · vercel.com