Vercel Changelog· Rohan Taneja·· 22 天前精选AI 评分62
Vercel AI Gateway 新增基于置信度的决策回退
AI Gateway adds confidence-based decision fallbacks
AI 导读
Vercel AI Gateway 现在可以在主模型的回答触发你设定的置信度条件时,把决策请求升级到回退模型,多个条件可以组合使用。置信度条件覆盖 Choice 和 Score 类型问题,Boolean 问题则按概率区间升级;在 providerOptions.gateway.models 里加一个条件对象即可设置,不加则保持原有行为。
推荐理由
AI Gateway 新增按置信度触发回退模型的能力,做决策类调用的可以在 providerOptions 里加一个条件对象试起来。
来源:Vercel Changelog · vercel.com