跳到正文
原文
Reddit r/SaaS· /u/Standard_Power_3999·· 3 小时前AI 评分33

给 AI Agent 加上「不确定」选项后,错误率明显下降

The best thing i added to my agent was permission to say "not sure"

AI 导读

一位开发者给 Agent 的每个决策步骤加了「not sure」第三选项,低于置信度阈值的请求转人工队列或更大模型,而非强行猜测。约 [X]% 的调用落入「not sure」,其余请求的错误率降至 [Y],人工队列小到真有人能逐条看完。他提醒阈值只在置信度数字可信时有效,有些模型会对编造内容给出 0.95,需先验证 0.9 是否真代表十次对九次。

来源:Reddit r/SaaS · reddit.com