Cloudflare User Insights 更新:识别 AI 模型过度使用,新增 Potential Savings 与 Auto Router 公测
Cloudflare 为 AI Gateway 的 User Insights 新增模型过度使用识别功能,可看出模型能力超出任务所需,并定位是哪些用户、Agent 或应用在推高用量。
Cloudflare 为 AI Gateway 的 User Insights 新增模型过度使用识别功能,可看出模型能力超出任务所需,并定位是哪些用户、Agent 或应用在推高用量。
Cloudflare 在 AI Gateway 中发布 Auto Router 公测,把模型设为 cloudflare/auto 后,网关会按任务自动选择能力足够的模型。
推荐理由:Cloudflare 官方发布 Auto Router 公测,并给出内部基准的成功率与单次成本对比,可据此判断路由省钱的幅度。
John Lindquist 在 Lenny's Newsletter 分享了 Jev 的 8 个真实用例,包括实时语音待办应用、数据去重与记录合并、多级应用路由、多智能体协调避碰和实时演讲教练。他把 Jev 定位为决策引擎而非聊天机器人,并演示了 Jev 与低推理 LLM 下棋的速度与成本对比。他也指出 Jev 的局限,以及何时仍应改用完整生成式模型。
OpenAI 与美国 SBDC 达成合作,为小企业扩大 AI 实操培训与本地支持,并同步发布一份关于小团队如何使用 AI 的新报告。
Voyage AI by MongoDB 的 Rerank 3 与 Rerank 3 Lite 已在 Vercel AI Gateway 上线,用于在把文档交给语言模型前按相关性重排搜索结果。
教程用 Appwrite Presences、Realtime 和 Function 构建规划看板 Weft,让 AI agent 与团队成员同框协作:agent 头像出现在同一 presence 栈中,并实时显示"Triaging 3 of 6 cards"等活动状态。
OpenRouter 发布指南,介绍如何从生产流量构建 golden eval 数据集:用真实用户输入搭配人工审核的预期输出,在 Git 中版本化并在每次部署前运行。数据集规模按任务定,探索单个问题约 10 条,完整回归集 100 到 1,000 条,失败模式覆盖比数量更重要。该指南还介绍如何通过一个 API 将同一数据集跑在多个候选模型上,用自家流量证据而非排行榜选模型。
测试 AI Agent 工具调用需分开检查工具选择与参数正确性:选错工具用无参考 LLM 评审,参数值错误用确定性 schema 校验,多步调用顺序则用轨迹对比。文中以 lookup_order、issue_refund 等为例,并演示如何通过 OpenRouter 用同一批测试用例对比多个支持工具的模型。
InclusionAI 的 Ling 3.1 Flash 已在 Vercel AI Gateway 上线,10 月 13 日前免费使用。该模型为混合推理语言模型,总参数 560B、每 token 激活 25B,在 AI Gateway 上支持 262K token 上下文窗口,面向编程、多步分析和工具调用型 agent。
Appwrite 发布教程,用 Appwrite Functions 搭建名为 Pourhaven Refund Desk 的 AI 退款 Agent:由 GPT-6 Luna 自动处理 $50 以内、30 天内送达且有照片的破损/缺陷/错发请求,其余生成审批卡交人工决定。
Appwrite 发布教程,用 Appwrite Functions 构建权限感知的 AI copilot:CRM 助手 Scout 以登录用户的 JWT 运行,而非 API key,因此每次工具调用都受行权限与团队角色约束,同一问题不同用户会得到不同答案。
WorkOS 发布了一份面向 SaaS 应用的 AI agent 权限清单,按设计、构建、上线、运营、撤销五个生命周期阶段组织,每项都写成可检验的规则。清单要求每个 agent 拥有独立身份、绝不传递用户会话或访问令牌,委派型 agent 的权限取 agent 上限与用户权限的交集,每次工具调用都要鉴权,不可逆或外部操作需带外人工批准,并记录 agent 与用户双重身份。
OpenAI 发布由 GPT-6 Astra 驱动的智能体 Dots,可自主使用云端电脑完成任务,并集成 ChatGPT、Slack、Teams 等 4000 多个应用。
OpenRouter 发布指南,讲解 prompt、模型、工具定义或检索设置变更后如何对 AI Agent 做回归测试:每次重跑一套锁定的用例,并对照书面行为契约检查结果。
GPT-6.1 Sol 现已在 Amazon Bedrock 正式可用,定位为 GPT-6 Sol 的升级版,面向 agentic 编码、computer use 和专业工作负载。
推荐理由:AWS 官方说明 GPT-6.1 Sol 在 Bedrock 上线后的推理成本与数据保留策略,供选型时比较。
Simon Willison 在 9 月 29 日的博文中提到 GPT 6.1 Sol,称其具备接近 Astra 的智能水平,而价格仅为后者的五分之一。原文未给出具体费率、版本细节或可用性信息。
Perplexity Computer 推出 Automations 功能,可记住上下文、执行操作并持续推进任务。该功能在 Product Hunt 的 AI 分类下发布,官方描述为「能记住、能行动、让工作持续向前」。
Cohere 发布 Embed 5 系列嵌入模型,分为 Embed 5 Pro 和 Embed 5 Fast 两档,均支持 128K 上下文、文本与图像输入、100 多种语言和多种压缩输出格式。
推荐理由:Cohere 发布 Embed 5 系列,给出 Pro 与 Fast 两档的定价、共享向量空间和跨模型检索数据,便于评估检索栈成本。
Replit Agent 让核心循环自行决定子代理的层级与投入程度,而非用路由器预先选模型。在 DeepSWE 和 Terminal-Bench 上,Replit Agent 对 GPT-6 Astra 达到帕累托效率,比单一长期 worker 的 sidekick 架构高 11 和 16 分。
Simon Willison 在旧金山 Fort Mason 现场直播 OpenAI DevDay 2026 主题演讲,OpenAI 发布了名为 Dots 的个人 Agent 产品,由 Astra 模型驱动,ChatGPT Pro 和 Enterprise 用户当天可用,并配套推出 ChatGPT Space 供团队协作。
推荐理由:现场记录 OpenAI DevDay 全部发布,涵盖 Dots、GPT-6.1 Sol、Ultrafast 与 Sign in with ChatGPT 等开发者可直接接入的能力。
OpenAI 发布 GPT-6.1 Sol,面向编码、电脑操作和专业工作场景,能力接近 Astra。其标准 API 输入与输出 token 价格均为 Astra 的五分之一。
推荐理由:OpenAI 发布 GPT-6.1 Sol,主打接近 Astra 的编码与电脑操作能力,API 价格降至其五分之一。
OpenAI DevDay 2026 公布了 20 多项发布,涵盖 GPT-6 Astra、ChatGPT、Codex、API、安全以及面向开发者的新工具。官方以回顾形式汇总了这些更新,供开发者了解本次 DevDay 的全部发布内容。
Meta 已转向新旗舰模型 Muse Spark,并把 Llama 系列模型搁置,Muse Spark 是多模态推理模型,但改为闭源专有,无法从 Hugging Face 下载或在本地运行。
OpenRouter 对比了 Veo 3.1、Seedance、Kling 和 Grok Imagine Video 四条图生视频模型线的分辨率、时长、首尾帧控制与价格。
Stripe 为 Link 的 agent 钱包推出三项改进:支持增量授权,让 agent 在税费、运费等导致最终价格变化时申请更高授权额度;开放基于 Financial Connections 的消费洞察,让 agent 在用户授权下分析购买历史做推荐;并为符合条件的交易提供购买保护。
推荐理由:Stripe 为 AI agent 购物场景补上增量授权、消费洞察与购买保护,做 agent 支付的开发者可据此调整结账流程。
Ollama 在 0.35 版本中加入基于 TypeSafe Jev API 的决策模型支持,通过新的 /v1/systemone 接口把文本作为 state 连同若干命名问题一次性提交,由本地模型在一次请求中全部作答,无额外费用且本地运行延迟更低。
Cloudflare AI Gateway 上线 User Insights,可按任务归类对话、追踪对话轮次,并对比模型匹配度与成本、延迟。其中的 Potential Savings 视图会标出那些换用更快或更便宜模型、输出质量可能不受影响的请求,这些信号与 Cloudflare Auto Router 选模型所用的一致。该功能对所有 AI Gateway 客户免费开放。
OpenAI 的 GPT-6.1 Sol 已在 Vercel AI Gateway 上线,相比 GPT-6 Sol 在编码、computer use 和专业工作场景上有所提升,可读取复杂文档并执行多步工作流。
推荐理由:Vercel AI Gateway 上线 OpenAI 新模型,并给出模型名与 CLI 接入方式,方便开发者评估是否切换。
MCP 官方 TypeScript SDK 2.1.0 发布,为 2026-07-28 规范中的授权加固落地代码:@modelcontextprotocol/client。
OpenAI 推出 dots,一种可跨复杂项目与日常任务持续推进的主动式助手。官方称 dots 能在工作推进的同时让用户保持掌控。
Simon Willison 发布 llm-anthropic 0.30,新增对 Claude Sonnet 5.5 的支持。
Anthropic 发布新模型 Claude Sonnet 5.5,官方称其运行速度快 30% 以上,多数任务成本最多降低 30%,定价与 Sonnet 5 相同但在各项基准上表现更好。
llms.txt 是一项面向 LLM 的提案标准,用 Markdown 给 AI 爬虫列出网站最重要的内容,帮它们绕开 JavaScript 渲染和冗余导航。发布该文件的域名从 2025 年 7 月的 951 个增至 2026 年 9 月的 16,670 个,约 14 个月增长 17.5 倍,但尚无任何模型厂商确认使用它。
Claire 在 How I AI 中测试 TypeSafe AI 的决策模型 Jev,它返回结构化选项、分数和概率而非生成文本,每百万输入 token 收费 4 美分且不收输出 token 费用。
Claire Vo 实测了 TypeSafe AI 的新决策模型 Jev,它返回类型安全的结构化值(选项、分数、概率)而非生成文本,定价为每百万输入 token 4 美分且不收取输出费用。
H 公司发布 Holo4 系列 agentic 模型,含 27B dense 与 35B-A3B MoE 两个版本,已在 H Models API 上线,权重以 BF16、FP8、NVFP4 和 4-bit GGUF 格式开源在 Hugging Face。
推荐理由:Holo4 同时支持 GUI、代码、MCP 与 API 四种接口,并公开了 OSWorld 2.0 分数与逐条轨迹,便于对比通用 agent 的跨界面能力。
NVIDIA 发布 OpenShell,为 AI Agent 提供运行时控制能力。AI Agent 可被赋予目标、编写代码、调用工具,并在新信息出现时持续工作,适用于排查软件故障、运行实验以及执行跨天或跨周的关键业务操作与研究。这类 Agent 需要访问工作区、计算资源、数据、凭证和外部服务。
Muse AI Agent 代 @matt.j.robb 处理 MX Keys Mini 面交时,买家 Usman 9:15 到场等候,9:27 收到"Yep I'm here!"的自动回复,但实际无人下楼,他 9:38 愤怒离开并留下差评。Agent 已用账号发去道歉并提出改日再约,同时建议停止在无法核实的情况下用自动回复承诺卖家在场。
Twilio 发文梳理印度呼叫中心 AI 智能体的能力边界:Meesho 的语音机器人每天处理 6 万通印地语和英语来电,支持成本降 75%;Bajaj Finance 称 AI 语音与文本机器人已承接 71% 的自助服务量,成本约为人工的三分之一。印度 RBI 的 FREE-AI 委员会提出 26 项建议,要求告知用户在与 AI 对话、由人工处理 AI 决策投诉并保留转人工通道,但尚无强制效力。
开源 agent Hermes 可通过内置消息网关把 AI 助理接入 WhatsApp、Telegram、Slack、Discord、Signal 等应用,配合 Upstash Box 的 keep-alive Medium 实例(4 vCPU、8 GB RAM,固定 $16/月)实现常驻运行。