2026 年五家 LLM 网关成本对比:OpenRouter 5.5% 充值抽成与按请求计费陷阱
StackOps Labs 对比 OpenRouter、Cloudflare AI Gateway、Portkey、LiteLLM 和 Helicone 五家 LLM 网关,在每月 $10,000 token 花费、500 万次请求下,月成本从 Cloudflare AI Gateway BYOK 模式的 $5 到 OpenRouter Standard 的 $550 不等。
StackOps Labs 对比 OpenRouter、Cloudflare AI Gateway、Portkey、LiteLLM 和 Helicone 五家 LLM 网关,在每月 $10,000 token 花费、500 万次请求下,月成本从 Cloudflare AI Gateway BYOK 模式的 $5 到 OpenRouter Standard 的 $550 不等。
Daily 旗下 Pipecat 团队训练的 PhoneLLM Mini(@cf/daily-co/phonellm-mini-alpha-2)已在 Cloudflare Workers AI 上线,面向语音代理等实时 AI 应用。
一位独立开发者复盘自己做中文 AI 创作平台半年踩到的 4 个反直觉工程坑,并给出实测数据。同一图片编辑模型 Seedream V5 Pro 在三家托管商上的内容策略拒绝率分别为 0%。
Cloudflare 与 OpenAI 公布 2026 年 7 月启动的 AI 发现研究试点早期结果,该试点覆盖 Cloudflare 约 1% 的网络,已让 OpenAI 发现并索引数亿个新网页。
推荐理由:Cloudflare 与 OpenAI 的抓取试点公开了早期结果,涉及站点被 AI 发现与抓取负载的取舍。
开发者发布 Fantasy Manager,一个跑在 Cloudflare Worker 与 GitHub Actions 上的无服务器梦幻橄榄球 Agent,用 Google Gemini 分析 ESPN 联盟数据、NFL 深度图表、Sleeper 趋势与 RotoWire 突发新闻,并通过 Discord Webhook 推送阵容调整建议。
一位开发者把自己散落在 VPS 上的 Monk API、Cloudflare Worker 临时邮箱和面向咖啡厅的 Token 服务,用 Claude Opus 5.5 整合成统一的 Monk 宇宙入口,耗时约 3 小时。他表示 UI 效果、交互动画和游戏化体验都远超预期。
独立开发者用 Grok Bot 的多个 agent 机器人替自己运营 PromptBase 一周,包括用 Gmail 回客服邮件、写代码、监控 Cloudflare 和服务器日志。
Cloudflare Agents SDK 新增 browserTool,让 agent 获得一个可在后续轮次返回的 Browser Run 浏览器,标签页、cookies 和登录会话保持完整。
推荐理由:Cloudflare Agents SDK 新增持久化浏览器工具,会话跨轮次保留标签页与登录态,适合做浏览器自动化的开发者了解接入方式。
开发者用 muse.ai 通过 Cloudflare CLI 部署了一个 Telegram 关键字监控 bot,监听 channel 新消息并按关键字转发到 forum 对应 topic,关键字列表用 1 条 KV 保存。
Xtract 在 AI agent 与网页搜索之间加一层评分:为每条结果打上任务有用性和阅读价格,agent 只读值得读的页面。在 6 个文档任务测试中,Xtract 花费 9.9¢、naive agent 为 26.7¢;15 家公司销售调研中每查询读 3.1 页而非 10 页,成本 10.3¢ 对 26.6¢。
Reddit r/SaaS 用户 TaxBowl 称自己不断开发微软件,正在逐日替代公司大部分付费工具,并把原本 $30/mo 的 Hostinger 托管换成 $5/mo 的 Cloudflare Workers,改为按需 serverless 运行自定义图片 PDF 编辑流程。他认为模型持续变强后,企业会用 $20/mo 的订阅让行政、记账人员兼职做流程自动化,进而引发裁员与经济末日循环。
Cloudflare 在 Workers AI 上线 Clef-omni,这是 Clef 系列开放权重决策模型的新成员,可直接接收音频(WAV 或 MP3)和视频(MP4 或 WebM)输入,无需先转录再串联模型。
推荐理由:Cloudflare 在 Workers AI 上线支持音视频输入的 Clef-omni,并下调 Clef-flash 价格,可据此比较各档模型的价格与上下文取舍。
Cloudflare 发布 Clef-omni,可同时接收音频(wav/mp3)、视频(mp4/webm)、图像和文本输入,基于 Qwen3-Omni-30B-A3B-Instruct MoE 架构,已在 HuggingFace 开源权重。
推荐理由:Cloudflare 发布支持音视频输入的多模态决策模型 Clef-omni,并同步下调 Clef-flash 价格、提升 Clef 速度。
Hapsland 能在编码 Agent 工作时自动审查其改动并实时反馈,从 diff 中收集语义上下文,把发现的问题即时发回给 Agent,让它在错误代码扩散前修正。
一位开发者自建网站,用同一批 100 条客服工单(判断该由哪个团队处理)对比 Jev、Cloudflare 的 Clef 和 OpenAI 新 Decisions API 等「决策模型」,公开准确率、速度和预估成本及误差范围。目前发现专用模型比通用 LLM 快 5 到 12 倍,但通用 LLM 答对的工单更多。全部数据集和每个模型的答案以 CC BY 4.0 开放下载,免费且无任何付费项。
SpectroMood 是一个开源实验,把语音转成标注图表和相对说话人平静基线的测量值,再交给 Cloudflare 的 clef-flash 决策模型判断愤怒、恐惧、开心、悲伤或中性。
WorkOS 团队用 ChatGPT 任务作为工作目录、Pi 作为持久化 agent harness,为 init() 系列每篇文章各建一个 Pi 会话,由 Astra 协调、Pi 持有写作上下文与工具。
Cloudflare 的 Matt Carey 在 WorkOS init() 上演示了如何为每个 agent 提供独立工作区与浏览器:用 Durable Object 承载持久化的 Pi agent,配合 @cloudflare/computer 提供有状态工作区,再用 Kitesurf 浏览器在 isolate 内完成抓取与截图。
Stripe 的 Rami Banna 在 WorkOS init() 上演示让编码 Agent 通过 Stripe Projects 自动开通 WorkOS 账号和凭证,把原本卡在注册表单的一步移进 Agent 运行流程。
降低 SaaS 应用 LLM API 账单的做法是:常规的候选人-评分标准提示走小模型,结构化答案不确定时再用大模型重试一次,非紧急处理放进批处理,路由决策保留在 Node.js 应用代码里。
EmDash 官方插件目录的每个插件收录现在都由 Cloudflare 的 Clef 决策模型审核,检查元数据、外链、图标和截图是否存在钓鱼、冒充、冒犯内容、诈骗及操纵审核行为。
OpenComputerUse 是一个以 MCP 服务器形式运行的开源项目,让 Agent 在后台驱动应用,用户的鼠标、键盘焦点和最前台应用不受影响。它通过 start_session 启动应用并返回 session id,支持截图、UI 树、点击、输入等工具,并可用 run_recipe 执行固定步骤。
TechCrunch 报道,Meta 的 Muse、Instinct、ChatGPT 的 Dots 等个人 AI agent 在替用户下单时频繁被网站拦截,Amazon 已明确阻止 Muse 访问其零售站点,Walmart 的拦截则源于人机验证按钮被中断。
一位写了 18 年代码的开发者称,Claude Code 中的 Opus 4.5 让他彻底转向用提示词写代码,不再手写。Filestage 团队每月合并 PR 从约 200 增至 300,bug 报告未增加,每位开发者每月 AI 订阅费 $20,工具可选 Codex、Claude Code 或 Cursor。他认为 LLM → 高层表示 → 确定性编译器 → 机器码的路径仍成立,抽象依然重要。
Cloudflare 在 Workers AI 上发布两个自训练决策模型 Clef 和 Clef-flash,并在 Hugging Face 以 Apache 2.0 协议开源权重,同时推出强化学习微调产品。
Cloudflare Workers AI 团队发布首个自训练决策模型 Clef 和 Clef-flash,已在 Workers AI 上线,权重以 Apache 2.0 协议开源在 Hugging Face。
推荐理由:Cloudflare 首次开源决策模型并给出与 Jev 的延迟和基准对比,可判断是否值得替换现有决策链路。
WorkOS 对比了四款 MCP 网关:Cloudflare MCP server portals 已于 9 月 24 日 GA,Okta Agent Gateway 计划 Q3 GA,Auth0 Agent Gateway 于 9 月 18 日开启 beta,Microsoft Entra MCP firewall 自 8 月起处于 public preview。
Cloudflare 为 AI Gateway 的 User Insights 新增模型过度使用识别功能,可看出模型能力超出任务所需,并定位是哪些用户、Agent 或应用在推高用量。
Cloudflare 在 AI Gateway 中发布 Auto Router 公测,把模型设为 cloudflare/auto 后,网关会按任务自动选择能力足够的模型。
推荐理由:Cloudflare 官方发布 Auto Router 公测,并给出内部基准的成功率与单次成本对比,可据此判断路由省钱的幅度。
Cloudflare AI Gateway 上线 User Insights,可按任务归类对话、追踪对话轮次,并对比模型匹配度与成本、延迟。其中的 Potential Savings 视图会标出那些换用更快或更便宜模型、输出质量可能不受影响的请求,这些信号与 Cloudflare Auto Router 选模型所用的一致。该功能对所有 AI Gateway 客户免费开放。
WorkOS 指出,移除 MCP server 直接调用 API 后,没有任何东西替代被删掉的授权层:Agent 退回 shell 里的长期密钥,凭证的 audience 校验和人工审批记录一并消失。
Upstash 在 2026 年 9 月按各家文档和定价页对比了 15 家 AI agent 沙箱,维度包括隔离方式、冷启动、计费口径、会话上限、暂停后保留的内容、内置 agent 工具、部署与开发者体验。
推荐理由:15 家 AI agent 沙箱按隔离、计费、持久化与 agent 工具逐项对比,并给出一个按小时算成本的实例。
Sierra 的 Mihai Parparita 发布内部 MCP gateway 实战笔记:89% 员工已能在一个页面把 agent 接入 45 项服务,但真正卡住上线的是授权而非协议。其核心是多轮分类器推断 Slack、内部文档等无元数据来源的客户归属与敏感度,配合按工具而非按服务器的权限校验和全量审计日志,跨客户访问需带外人工审批。
Neon 基于 auth.md 构建了 Claimable Neon,让没有 Neon 账号的 Agent 匿名注册并开通一个临时 Postgres 项目,继续开发后再由人认领。
Cloudflare Containers 现在可为 OpenAI Agents API 提供自托管执行环境,OpenAI 负责会话、编排、上下文压缩与恢复。官方开源了 OpenAI Agents API Workers 模板作为参考实现,每个 Codex 会话对应一个 Container,任务进行中保持运行、后续输入自动重连、空闲时自动关闭。
Cloudflare AI Gateway 的自定义成本现已支持缓存读取与缓存写入 token 费率,可在 cf-aig-custom-cost header 中新增 per_cache_read_token 或 per_cache_write_token,让自定义成本指标反映与各供应商谈定的缓存价格。
WorkOS 团队实测发现,ChatGPT Codex 每周额度用尽后,花 $40 买 1,000 credits 得到的 token 单价与 API 标准价完全一致,但速度更慢。
推荐理由:作者用盲测对比 Codex 订阅通道与 API 通道的速度和成本,给出额度用尽后的替代方案。
Cursor 上线自托管机器(self-hosted machines),让工具执行完全留在用户自己的网络内,代码库、构建产物和密钥都保存在自有基础设施的机器上,由 agent 在本地处理工具调用。
推荐理由:Cursor 把工具执行放进用户自有网络,代码与密钥不出内网,团队可按需扩缩自托管 worker。
Cloudflare AI Gateway 的月度用量账单现在按模型只显示一条总费用,不再拆分输入、输出 token 数量与单价,但 AI Gateway 额度购买的账单不受影响。
Cloudflare AI Search 现已支持 @cf/zai-org/glm-5.3-flash 用于文本生成,该模型拥有 1,048,576 token 上下文窗口,运行在 Workers AI 上。为 AI Search 实例配置该模型可参考官方 Supported models 文档。