跳到正文

主题:基础设施与部署

今日 58 条
9月22日周二
  1. WorkOS Blog71

    GitLab.com 10 月 19 日起按订阅层级限流,未认证请求降至每小时 60 次

    GitLab.com 将于 2026 年 10 月 19 日起按订阅层级执行速率限制,未携带凭证的请求按 IP 降至每小时 60 次,Free 与匿名流量先行,Premium 和 Ultimate 在 2027 年 1 月跟进。

    推荐理由:GitLab.com 按订阅层级限流并收紧匿名配额,文中给出受影响工作负载的排查与应对清单。

  2. Vercel News62

    Vercel AI Gateway 上线 GPT-6 Sol 与 GPT-6 Luna

    Vercel AI Gateway 现已上线 OpenAI 的 GPT-6 Sol 和 GPT-6 Luna,两款模型在编码、计算机操作和专业工作上带来 GPT-6 的改进,价格低于 GPT-6 Astra。

    推荐理由:Vercel AI Gateway 上线两款 GPT-6 模型,开发者可据此比较价格与编码、Agent 场景的取舍。

  3. OpenRouter Blog67

    OpenRouter 推出 Batch API,批量请求可享半价推理

    OpenRouter 上线 Batch API,把不需要立即返回的请求打包提交,由服务商在 24 小时窗口内自行选择完成时间,换取通常为正常每 token 价格 50%(有时更低)的折扣,目前支持 70 多个模型。

    推荐理由:OpenRouter 上线 Batch API,用异步换五折推理价,并给出 23 万批次的实际等待时间分布。

  4. Lago Blog22

    Lago:Agent 不是创建它的员工的延伸,计费身份该怎么拆

    Lago 指出,把 AI agent 的用量记到创建它的员工名下是错的:一次请求会牵涉身份、权益、策略、资金、合同、发票六层,各自可能指向不同主体。它建议第一天就在用量事件上记录 principal,并给定价输入加版本戳。文中以 AWS Marketplace 私有报价为例,AWS 预算数据每天最多更新三次、通常间隔 8 到 12 小时,且官方明确说明可能在通知前就已超阈值、通知后仍继续消费。

9月21日周一
  1. OpenRouter Blog36

    Jev 对比 LLM-as-a-Judge:TypeSafe 决策模型与 LLM 评审的实测差异

    TypeSafe 的决策模型 Jev 与 LLM-as-a-Judge 在 2026-09-21 通过 OpenRouter 做了对比测试,整轮花费 $0.041。在 88 条封闭式忠实度样本上,Jev 与标签一致 84 条、LLM 评审 83 条,两者精确率均为 0.98;Jev 概率校准更好,成本为 LLM 评审的 1/5,延迟为 1/10。开放式长文本评分场景下,LLM 评审更贴近专家评分。

  2. Upstash Blog34

    Upstash Redis 支持 Redis 8.8 的 Array 数据类型:与 List 有何不同

    Upstash Redis 现已支持 Redis 8.8 引入的 Array 数据类型,其命令全部可用,并提供 TypeScript 和 Python SDK 支持。Array 由 Redis 作者 Salvatore Sanfilippo(antirez)设计,索引是数据模型的一部分:按索引读取为常数时间,支持稀疏空位,删除中间元素不会移动其他元素,ARRING 可在一条原子命令内完成环形缓冲。

9月19日周六
  1. OpenRouter Blog62

    OpenRouter 实测 Jev 与 LLM:何时用决策模型而非生成文本

    OpenRouter 在 60 张客服工单上对比了 TypeSafe 的决策模型 Jev 1.13 与 GPT Luna、Claude Opus:意图准确率分别为 59/60、59/60、60/60,每 1,000 张工单成本为 $0.0248、$0.0921、$2.88,中位延迟 194ms、1,106ms、1,957ms。

    推荐理由:OpenRouter 用同一批工单对比决策模型与生成式 LLM 的成本和延迟,并给出两条可复用的组合流水线代码。