Show HN:独立 LLM 基准指数,追踪 22 个前沿模型
一个独立 LLM 基准指数上线,追踪 22 个前沿模型,每日更新实测数据,覆盖 Anthropic、OpenAI、Google、DeepSeek、Alibaba 等厂商。
一个独立 LLM 基准指数上线,追踪 22 个前沿模型,每日更新实测数据,覆盖 Anthropic、OpenAI、Google、DeepSeek、Alibaba 等厂商。
Baremetrics 推出 MCP(Model Context Protocol)接入,让 Claude 用自然语言查询真实账户里的 MRR、churn、客户、订阅、套餐与扣款数据,所有端点均为只读,无法修改套餐或取消订阅。
ChurnZero 的 2026 客户成功领导力研究调查了近 600 位 CS 与营收负责人,发现 AI 成熟度更高的团队中 65% 报告 NRR 达到 100% 或以上,而 AI 成熟度最低的团队这一比例仅为 39%。研究还显示,63% 的 CS 负责人没有一致的方法追踪 AI 影响,且不衡量 AI 的团队需要人工审批每条建议的可能性高出 4 倍。
TypeSafe AI 推出决策模型 Jev,输入文本或 JSON 状态与带类型的问题,一次推理即可返回选择、评分或概率答案,约半秒完成且不生成文本,定价为每百万输入 token $0.042、输出免费。
Bold Agent Kit 分析约 14,000 通来电发现,人工接待的入站转化表现约为 AI 接待的 4 倍,其中 6,343 通由 AI 处理、约 7,657 通由人工处理。AI 处理的话务中,未取得实质进展即挂断的比例高出 700%;人工接待的漏接电话则比 AI 多约 15%。该研究援引 a16z 于 2026 年 10 月 9 日发布的报告称,全球呼叫中心就业增长已转为负值。
Graphite、LLM Pulse 等监测方发现,自 10 月 9 日起 ChatGPT 引荐到站点的会话在 GA4 中下降 22% 至 57%,Graphite CEO Ethan Smith 估算较此前基线约降 45%。
INVAR 发布案例研究:虚构 B2B 软件公司 Fernwell 的数据分别交给纯 Claude 和 INVAR,两者均运行 Claude Opus 5.5。纯 Claude 只找出 5 个植入问题中的 2 个,INVAR 找出全部 5 个,另有 2 个低置信度真实问题,0 误报、0 红鲱鱼。INVAR 提供 30 天免费试点,15 分钟内只读接入,结束后 5 天内删除数据。
OpenAI 似乎已移除或替换 ChatGPT 结果中链接上的 UTM 参数,这一变化大约从一周前发布的 GPT-6 开始,使网站更难判断点击是否来自 ChatGPT。
Tiger Data 在六天内用 Claude 跑了 41 次实验(17 次采纳、24 次回退),把长期对话记忆在 LoCoMo 基准上的 F1 从 0.392 提升到 0.666,原始 F1 为 0.638,此前公开最好成绩是 0.598。
一个测试框架用 500 次运行(5 条模型路由 × 10 个故障用例 × 10 次重复)对比了 LLM 在写入超时后是否重复写入。
Ahrefs 分析了 2026 年 8 月至 9 月 6660 万条免费、未登录的 GPT-5.6 Luna 回答及其 1500 万条 fan-out 查询,发现只有 14.4% 的回答触发了联网搜索,搜索时平均运行约 1.6 条 fan-out 查询。
推荐理由:基于 6660 万条免费会话与 1500 万条 fan-out 查询,量化了 ChatGPT 检索与引用来源的走向。
一位开发者自建网站,用同一批 100 条客服工单(判断该由哪个团队处理)对比 Jev、Cloudflare 的 Clef 和 OpenAI 新 Decisions API 等「决策模型」,公开准确率、速度和预估成本及误差范围。目前发现专用模型比通用 LLM 快 5 到 12 倍,但通用 LLM 答对的工单更多。全部数据集和每个模型的答案以 CC BY 4.0 开放下载,免费且无任何付费项。
一位开发者用 Claude Code 和 Codex 一个月记录约 3.73 亿 token,其中 90% 以上是缓存读取,按已发表研究估算耗水约 47.8 升,误差范围上下各 5 倍。发电用水约占中位估算的 88%,现场冷却只占小部分;模型选择比提示长度更影响足迹,且没有厂商公布每 token 能耗。作者开源了免费 CLI 供他人核算自身用量。
Token Barometer 在 Hacker News 发布,按日追踪 1,302 个模型、3,592 个托管服务的 LLM API 标价,统一换算为每 1M tokens 的美元价格,并保留完整价格历史。
一位经营六家餐厅的 Reddit 用户在 r/SaaS 发帖,质疑供应商宣传的 AI 预测软件是否真能超越其运营总监用去年数据和天气 App 做出的判断。这些软件宣称可预测客流并削减人力成本,但没人给出相对基线的准确率。他想知道是否有人认真评估过这类工具、并确认它真的改变了经营数字。
Amplitude 复盘了自家 MCP server 的工具整合过程:最初每个 API endpoint 对应一个工具,到 6 月连接服务器要加载 96 个工具,有客户用 200K 上下文窗口的 Sonnet 时,仅连接就占掉 57%。
开发者发布了一款模拟器,可从 Apple 现役 Mac 机型(MacBook Neo 到 Mac Studio)中任选一台,再选一个开放模型,估算其能否装进内存以及读写速度(tok/s),并给出与其他机型和模型的对比。
2026 年 8 月 22 日 BTCUSDT 在 Binance 15 分钟内下跌 2.3%,Polymarket 的「BTC Up or Down」市场在 Binance 突破窗口开盘价后数秒内重新定价,「Up」从 0.49–0.63 跌至约 0.10。
Kapa 推出 Company Knowledge Bench,用 1,000 个从真实生产数据标注的 eval case 评测 Agent 在公司知识上的检索效果。测试显示,仅靠 grep 的前沿模型得分 0.61,与调优过的现代检索管线持平但耗时 5 倍;Kapa Deep 约 5 秒达到 0.65。该基准强调完整性、最小性和来源偏好,并指出公开基准因领域过窄或文档合成而不适用于此类场景。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(MAB)为产品获客漏斗做个性化,七周线上 A/B 测试中,一个人群最终漏斗转化率取得高个位数百分比的相对提升,另一个人群则没有改善。
Ahrefs 连续第二年调研 301 名营销人,93% 表示用 AI 创作内容,高于去年的 87%;Claude 以 83.2% 成为最常用模型,ChatGPT 75.7%、Gemini 57.9%。
OpenRouter 发布指南,介绍如何从生产流量构建 golden eval 数据集:用真实用户输入搭配人工审核的预期输出,在 Git 中版本化并在每次部署前运行。数据集规模按任务定,探索单个问题约 10 条,完整回归集 100 到 1,000 条,失败模式覆盖比数量更重要。该指南还介绍如何通过一个 API 将同一数据集跑在多个候选模型上,用自家流量证据而非排行榜选模型。
Pheebs 在 Product Hunt 发布,用于衡量工程师和团队实际如何使用 AI。产品提供 Discussion 与 Link 入口,具体定价、功能细节与可用性原文未披露。
Amplitude 对 TypeSafe 决策模型 Jev 1.13 的测试显示,它在 64 张图表、190 条时间序列的合成分析基准上,与 Luna、DeepSeek V4.1 Flash、GLM-5.3 Flash、Sol 等通用模型对比,速度快、成本低,但准确率存在与 LLM 类似的隐患。
OpenRouter 按用途给出 2026 年 embedding 模型选型清单:英文 RAG 首选 openai/text-embedding-3-small。
Hex 的数据 agent 借助 GPT-6 Astra,把分析答案转成可交互的可视化图表,让员工愿意主动分享。原文未披露价格、套餐或可用性细节。
OpenAI 在 ChatGPT Work 中推出 Data agent,用户可用自然语言连接公司数据、挖掘洞察并构建交互式仪表盘。该功能面向所有人开放,让数据分析不再依赖专业工具。
一项对比 42 个 AI 模型 token 经济性的分析指出,随着 agent 承担更多工作,token 成本很快会成为企业仅次于人力的一大开支。对拥有大量使用编码 agent 工程师的公司来说,预先挑选运行效率更高的模型可以省下可观的费用。
Lago 认为 AI 在 RevOps 中目前真正有效的是跨系统查询、异常提示和例行输出起草,且结果仍需人工复核。它尚不能替代账户策略判断,也无法修复 CRM 与计费系统之间的数据质量问题,只会更快暴露或掩盖不一致。RevOps AI 工具的质量上限由底层计费数据决定,而非 AI 层本身。
Amplitude 正式发布 Agent Analytics,所有 Amplitude 套餐(含免费版)都带一定用量额度,可为每个 Agent 会话自动打分。它内置任务完成率、响应质量、用户意图、会话安全、用户摩擦、负面反馈和数据质量等 Signals,并支持 BYOK 自定义评估与主题聚类。设计伙伴 Cashbook 发现,首次 AI Agent 会话体验差会让留存下降 15%。
PostHog 把语义层建进 context warehouse,用一张可查询的指标表统一 MRR 等定义,让 Claude、Cursor 和 PostHog AI 查同一问题返回同一数字。
Lago 认为生成式 AI 在金融领域目前真正可用的是三类场景:起草催款邮件等常规沟通、把交易数据或合同压缩成可快速浏览的摘要,以及基于干净结构化财务数据的自然语言查询。最危险的失败模式是无依据地生成数字,模型会以同样自信的语气给出错误数据;其次是让生成式 AI 做判断类决策,以及底层数据本身混乱。选型时应追问每个数字能否追溯到可核查的源记录、不知道答案时是否会说不知道、是否有强制的人工审批环节。
Cloudflare AI Gateway 新增 User Insights 面板,可查看组织整体的 AI 成本、请求数、token 与采用情况,并下钻到单个用户的支出、常用模型与提供商、缓存命中率。
Castform 联合创始人 Ying Hang Seah 表示,把 Castform 指向 Neon 可跳过数据清洗与大规模检索基础设施两道门槛,让团队数据库里的原始数据直接变成可用训练数据。其称多数团队最好的训练数据一直躺在自家数据库里,而让 agent 低成本地读取、搜索和修改数据需要高级基础设施。
PostHog 过去 6 个月把月均 PR 量从 1 月的 1,441 个提升到 6 月的 4,725 个,工程人数只增加 10%,目标"每月 10,000 个 PR 很轻松"可能提前到 9 月达成。
OpenRouter 上线 beta 版 Classifiers,可按自定义分类体系为每次生成请求打上结构化标签,用于 AI 用量与成本归因。分类器由分类体系(最多 8 个维度)、分类提示词、分类模型和采样率四部分组成,异步运行不影响推理延迟,并提供部门、受众、任务类型等 6 个预设模板。
OpenAI CFO Sarah Friar 提出一套实用的 AI 记分卡,通过有用工作量、单次成功任务成本、可靠性和算力回报四项指标衡量 AI 的 ROI。该记分卡旨在把 AI 投入产出从模糊感受转为可量化评估。
PostHog 推出 Replay Vision,在会话回放之上加一层 AI,用 summarizer、scorer、classifier 三类扫描器读取全部会话并产生信号,信号进入 Inbox 后由后台 agent 研究并自动开 PR。
Amplitude 用 Agent Analytics 在三天内完成一次模型替换实验:把 Global Agent 生产环境中的 Claude Sonnet 4.6 换成 Gemini 3 Flash,后者输入成本约为前者的六分之一、输出成本约五分之一,单 token 成本降低 5–6 倍。
Amplitude 推出主动式产品 Agent Amplitude Wave,持续分析 Amplitude 数据中的信号,给出产品改进机会、产品规格与验证实验,并追踪后续结果。其内部首版机会反馈好评率约 5%,通过自我迭代已提升至 70% 以上。Amplitude 每天处理近 800 亿事件、每月超 2.5 万亿事件,Wave 在平台全量启用时使用这些行为上下文,并可扩展至外部 MCP 连接。