跳到正文

主题:模型价格与额度

今日 49 条
10月12日周一
  1. Reddit r/SaaS42

    GuardrailX 如何为 enterprise 客户解决 LLM API 成本问题:架构拆解与真实生产数据

    GuardrailX 联合创始人分享其 LLM 网关的语义路由方案:3,571 条生产请求中,2,321 条被自动路由到轻量模型(成本 $1.73),1,250 条走旗舰模型(成本 $70.55),实际支出 $72.28 而非 $156.78,节省 $84.50、约 54%。该代理层用 LLM-as-a-Judge 异步抽检,质量低于 95% 等价阈值时自动将全部流量回退到旗舰模型。

  2. The Rundown AI18

    Atomic Machines 结束六年隐身:用 AI 工厂把代码变成微型机器

    前 Uber 自动驾驶负责人 Jeff Holden 创办的 Atomic Machines 结束六年隐身,累计融资 $250M,其 AI 工厂可把数字设计直接变成微型机器。首款产品 PrimeSwitch 是面向 AI 服务器机房的指尖大小电源开关,号称比传统断路器更快、比硅更高效。目前仅用于自产产品且保留人工介入,目标是实现“提示到产品”的硬件制造。

  3. V2EX 最新主题34

    从 magpie 网关看未来软件形式:插件由用户自己的 agent 开发

    X 上一个叫 magpie 的 AI 网关几天内冲到 10k stars,它支持自定义插件,用户可让自己的 agent 按需开发插件,协议转换、翻译层等难点仍由作者维护。作者认为未来软件是开源作者或社区维护的坚实底座,插件开发文档与软件一并发布并放在显眼位置,用户用自己的 agent 说需求即可生成插件。dsh 虽是一切皆插件,但底座不扎实、插件开发文档不完善,官方也给不出自进化演示。

  4. Hacker News Show HN52

    whatmodel:按本机内存和 GPU 查询可本地运行的 AI 模型榜单

    开发者 jakemanger 发布开源站点 whatmodel,输入 RAM 和 GPU 即可查看本机可本地运行的模型排名及运行命令,并可与 API 模型在同一评分下对比。每个模型的分值由 18,731 条已公开基准结果拟合得出,每条结果附来源链接,评分方法、数据和基准脚本已在 GitHub 开源,用户也可提交新模型与基准分数。

  5. V2EX 最新主题41

    Codex 中 GPT-6.1 Sol 默认上下文升至 500k,你的客户端生效了吗?

    Tibo 宣布 GPT-6.1 Sol 在 Codex 和 Work 中的默认上下文从 272k 提升到 500k,其他模型保持不变。有用户实测界面仍显示 258k,单独为 Sol 配置 500k 后显示 475k,并已核对会话记录确认生效。若界面未更新,可让 Codex 备份配置后仅将 GPT-6.1 Sol 上下文窗口设为 500000,再重启验证。

  6. Reddit r/SaaS28

    用 AI 分析 200 份 B2B 客户合同后,发现代理公司创始人未读就签的 4 类有毒条款

    有人用自建 AI 工具 ContractGuard AI 审计了 200 多份企业客户标准合同,发现近 70% 至少含一条危险条款:无上限赔偿(标准责任以 12 个月费用为限,赔偿却无上限)、宽泛的雇佣作品条款(夺走代理公司既有模板、starter kit 和内部 UI 库)、以及 60 天自动续约陷阱(除非在 30 天窗口内取消,否则自动续 12 个月)。

  7. Hacker News Show HN58

    gen-system:为本地 LLM 解析代码事实并生成可编译 Go 服务

    gen-system 用每种语言一个手写解析器构建语法树、符号索引、调用图和每个例程的控制流图,解析步骤不涉及模型,同一份代码始终得到相同的图。生成部分用 qwen3:14b 规划 Go 服务、qwen2.5-coder:14b 编写每个操作,每个操作必须单独编译通过才能进入服务文件,两次修复仍失败则变成 not implemented 桩并计入统计。

  8. Reddit r/SaaS15

    Reddit 讨论:用 Claude 写全部代码的年轻 vibe coder 有未来吗?

    Reddit r/SaaS 上有用户发帖,询问千禧一代或较年长 Z 世代开发者如何看待用 Claude 写全部应用代码的年轻 vibe coder。发帖人提出两个疑问:这样能否建立良好的代码感觉、这种路径是否有未来,以及在不会写代码的前提下调试是否可行。他自称观点矛盾,希望被挑战并改变自己的保留态度。

  9. Reddit r/SaaS34

    给 SaaS 新手引导流程加 AI 的 5 条教训:合并流程、砍掉 2 万行代码

    一位开发者在为所在 SaaS 产品的新手引导加 AI 层时总结出 5 条教训:把三条流程合并成一条并删掉 2 万多行代码;首条回复从 2 分 18 秒降到约 48 秒;原本静默使用的高价模型单条回复要 105 秒,换成更快更便宜的模型后解决大部分问题。他还强调 AI 未经审核曾往用户资料里写入 9 条记录,如今只生成草稿、保存必须由用户点击,且服务端会校验每条回复是否真的执行了操作。