跳到正文

主题:模型价格与额度

今日 61 条
10月7日周三
  1. Hacker News Show HN22

    Show HN:Vim 风格 LLM 效率工具,20-80k tokens 而非 350k+

    一款 Vim 风格、终端优先的 LLM 效率工具在 Hacker News 发布,早期独立测试者反馈可节省 90%+ API 调用。它通过更小的上下文窗口、客户端压缩、工具压缩和系统提示实现,支持 Vim 键位、Markdown/LaTeX/Mermaid 渲染、按需子代理与线程池,单个 bundle 无需外部依赖,Web 聊天和桌面应用即将推出。

  2. Reddit r/SideProject22

    我做了个 AI 新闻流:Claude 每小时聚合约 30 个来源并生成 ELI5 解读

    一位开发者做了一个 AI 新闻流,每小时由 Claude agent 读取约 30 个来源,包括实验室博客、Reuters、Nature、Quanta、Hacker News 和 X 上讨论最多的帖子,筛选后生成简洁的 ELI5 解读。帖子可浏览、可展开看详情或继续追问,目前仅供个人使用,作者分享出来看是否对他人有帮助。

  3. dev.to · SaaS22

    模型又变了:你的整个产品只是套在模型外面的一副马具

    Hacker News 上一条 86 分的评论称“每个 SaaS 业务都会变成套在模型外面的马具”,作者认为这描述的正是当下处境:模型层是河流,产品只是船。模型一变,针对旧模型调优的 evals、按 token 计算的成本和提示注入防护都会失效,跨境运营还会因第三方 API 依赖、无人值守和 20% 成本波动而放大风险。

  4. dev.to · SaaS8

    AI 工具如何定义内容规模化的效率

    面向需要同时产出博客、视频和图文的独立开发者,一套以 GPT-4 写脚本、DALL-E 生成配图、Lumen5 做视频的 AI 内容流水线,通过 API 与 webhook 串联实现自动生成、优化与跨平台发布。作者称 GPT-4 订阅每月从数百美元起,DALL-E 单张图片约 1 美元起,Lumen5 按套餐分层计价,并强调初期需人工审核与定期审计以控制上下文误读和质量下滑。

  5. dev.to · SaaS62

    模型调用按量计费,多数 AI 功能却按免费来设计

    作者指出托管模型按 token 计费,用量不均、输入大小不可见和循环调用会让账单远超预期,问题往往出在功能设计而非模型单价。他给出的做法包括按价值单位记录每次调用成本、把生成从读取路径移到写入路径并缓存重复请求、精简上下文、把简单任务路由到小模型,以及在代码里设置按用户、按套餐和按 agent 运行的硬性上限。

  6. Google DeepMind Blog62

    Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的端侧多模态嵌入模型,原生支持文本、图像、音频和视频的统一嵌入空间。

    推荐理由:Google DeepMind 发布 740M 参数的多模态嵌入模型,给出端侧内存占用与向量截断方案,可据此评估本地检索管线。

  7. Simon Willison's Weblog36

    Simon Willison 评 EmbeddingGemma 2:Apache 2.0 许可对嵌入模型很重要

    Simon Willison 表示欣赏 EmbeddingGemma 2 采用 Apache 2.0 许可,认为嵌入模型不适合用闭源、仅托管的形式提供。他指出嵌入模型通常要计算并存储成千上万甚至数百万条向量,一旦厂商停供专有模型,用户就得为重新计算这些存量向量付费;2024 年 4 月 OpenAI 曾提出承担用户用新模型重新嵌入内容的费用,但他认为不能指望每家供应商都这么做。

  8. Reddit r/SaaS12

    Reddit 用户提问:AI 记忆功能是否真的让人困扰

    一位 Reddit 用户在 r/SaaS 发帖,抱怨使用 AI 时反复解释自己的偏好、项目背景和已做决定,并询问其他人是否也有同样困扰。他还问用户是否信任 ChatGPT、Claude 等内置记忆功能,是否希望能查看、修改、删除或迁移这些记忆,以及同时使用多个 AI 时各自维护独立用户画像是否令人烦恼。

  9. Vercel News36

    Vercel AI Gateway 新增基于置信度的决策回退

    Vercel AI Gateway 现可在主模型答案触发你设定的置信度条件时,把决策请求升级到回退模型,条件支持组合,覆盖 Choice 与 Score 类问题,Boolean 问题则按概率区间升级。在 providerOptions.gateway.models 中加一个条件对象即可启用,未配置的请求行为不变;触发回退会运行第二次决策,因此两段都计费。该决策回退功能处于 beta 阶段。

  10. Vercel News62

    Google 的 Nano Banana 2.1 上线 Vercel AI Gateway

    Google 的 Nano Banana 2.1 已在 Vercel AI Gateway 上线,相比早期 Nano Banana 模型改进了图像生成与编辑,重点面向产品场景重构、基于蒙版和笔触的局部编辑以及真实性。

    推荐理由:Google 的 Nano Banana 2.1 上线 Vercel AI Gateway,说明了新模型的调用方式与按 Flash 级别计费的定位。

  11. Google Developers Blog62

    Google 发布 EmbeddingGemma 2 开发者指南

    Google 发布 EmbeddingGemma 2,一个基于 Gemma 4 的 sub-1B 开源多模态嵌入模型,采用 Apache 2.0 许可,把文本、代码、图像、视频和音频映射到统一的 768 维空间。

    推荐理由:Google 发布 EmbeddingGemma 2 开发者指南,给出多模态嵌入的加载、截断与选型方法。

  12. Google Developers Blog62

    Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,可将文本、图像、视频帧和音频映射到同一向量空间,参数规模 740M,文本权重最低约 191MB 内存,完整多模态模型在 Google Pixel 11 Pro 上约 567MB。

    推荐理由:Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,开发者可据此评估端侧本地检索的部署方式。