Replicate 上线 NVIDIA L40S GPU,并公布 A40 迁移时间表
Replicate 为支持的硬件类型新增 NVIDIA L40S GPU,速度比 A40 约快 40%,并将在未来几周内把现有模型和部署从 A40 迁移到 L40S。
推荐理由:Replicate 官方公布 L40S 上线与 A40 迁移时间表,并给出私有模型与公开模型两类计费差异。
域名注册与续费、DNS、静态托管与对象存储:一笔笔小额固定支出,决定了产品的毛利底线。
Replicate 为支持的硬件类型新增 NVIDIA L40S GPU,速度比 A40 约快 40%,并将在未来几周内把现有模型和部署从 A40 迁移到 L40S。
推荐理由:Replicate 官方公布 L40S 上线与 A40 迁移时间表,并给出私有模型与公开模型两类计费差异。
Paddle 发布保存支付方式功能,客户可在结账时勾选保存支付方式,下次购买时通过 Paddle.js 直接展示已保存的支付方式。支付方式以新的 saved payment method 实体挂在客户下,拥有以 paymtd_ 开头的独立 Paddle ID,可通过 API 列出、获取和删除,并新增保存或删除事件;客户可在 customer portal 查看和删除。
推荐理由:Paddle 新增保存支付方式能力,开发者可据此改造结账流程,减少回头客重复填写卡信息。
Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。使用方式是上传批量文件、处理完成后下载输出文件,适用于客户反馈与情感分析、文档批量摘要与翻译、为搜索索引生成向量嵌入以及数据标注等场景。该接口覆盖 La Plateforme 上的全部模型,每个工作区最多 100 万个进行中的请求,后续将登陆其云服务商合作伙伴。
推荐理由:Mistral 在多家 API 涨价背景下推出批量接口,成本比同步调用低 50%,可对照自己的批量任务量评估迁移。
Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置的优化推理微服务,基于 Text Generation Inference 和 Transformers,可在自有基础设施上部署开源模型。
推荐理由:Hugging Face 官方发布零配置推理微服务 HUGS,给出定价与支持模型清单,可对照自建推理方案的成本与迁移路径。
Upstash 以 KV、Vector 和 QStash 三个核心产品加入 Vercel Marketplace,提供集成计费、自动开通账号,并可在 Vercel Dashboard 内直接访问 Upstash 控制台。
推荐理由:Vercel 官方说明 Upstash 三个产品接入 Marketplace 并替代 Vercel KV,涉及迁移安排与计费方式。
Stability AI 的 Stable Diffusion 3.5 已在 Replicate 上线,提供 Large、Large Turbo 和 Medium 三个版本,Large Turbo 只需 4 步即可生成高质量图像。
推荐理由:Replicate 上线 Stable Diffusion 3.5 三个版本,并给出每张图价格与商用授权门槛,便于开发者评估接入成本。
Vercel 为 Vercel Functions 推出 in-function concurrency 公测,允许单个函数实例同时处理多个调用,利用等待后端响应的空闲时间,最高可降低 50% 计算成本。
推荐理由:Vercel 官方说明 in-function concurrency 如何让单个函数实例并行处理请求,并给出最高 50% 成本下降的实测口径。
Vercel 宣布 in-function concurrency 进入公测,允许单个函数实例并发处理多个调用,官方称重叠调用可提升 20%-50% 的效率,减少 GB-小时并降低成本。
推荐理由:Vercel 官方说明函数并发进入公测,并给出 20%-50% 的效率区间与 CPU 密集场景的延迟代价。
OpenAI 发布 Realtime API,开发者现在可以在自己的应用中构建快速的语音到语音体验。该 API 面向需要实时语音交互的应用场景,具体定价与接入方式未在摘要中说明。
推荐理由:OpenAI 发布 Realtime API,开发者可据此在应用中接入语音到语音的实时交互能力。
Cloudflare 宣布所有站点现在都能使用 AI Audit,用于汇总已知 AI 服务的抓取行为。该功能可查看爬虫访问频率和哪些内容最受欢迎,拦截特定 AI 机器人,并通过自动 WAF 规则执行 robots.txt 策略。
推荐理由:Cloudflare 全站开放 AI Audit,可查看 AI 爬虫抓取频率并拦截指定机器人。
Vercel 发布 AI SDK 3.4,为这个用 JavaScript 和 TypeScript 构建 AI 应用的开源工具包加入语言模型中间件、数据流协议、结构化输出、多步调用、追踪改进和 mock 模型测试等能力。
推荐理由:AI SDK 3.4 新增语言模型中间件、数据流协议与多步调用,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
Paddle 发布了一款 Next.js SaaS 订阅计费脚手架,可在 Vercel Marketplace 一键部署,也可从 GitHub 部署到其他环境,演示地址为 paddle-billing.vercel.app。
推荐理由:Paddle 官方发布订阅计费脚手架,把定价页、结账、用户管理和 webhook 同步打包成可直接部署的模板。
Replit 发布 AI 系统 Replit Agent,用户只需几句话、几分钟就能把应用从想法做到部署。Agent 会配置开发环境、安装依赖并执行代码,可在笔记本或 Replit 移动端使用。目前该功能以 early access 形式向所有 Replit Core 订阅者开放,官方称其仍属 alpha 软件,并列举了医生健康看板、校园停车地图、替代 Zapier 或 Make 等用户案例。
推荐理由:Replit 官方介绍 Agent 的发布与早期案例,可了解 AI 应用构建工具当前能做到什么程度。
Supabase 宣布成为 Vercel 官方 First-Party Integrations 之一,开发者可以直接在 Vercel 面板创建、管理和删除 Supabase 数据库,凭据自动注入 Vercel 环境变量。
推荐理由:Supabase 与 Vercel 打通后可在 Vercel 面板直接建库并合并账单,方便评估这套组合的落地方式。
Fly.io 宣布对签订支持合同的客户实行 Accident Forgiveness 政策,出现意外扣费可申请退款,几乎不追问原因,且未设退款次数上限。该政策目前仅面向有支持合同的客户,公司称因欺诈风险(尤其是加密货币挖矿)将逐步推进,并计划后续推出在计费前拦截异常部署的 Accident Protection。
推荐理由:Fly.io 把云账单意外扣费可退款写成正式政策,读者可据此评估多云部署的财务风险。
Supabase Auth 发布三项更新:支持 Auth0、AWS Cognito(含 AWS Amplify)和 Firebase Auth 作为第三方认证提供方,开发者不再需要手动转换 JWT 格式,且这些提供方均可在 Supabase CLI 中免费测试集成。
推荐理由:Supabase Auth 一次上线第三方认证、手机 MFA 与 Auth Hooks 三项能力,可据此评估迁移与自建短信通道的可行性。
Supabase 发布 database.build(原 postgres.new),一个在浏览器内运行的 Postgres 沙盒,每个数据库配一个大语言模型(当前为 GPT-4o)。
推荐理由:Supabase 把 PGlite 与 GPT-4o 组合成浏览器内 Postgres 沙盒,展示了 AI 直接操作数据库的交互方式。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。
推荐理由:OpenAI 在 API 中上线 Structured Outputs,模型输出可按开发者提供的 JSON Schema 返回,便于构建稳定的结构化数据流程。
Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1,可用一行代码在云端调用。FLUX.1 分三个版本:FLUX.1 [pro] 每张 $0.055,FLUX.1 [dev] 每张 $0.030,FLUX.1 [schnell] 每张 0.003 美元,其中 [schnell] 采用 Apache 2.0 许可。
推荐理由:Replicate 官方上线 FLUX.1 并给出三个版本的单张价格,读者可据此比较接入成本。
Hugging Face 为 TGI 推出 Multi-LoRA serving,只需部署一次基础模型,就能按请求动态切换多个 LoRA 适配器,官方示例用 mistralai/Mistral-7B-v0.1 同时服务 predibase/customer_support 和 predibase/magicoder。
推荐理由:Hugging Face 官方介绍 TGI 的 Multi-LoRA 部署方式,给出成本与用量对比,适合评估多模型推理方案。