Vercel Functions 推出 in-function concurrency 公测,单个实例可并行处理请求
Vercel 为 Vercel Functions 推出 in-function concurrency 公测,允许单个函数实例同时处理多个调用,利用等待后端响应的空闲时间,最高可降低 50% 计算成本。
推荐理由:Vercel 官方说明 in-function concurrency 如何让单个函数实例并行处理请求,并给出最高 50% 成本下降的实测口径。
从埋点、看板到留存与漏斗:用数据判断功能有没有人用,以及这些工具的免费额度与计费方式。
Vercel 为 Vercel Functions 推出 in-function concurrency 公测,允许单个函数实例同时处理多个调用,利用等待后端响应的空闲时间,最高可降低 50% 计算成本。
推荐理由:Vercel 官方说明 in-function concurrency 如何让单个函数实例并行处理请求,并给出最高 50% 成本下降的实测口径。
Vercel 宣布 in-function concurrency 进入公测,允许单个函数实例并发处理多个调用,官方称重叠调用可提升 20%-50% 的效率,减少 GB-小时并降低成本。
推荐理由:Vercel 官方说明函数并发进入公测,并给出 20%-50% 的效率区间与 CPU 密集场景的延迟代价。
OpenAI 发布 Realtime API,开发者现在可以在自己的应用中构建快速的语音到语音体验。该 API 面向需要实时语音交互的应用场景,具体定价与接入方式未在摘要中说明。
推荐理由:OpenAI 发布 Realtime API,开发者可据此在应用中接入语音到语音的实时交互能力。
Cloudflare 宣布所有站点现在都能使用 AI Audit,用于汇总已知 AI 服务的抓取行为。该功能可查看爬虫访问频率和哪些内容最受欢迎,拦截特定 AI 机器人,并通过自动 WAF 规则执行 robots.txt 策略。
推荐理由:Cloudflare 全站开放 AI Audit,可查看 AI 爬虫抓取频率并拦截指定机器人。
Vercel 发布 AI SDK 3.4,为这个用 JavaScript 和 TypeScript 构建 AI 应用的开源工具包加入语言模型中间件、数据流协议、结构化输出、多步调用、追踪改进和 mock 模型测试等能力。
推荐理由:AI SDK 3.4 新增语言模型中间件、数据流协议与多步调用,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
Paddle 发布了一款 Next.js SaaS 订阅计费脚手架,可在 Vercel Marketplace 一键部署,也可从 GitHub 部署到其他环境,演示地址为 paddle-billing.vercel.app。
推荐理由:Paddle 官方发布订阅计费脚手架,把定价页、结账、用户管理和 webhook 同步打包成可直接部署的模板。
Replit 发布 AI 系统 Replit Agent,用户只需几句话、几分钟就能把应用从想法做到部署。Agent 会配置开发环境、安装依赖并执行代码,可在笔记本或 Replit 移动端使用。目前该功能以 early access 形式向所有 Replit Core 订阅者开放,官方称其仍属 alpha 软件,并列举了医生健康看板、校园停车地图、替代 Zapier 或 Make 等用户案例。
推荐理由:Replit 官方介绍 Agent 的发布与早期案例,可了解 AI 应用构建工具当前能做到什么程度。
Supabase 宣布成为 Vercel 官方 First-Party Integrations 之一,开发者可以直接在 Vercel 面板创建、管理和删除 Supabase 数据库,凭据自动注入 Vercel 环境变量。
推荐理由:Supabase 与 Vercel 打通后可在 Vercel 面板直接建库并合并账单,方便评估这套组合的落地方式。
Fly.io 宣布把 NVIDIA L40S GPU 的价格下调到每小时 1.25 美元,与 A10 同价,用户使用 L40S 不再比 A10 多付费用。Fly.io 称其 GPU 目录中 A10 最受欢迎,用户主要跑推理而非训练,因此把定位为 A100 级性能的 L40S 降到 A10 价位。
推荐理由:Fly.io 把 L40S 降到与 A10 同价,并公开了用户实际更偏好中低端推理卡的数据。
Supabase Auth 发布三项更新:支持 Auth0、AWS Cognito(含 AWS Amplify)和 Firebase Auth 作为第三方认证提供方,开发者不再需要手动转换 JWT 格式,且这些提供方均可在 Supabase CLI 中免费测试集成。
推荐理由:Supabase Auth 一次上线第三方认证、手机 MFA 与 Auth Hooks 三项能力,可据此评估迁移与自建短信通道的可行性。
Supabase 发布 database.build(原 postgres.new),一个在浏览器内运行的 Postgres 沙盒,每个数据库配一个大语言模型(当前为 GPT-4o)。
推荐理由:Supabase 把 PGlite 与 GPT-4o 组合成浏览器内 Postgres 沙盒,展示了 AI 直接操作数据库的交互方式。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。
推荐理由:OpenAI 在 API 中上线 Structured Outputs,模型输出可按开发者提供的 JSON Schema 返回,便于构建稳定的结构化数据流程。
Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1,可用一行代码在云端调用。FLUX.1 分三个版本:FLUX.1 [pro] 每张 $0.055,FLUX.1 [dev] 每张 $0.030,FLUX.1 [schnell] 每张 0.003 美元,其中 [schnell] 采用 Apache 2.0 许可。
推荐理由:Replicate 官方上线 FLUX.1 并给出三个版本的单张价格,读者可据此比较接入成本。
Hugging Face 为 TGI 推出 Multi-LoRA serving,只需部署一次基础模型,就能按请求动态切换多个 LoRA 适配器,官方示例用 mistralai/Mistral-7B-v0.1 同时服务 predibase/customer_support 和 predibase/magicoder。
推荐理由:Hugging Face 官方介绍 TGI 的 Multi-LoRA 部署方式,给出成本与用量对比,适合评估多模型推理方案。
Paddle 在平台余额币种中新增澳大利亚元(AUD)和加拿大元(CAD),此前仅支持美元、欧元和英镑。AUD 和 CAD 现在也可作为 adjustments 中原始拒付费用的取值。
推荐理由:Paddle 新增 AUD 和 CAD 余额币种,用澳元或加元收款的开发者可减少结算时的汇兑费用。
Mistral AI 在 la Plateforme 上线模型定制功能,提供三种微调入口:开源微调 SDK mistral-finetune、la Plateforme 上的无服务器微调服务,以及面向特定客户的定制训练服务。
推荐理由:Mistral 官方发布微调能力,给出开源 SDK、托管服务与定制训练三条路径,便于开发者按成本与数据条件选择。
Vercel 发布 AI SDK 3.1,并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由:Vercel 官方发布 AI SDK 3.1,统一多家模型调用接口并新增 streamUI,可据此评估是否替换现有 LLM 集成方案。
Supabase Storage 现在成为 S3 兼容的存储服务,该功能以公开 alpha 形式上线,同时断点续传从 Beta 转为正式可用。用户可用 access_key 与 secret_key 或带 RLS 的用户级凭证鉴权,接入 AWS CLI、rclone、Cyberduck 等 S3 兼容工具,并支持通过 S3 协议进行分片并行上传。
推荐理由:Supabase Storage 官方说明 S3 协议支持与两种鉴权方式,可据此判断现有 S3 工具链能否直接接入。
Supabase Auth 上线社区呼声最高的匿名登录功能,可创建尚未注册的临时用户,降低新用户试用门槛。开发者可在 dashboard 开启,或在 config.toml 中设置 enable_anonymous_sign_ins = true,并通过 Javascript、Flutter 或 Swift SDK 调用 signInAnonymously() 创建匿名用户。
推荐理由:Supabase Auth 上线匿名登录,并给出用 JWT 的 is_anonymous 声明配合 RLS 区分权限的做法。
Supabase 在 Edge Functions 的 Edge Runtime 中内置了 Supabase.ai API,用几行代码即可运行 AI 推理,目前支持 gte-small 生成 embedding,并实验性支持 Llama 和 Mistral 等开源 LLM。
推荐理由:Supabase 在 Edge Functions 内置 AI 推理 API,开发者可几行代码生成 embedding,并了解与 OpenAI 的成本对比。