Replicate 将公开模型按秒价格减半,并公布各档 GPU 新价
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
把重复动作交给工具:触发器与连接器、Agent 工作流、定价与用量限制,一个人干一支团队的活。
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
Supabase 宣布正式通过 SOC2 Type 2 和 HIPAA 合规,Type 2 认证于今年 5 月 22 日取得,并计划每年进行一次 Type 2 审计。
推荐理由:Supabase 官方说明 SOC2 Type 2 与 HIPAA 合规的落地过程,做医疗类应用的开发者可据此判断托管平台是否可用。
Supabase 发布用 Elixir 构建的 Postgres 连接池 Supavisor,压测中两台 64 核实例处理了 1,003,200 个并发连接和 20,000 QPS。
推荐理由:Supabase 公开 Supavisor 的百万连接压测数据与查询延迟对比,可据此判断连接池方案的取舍。
Supabase 发布 Studio 3.0,在 SQL Editor 中内置 Supabase AI,可对话式生成和修改 SQL,并以类似 Git diff 的视图接受或拒绝改动。
推荐理由:Supabase Studio 3.0 把 AI 写 SQL、Schema 可视化和 Wrappers 扩展一并放出,可了解 Postgres 工具链的集成方向。
Paddle 面向 2023 年 8 月 8 日前注册的老客户推出 Paddle Billing,这是一套面向现代 SaaS 的计费与经常性收入管理功能,需在 Business Account > Account Settings > Get Paddle Billing 中由管理员手动开启,开启后不产生费用直到实际发生交易。
推荐理由:Paddle 官方说明新旧两套计费体系的数据隔离与共享边界,便于开发者判断是否现在开启。
Replicate 宣布为 SDXL 1.0 提供微调支持,用户可用自己的图片训练出生成特定人物、物体或风格的新模型。训练只需 5-6 张图片,耗时约 10-15 分钟,默认使用 LoRA,也可切换 Dreambooth 或 Textual Inversion,训练完成后可发布为公开或私有模型并下载 LoRA 权重。
推荐理由:Replicate 为 SDXL 1.0 上线微调支持,给出用几行代码训练自有风格模型的完整流程。
Hugging Face 发布 swift-transformers,一个用 Swift 实现 transformers 风格 API 的开发中 Swift 包,聚焦文本生成,并同时放出 swift-chat 示例应用、更新版 exporters 与 transformers-to-coreml 转换工具,以及 Llama 2 7B、Falcon 7B 等已转换模型。
推荐理由:Hugging Face 发布 Swift 端 transformers 风格库与转换工具,Swift 开发者可据此在 Apple 设备上跑本地 LLM。
Vercel 发布 Next.js Commerce 2.0,采用 App Router、React Server Components 和 Server Actions,实现动态店面达到静态页面的加载速度。
推荐理由:Vercel 官方发布 Next.js Commerce 2.0,说明其基于 App Router 的架构调整与性能取舍,适合做电商前端的开发者参考。
Supabase 宣布在向量工具中新增对 Hugging Face 的一等支持,先从嵌入模型开始,覆盖 Python 客户端 vecs 和 Edge Functions(Deno/JavaScript)。
推荐理由:Supabase 在向量工具中接入 Hugging Face 嵌入模型,并给出 Python 与 Edge Functions 两种调用方式。
Replit 官方发文解释调整资源限额与套餐的原因:更强大的功能带来更高服务成本,免费额度被用于挖矿和盗用带宽,且有用户每月消耗数千美元带宽。为此 Replit 下调了付费套餐中的 Always On 和 Boost 配额,并开始执行服务条款中的软性限制。
推荐理由:Replit 官方解释资源限额与套餐调整的动因,并列出后续定价与免费额度的变化方向。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 官方发布指南,介绍如何通过 API 运行 Stability AI 的文本生成图像模型 SDXL 1.0,支持文生图、img2img、inpainting 和 refiner。
推荐理由:Replicate 官方说明如何用 API 调用 SDXL,并给出 refiner、img2img 与 inpainting 的用法和参数。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。
Meta 发布开源大模型 Llama 2,包含 7B、13B、70B 三个规模,采用宽松社区许可并允许商用,Hugging Face 同步完成全面集成。
推荐理由:Hugging Face 官方说明 Llama 2 的接入方式,涵盖推理、部署与单卡微调路径,便于开发者直接上手。
Vercel 发布 Platforms Starter Kit,一个基于 Next.js App Router、Vercel Postgres 和 Vercel Domains API 的全栈模板,用于构建支持自定义域名的多租户应用。
推荐理由:Vercel 官方发布多租户模板,附自定义域名 API 与多个平台的实际域名规模,可了解该架构的落地方式。
Vercel 发布开源 AI SDK,帮助开发者用 JavaScript 和 TypeScript 构建对话、流式与聊天界面,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 官方发布 AI SDK,说明其支持的框架、模型适配与流式 UI 能力,便于开发者判断是否接入。
Hugging Face 介绍了 Apple Core ML 的新压缩与优化能力,通过 6-bit palettization 把 Stable Diffusion 权重从 16-bit 浮点压到每参数 6 bit,在 iPhone 13 上的推理速度比去年 12 月更快、内存占用更低。
推荐理由:Hugging Face 与 Apple 给出 6-bit 调色板量化在 iPhone 上跑 Stable Diffusion 的实测与转换命令,可据此评估端侧部署成本。
OpenAI 宣布对 API 进行多项更新,包括更易控制的模型、函数调用能力、更长的上下文以及更低的价格。官方未在摘要中给出具体模型名称、上下文长度或降价幅度。
推荐理由:OpenAI 官方公布 API 更新,涉及函数调用、更长上下文与降价,可据此判断接口能力与成本变化。
Resend 把免费套餐的发送额度从每月 100 封提高到每月 3000 封(每天 100 封),现有免费套餐账号已自动升级,官方称提升幅度为 30 倍。同时免费套餐的其他限制也有调整:每个团队最多可绑定一个域名,Pro 套餐解锁无限域名;选择发送区域改为仅 Pro 套餐可用,受影响的用户可联系官方沟通。
推荐理由:Resend 官方公布免费额度从每月 100 封提到 3000 封,并说明域名与多区域发送的套餐归属变化。