Vercel 宣布 v0 生成式 UI 进入 Beta 并推出订阅套餐
Vercel 将 v0 从 Alpha 转入 Beta,新增 5,000 名用户访问权限,并推出订阅套餐。v0 让开发者用自然语言描述界面,由 React、Tailwind CSS 和 Shadcn UI 生成代码,等待名单在三周内积累了 100,000 人。
推荐理由:Vercel 官方公布 v0 从 Alpha 转入 Beta 并给出四档订阅价格,可据此判断生成式 UI 工具的成本与可用性。
各家模型与推理服务的定价、免费额度与限流:一次调用多少钱,直接决定 AI 功能能不能赚钱。
Vercel 将 v0 从 Alpha 转入 Beta,新增 5,000 名用户访问权限,并推出订阅套餐。v0 让开发者用自然语言描述界面,由 React、Tailwind CSS 和 Shadcn UI 生成代码,等待名单在三周内积累了 100,000 人。
推荐理由:Vercel 官方公布 v0 从 Alpha 转入 Beta 并给出四档订阅价格,可据此判断生成式 UI 工具的成本与可用性。
Supabase 用 dbpedia 的 100 万条 OpenAI embeddings(1536 维)对比 pgvector 与 Pinecone 的查询性能和成本。
推荐理由:Supabase 用同一数据集对比 pgvector 与 Pinecone 的 QPS、精度和月成本,可据此估算向量检索方案的开销。
Mistral AI 发布首个 7B 参数模型 Mistral 7B,采用 Apache 2.0 许可,官方称其在所有标准英文与代码基准上超过现有 13B 参数以内的开源模型。该模型可用于摘要、结构化与问答等任务,处理与生成文本速度更快、成本更低。Mistral AI 同时开放 GitHub 仓库和 Discord 频道,并表示后续将发布更大模型及面向企业的本地部署方案。
推荐理由:Mistral AI 官方发布首个 7B 开源模型并说明开放权重路线,可了解其与闭源模型的定位差异。
OpenAI 宣布 ChatGPT 现在可以看、听和说话。
Steve Moraco 借助 Replit 搭建了 iOS 上的 AI 助手 DATA,用 ChatGPT 替代 Siri,几个月内做到 $18k MRR、800 名付费订阅者和 $216,000 ARR。
推荐理由:一位零 Web 开发经验的开发者用 Replit 做出 iOS AI 助手,几个月做到 $18k MRR,可看其搭建与增长路径。
Supabase 宣布新建数据库将默认搭载 pgvector v0.5.0,该版本新增 HNSW 索引,用于高维 embedding 的近似最近邻搜索。在 224,482 条 OpenAI 向量(1536 维)测试中,HNSW 性能约为 IVFFlat 的 3 倍且准确率更高;在 100 万条向量测试中,达到 accuracy@10 0.99 时性能超过 6 倍。
推荐理由:Supabase 新库默认搭载 pgvector v0.5.0,文中给出 HNSW 与 IVFFlat 的 QPS 对比和建索引参数,可据此判断是否迁移。
Supabase 宣布把计费系统从按项目订阅改为按组织订阅,每个组织只有一个订阅和单一套餐(Free、Pro、Team 或 Enterprise),项目级附加项如 compute 升级、自定义域名和 PITR 仍按项目配置并计入组织账单。
推荐理由:Supabase 把订阅从按项目改为按组织,并给出免费版与 Pro 版的具体配额和计费变化。
Hugging Face 宣布在自家生态集成 Code Llama,提供 7B、13B、34B 三个参数规模的模型,采用与 Llama 2 相同的社区许可并允许商用。
推荐理由:Hugging Face 官方给出 Code Llama 在自家生态的接入方式、显存建议与基准分数,便于开发者直接选型部署。
OpenAI 宣布开发者现在可以自带数据对 GPT-3.5 Turbo 进行微调,以适配自己的使用场景。该更新属于 GPT-3.5 Turbo 微调与 API 更新的一部分。
推荐理由:OpenAI 开放 GPT-3.5 Turbo 微调,开发者可用自有数据定制模型,值得关注 API 能力变化。
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
Supabase 发布 Studio 3.0,在 SQL Editor 中内置 Supabase AI,可对话式生成和修改 SQL,并以类似 Git diff 的视图接受或拒绝改动。
推荐理由:Supabase Studio 3.0 把 AI 写 SQL、Schema 可视化和 Wrappers 扩展一并放出,可了解 Postgres 工具链的集成方向。
Replicate 宣布为 SDXL 1.0 提供微调支持,用户可用自己的图片训练出生成特定人物、物体或风格的新模型。训练只需 5-6 张图片,耗时约 10-15 分钟,默认使用 LoRA,也可切换 Dreambooth 或 Textual Inversion,训练完成后可发布为公开或私有模型并下载 LoRA 权重。
推荐理由:Replicate 为 SDXL 1.0 上线微调支持,给出用几行代码训练自有风格模型的完整流程。
Hugging Face 发布 swift-transformers,一个用 Swift 实现 transformers 风格 API 的开发中 Swift 包,聚焦文本生成,并同时放出 swift-chat 示例应用、更新版 exporters 与 transformers-to-coreml 转换工具,以及 Llama 2 7B、Falcon 7B 等已转换模型。
推荐理由:Hugging Face 发布 Swift 端 transformers 风格库与转换工具,Swift 开发者可据此在 Apple 设备上跑本地 LLM。
Supabase 宣布在向量工具中新增对 Hugging Face 的一等支持,先从嵌入模型开始,覆盖 Python 客户端 vecs 和 Edge Functions(Deno/JavaScript)。
推荐理由:Supabase 在向量工具中接入 Hugging Face 嵌入模型,并给出 Python 与 Edge Functions 两种调用方式。
Replit 官方发文解释调整资源限额与套餐的原因:更强大的功能带来更高服务成本,免费额度被用于挖矿和盗用带宽,且有用户每月消耗数千美元带宽。为此 Replit 下调了付费套餐中的 Always On 和 Boost 配额,并开始执行服务条款中的软性限制。
推荐理由:Replit 官方解释资源限额与套餐调整的动因,并列出后续定价与免费额度的变化方向。
Supabase 用 pgvector 对比了 OpenAI text-embedding-ada-002(1536 维)与 all-MiniLM-L6-v2(384 维)的查询性能,在 accuracy@10 固定为 0.99 时后者每秒查询数高出 78%,内存占用从 7.5GB 降到 4GB。
推荐理由:Supabase 用自家 pgvector 实测对比不同维度嵌入模型,给出查询速度与内存占用的具体差距,可据此选型。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 官方发布指南,介绍如何通过 API 运行 Stability AI 的文本生成图像模型 SDXL 1.0,支持文生图、img2img、inpainting 和 refiner。
推荐理由:Replicate 官方说明如何用 API 调用 SDXL,并给出 refiner、img2img 与 inpainting 的用法和参数。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。