Supabase 新增对 Hugging Face 的支持,从嵌入模型开始
Supabase 宣布在向量工具中新增对 Hugging Face 的一等支持,先从嵌入模型开始,覆盖 Python 客户端 vecs 和 Edge Functions(Deno/JavaScript)。
推荐理由:Supabase 在向量工具中接入 Hugging Face 嵌入模型,并给出 Python 与 Edge Functions 两种调用方式。
把产品跑起来的全部底座:云主机与平台托管、容器与编排、数据库与存储、CDN 与边缘,以及每一层怎么计价。
Supabase 宣布在向量工具中新增对 Hugging Face 的一等支持,先从嵌入模型开始,覆盖 Python 客户端 vecs 和 Edge Functions(Deno/JavaScript)。
推荐理由:Supabase 在向量工具中接入 Hugging Face 嵌入模型,并给出 Python 与 Edge Functions 两种调用方式。
Replit 官方发文解释调整资源限额与套餐的原因:更强大的功能带来更高服务成本,免费额度被用于挖矿和盗用带宽,且有用户每月消耗数千美元带宽。为此 Replit 下调了付费套餐中的 Always On 和 Boost 配额,并开始执行服务条款中的软性限制。
推荐理由:Replit 官方解释资源限额与套餐调整的动因,并列出后续定价与免费额度的变化方向。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 官方发布指南,介绍如何通过 API 运行 Stability AI 的文本生成图像模型 SDXL 1.0,支持文生图、img2img、inpainting 和 refiner。
推荐理由:Replicate 官方说明如何用 API 调用 SDXL,并给出 refiner、img2img 与 inpainting 的用法和参数。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。
Meta 发布开源大模型 Llama 2,包含 7B、13B、70B 三个规模,采用宽松社区许可并允许商用,Hugging Face 同步完成全面集成。
推荐理由:Hugging Face 官方说明 Llama 2 的接入方式,涵盖推理、部署与单卡微调路径,便于开发者直接上手。
Vercel 发布 Platforms Starter Kit,一个基于 Next.js App Router、Vercel Postgres 和 Vercel Domains API 的全栈模板,用于构建支持自定义域名的多租户应用。
推荐理由:Vercel 官方发布多租户模板,附自定义域名 API 与多个平台的实际域名规模,可了解该架构的落地方式。
Vercel 发布开源 AI SDK,帮助开发者用 JavaScript 和 TypeScript 构建对话、流式与聊天界面,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 官方发布 AI SDK,说明其支持的框架、模型适配与流式 UI 能力,便于开发者判断是否接入。
Hugging Face 介绍了 Apple Core ML 的新压缩与优化能力,通过 6-bit palettization 把 Stable Diffusion 权重从 16-bit 浮点压到每参数 6 bit,在 iPhone 13 上的推理速度比去年 12 月更快、内存占用更低。
推荐理由:Hugging Face 与 Apple 给出 6-bit 调色板量化在 iPhone 上跑 Stable Diffusion 的实测与转换命令,可据此评估端侧部署成本。
OpenAI 宣布对 API 进行多项更新,包括更易控制的模型、函数调用能力、更长的上下文以及更低的价格。官方未在摘要中给出具体模型名称、上下文长度或降价幅度。
推荐理由:OpenAI 官方公布 API 更新,涉及函数调用、更长上下文与降价,可据此判断接口能力与成本变化。
Resend 把免费套餐的发送额度从每月 100 封提高到每月 3000 封(每天 100 封),现有免费套餐账号已自动升级,官方称提升幅度为 30 倍。同时免费套餐的其他限制也有调整:每个团队最多可绑定一个域名,Pro 套餐解锁无限域名;选择发送区域改为仅 Pro 套餐可用,受影响的用户可联系官方沟通。
推荐理由:Resend 官方公布免费额度从每月 100 封提到 3000 封,并说明域名与多区域发送的套餐归属变化。
Railway 宣布调整套餐与定价,新套餐于 2023 年 7 月 3 日上线,迁移在 8 月 1 日完成。原 Starter 改为 Trial,新注册用户获得一次性 $5 额度,不再有每月循环 $5 额度;原 Developer 改为 Hobby,月费 $5 并含 $5 用量,符合条件的活跃开发者可免订阅费;原 Team 更名为 Pro,价格仍为 $20 / 用户 / 月。
推荐理由:Railway 官方公布套餐与计费调整,含各档迁移路径和网络出口费,现有用户可据此判断自己会被划到哪一档。
Railway 宣布默认套餐改为 $5/月,包含一定基础用量,超出部分按 vCPU、RAM 和网络出口流量按分钟计费,网络出口流量收费 $0.10/GB。免费试用仅限一次性 $5 额度,不再提供无限免费计算资源。新定价于 2023 年 7 月 3 日生效,现有用户 8 月 1 日迁移,官方称此举是为遏制滥用并改善支持与社区质量。
推荐理由:Railway 官方说明取消无限免费额度、改为 $5/月套餐的原因与迁移时间表,涉及现有用户的成本变化。
Supabase 向 OpenAI 仓库贡献了 Postgres 和 Supabase 两种向量存储实现,让 ChatGPT 检索插件可以直接用 pgvector 存取私有数据。
推荐理由:Supabase 为 ChatGPT 检索插件贡献了 Postgres 与 Supabase 两种向量存储实现,并给出从建库到接入的完整步骤。
Hugging Face 与 bitsandbytes 合作,在 transformers 中支持以 4bit 精度加载模型,覆盖文本、视觉和多模态等大多数 HF 模型,并可在 4bit 模型上训练适配器。
推荐理由:Hugging Face 与 bitsandbytes 合作把 4bit 量化接入 transformers,并给出 QLoRA 微调与显存实测数据。
Supabase 发布了一个用 TypeScript 编写、运行在 Supabase Edge Runtime 上的 ChatGPT 插件模板,可在 GitHub 上 fork。
推荐理由:Supabase 官方给出在 Edge Runtime 上搭建 ChatGPT 插件模板的完整步骤,含清单文件、OpenAPI 生成与本地调试。
Vercel 发布 Vercel Postgres,一款面向 Vercel Functions 和任意前端框架的无服务器 PostgresSQL 数据库。官方示例展示了通过 @vercel/postgres 在 Next.js Server Actions 中执行 SQL 写入并跳转的用法。该产品在公开测试期间面向 Hobby 和 Pro 用户开放,官方同时提供了文档和模板。
推荐理由:Vercel 官方发布无服务器 Postgres,并给出与 Next.js Server Actions 配合的代码示例,可了解其集成方式。
Vercel 宣布 Vercel KV、Vercel Postgres、Vercel Blob 和 Vercel Edge Config 四款服务端存储方案上线,其中 KV 由 Upstash 提供、Postgres 由 Neon 提供,Blob 用于在边缘上传和分发文件。
推荐理由:Vercel 官方发布四款服务端存储产品,并说明 KV 与 Postgres 已下线、改由 Marketplace 接入。
Supabase 宣布其新项目已支持 pg_tle,可安装用可信语言编写的 Trusted Language Extension(TLE),AWS RDS for Postgres 14.5 及以上版本同样支持。
推荐理由:Supabase 与 AWS 同时支持 pg_tle,扩展开发者可以不再等云厂商审核就分发自己的 Postgres 扩展。