Resend 突破 10 万用户后,接下来要做什么
Resend 公开上线十个月后突破 100,000 名验证用户,团队仅 6 人,开源项目 react.email 在 GitHub 已有 12,181 stars、npm 周下载量 209,339。公司计划补齐 API、库与组件能力,让用户不仅能发邮件也能收邮件,并把送达率经验与支持体系产品化。Resend 定位为通信公司,长期将从邮件扩展到 SMS、Whatsapp、推送通知等渠道。
Resend 公开上线十个月后突破 100,000 名验证用户,团队仅 6 人,开源项目 react.email 在 GitHub 已有 12,181 stars、npm 周下载量 209,339。公司计划补齐 API、库与组件能力,让用户不仅能发邮件也能收邮件,并把送达率经验与支持体系产品化。Resend 定位为通信公司,长期将从邮件扩展到 SMS、Whatsapp、推送通知等渠道。
Ollama 现已支持 embedding 模型,可生成向量嵌入并构建 RAG 应用,提供 mxbai-embed-large(334M)、nomic-embed-text(137M)、all-minilm(23M)三款模型,并集成 LangChain 与 LlamaIndex。
Bun 发布 1.1 版本,新增 Windows 10 及以上支持,官方称 Windows 版通过其 macOS 与 Linux 测试套件的 98%。
Hugging Face 发布教程,演示用开源 Mixtral-8x7B-Instruct-v0.1 生成合成数据,再微调出约 0.13B 参数的 RoBERTa-base 模型做金融新闻投资者情绪分类。
推荐理由:Hugging Face 用开源 LLM 生成合成数据再蒸馏小模型,给出成本、延迟与碳排放的完整对比。
Hugging Face 为 Text Generation Inference(TGI)推出 Messages API,从 1.4.0 版本起提供与 OpenAI Chat Completion API 兼容的接口,并同步上线 Inference Endpoints 的专用与无服务器版本。
推荐理由:Hugging Face 官方发布 TGI 的 Messages API,给出从 OpenAI 迁移到开源模型的代码示例与限制说明。
Ollama 宣布内置兼容 OpenAI Chat Completions API,可在本地用同一套 OpenAI 格式调用模型,只需把 hostname 改为 http://localhost:11434。
Ollama 发布 Python 与 JavaScript 库初始版本,让新老应用用几行代码即可接入 Ollama,并共享 Ollama REST API 的功能与体验。
这篇教程分步讲解如何把复杂的 ComfyUI 工作流转成简单的 Gradio 应用,并部署到 Hugging Face Spaces 的 ZeroGPU 无服务器结构上免费运行。
推荐理由:原文给出把 ComfyUI 工作流转成 Gradio 应用并部署到 Hugging Face Spaces ZeroGPU 的完整步骤,可照着复现。
Paddle 为 Paddle Billing 发布 PHP 和 Node.js SDK,已在 GitHub 公开,功能完整并覆盖 Paddle API。SDK 支持用包管理器安装、内置 webhook 签名校验辅助函数,采用 Apache 2.0 许可。
Hugging Face 博客介绍社区轻量库 Unsloth,与 transformers、PEFT、TRL 完全兼容,通过将 PyTorch 模块改写为 Triton kernel 实现微调加速,官方称相比标准 QLoRA 精度损失为 0%。
推荐理由:原文给出 Unsloth 与 TRL 的集成方式和 59 次基准测试数据,可据此判断是否替换现有微调流程。
Supabase 发布 2023 年 12 月 Beta 更新,Studio 迎来大改版,新增 AI 助手配置 RLS 策略、Postgres Roles 与用户模拟功能。
Supabase 公布 Launch Week X 黑客松获奖名单,共收到 64 个项目,为历届提交最多。Supafork 获最佳项目,可像 Vercel Deploy 按钮一样克隆 Supabase 项目;AI Video Search Engine 与 DocQuiz 分获各自类别冠军。各类别冠军获 LWX 键盘,亚军获限量周边套装。
Superagent 联合创始人兼 CTO Ismail Pelaseyed 用 Replit 快速原型化 AI Assistant 与 Agent 定义,并通过 Autoscale Deployments 部署 Superagent 后端 API。
CrewAI 是一个基于 LangChain 构建的库,专门用于构建和编排 AI Agent 团队,可在 Replit 上原生云端运行。它由 Agents、Tasks、Tools、Crews 四个模块组成,兼容 Ollama 本地开源模型,并可用 LangSmith 记录和调试 Agent 运行。Replit 上已提供行程规划、落地页生成、个股分析等模板,可 fork 后自行定制测试。
Supabase 在 LWX 发布周公布 Top 10 更新,包括与 Fly.io 合作推出托管 Postgres 服务 Fly Postgres、开源可观测套件 Supabase Grafana(采集约 200 项指标)。
Supabase 开始向已登记早期访问的付费组织分批开放 Branching,按登记先后顺序发放。每个 Git 分支对应一个 Supabase Preview Branch。
Replicate 完成由 a16z 领投的 4000 万美元 B 轮融资,NVIDIA 旗下 NVentures、Heavybit、Sequoia 和 Y Combinator 参投。
Hugging Face 发布推理库 Optimum-NVIDIA,只需把 transformers 的 pipeline 导入改成 optimum.nvidia 一行代码,即可在 NVIDIA 平台获得最高 28 倍吞吐提升和 1,200 tokens/秒,首 token 延迟最高快 3.3 倍。
推荐理由:Hugging Face 官方发布 Optimum-NVIDIA,给出改一行代码即可提速的实测数据与代码示例。
Hugging Face 通过在同一基础模型上动态换载 LoRA 适配器,把 LoRA 推理的冷启动时间从 25s 降到 3s,用户请求响应时间从 35s 降到 13s。Hub 上约 2500 个公开 LoRA 中约 92% 基于 Stable Diffusion XL Base 1.0,此前每个都需单独部署 GPU,如今仅用不到 5 张 A10G 即可服务数百个不同 LoRA。
Weights & Biases 基于 llama-index、FAISS 向量库、Cohere embeddings 和 OpenAI GPT-4 构建了 RAG 问答机器人 WandBot,并托管在 Replit 上,可接入 Discord、Slack、Zendesk 和 ChatGPT GPTs。
Hugging Face 发布 Latent Consistency LoRA,通过只训练少量 LoRA 适配层而非蒸馏整个模型,把 Stable Diffusion 和 SDXL 的推理步数从 25 到 50 步降到 4 到 8 步。
推荐理由:Hugging Face 发布 LCM LoRA,把 SDXL 推理从 25 步压到 4 步,并给出各硬件实测耗时。
Supabase 发布 @supabase/ssr,用 cookie 存储用户会话,并更新 npx create-next-app -e with-supabase 以兼容 Next.js 14。
Hugging Face 团队用自家 GitHub 组织的公开仓库代码微调 StarCoder,做出名为 HugCoder 的个人代码助手,并公开了完整流程。数据采集上他们克隆全部公开仓库本地提取内容,只保留代码文件并排除 .git、__pycache__ 等路径,最终数据集发布在 Hub 上。
推荐理由:完整给出从数据采集到 QLoRA 微调、VS Code 接入和本地部署的流程与成本对比,可照着复现。
独立开发者 @n-raidenai 在 Replit 上发布开源生成式 UI 组件框架 openv0,可通过描述界面自动生成 Tailwind 驱动的 UI 代码,支持 Next.js、React、Svelte 及 NextUI、Flowbite、Shadcn、Lucide。
Bun v1.0.7 修复了 59 个 bug,并在 bun install 中支持可选 peerDependencies,避免安装 npm install 不会装的包。该版本还改进了 Node.js 兼容性,修复了 child_process IPC、napi 内存泄漏、node:stream 崩溃等问题,并解决了 Docker 容器中误报“端口占用”的 bug。
Gradio 发布 @gradio/lite,一个借助 Pyodide 在浏览器内直接运行 Gradio 应用的 JavaScript 库,无需服务端基础设施。
推荐理由:Gradio 官方发布浏览器端运行方案,附完整示例代码与加载耗时等限制说明,便于开发者评估是否去掉服务端。
Resend 发布 OpenAPI 规范,提供 API 端点、参数与响应格式的完整描述,可从 GitHub 仓库下载。该规范可直接导入 Postman 使用,Resend 团队还维护了官方 Postman Workspace,Insomnia、RapidAPI 等客户端同样适用。
Bun v1.0.6 修复了 3 个 bug,其中包括 v1.0.5 引入的、导致 Bun 在部分不支持 v1 cgroups 的系统上于 Docker 中启动时 abort() 的回归问题。该版本还实现了对 package.json 中 overrides 与 resolutions 字段的支持,可强制依赖使用指定版本,目前仅支持一层深度,未来可能支持嵌套 overrides。
Supabase 9 月更新中,自研 Postgres 连接池 Supavisor 已在所有新项目可用,pgbouncer 将于 2024 年 1 月 15 日弃用;同日起新项目不再分配 IPv4 地址,连接字符串将解析为 IPv6。
Mistral AI 发布首个 7B 参数模型 Mistral 7B,采用 Apache 2.0 许可,官方称其在所有标准英文与代码基准上超过现有 13B 参数以内的开源模型。该模型可用于摘要、结构化与问答等任务,处理与生成文本速度更快、成本更低。Mistral AI 同时开放 GitHub 仓库和 Discord 频道,并表示后续将发布更大模型及面向企业的本地部署方案。
推荐理由:Mistral AI 官方发布首个 7B 开源模型并说明开放权重路线,可了解其与闭源模型的定位差异。
Superagent.sh 用 Replit 打造了一个开源 Agentic AI 框架,让开发者能在几分钟内把生产级 AI 助手集成进任意应用。在 Replit 代码执行库发布 48 小时内,团队就将其接入核心框架,用 Replit Autoscale 部署,并开放 Repl 供社区 fork、定制和自行部署。该框架可构建客服、法律、代码审查、内容生成等场景的 AI 助手。
Hugging Face 对 Llama 2 在 Amazon SageMaker 上的 60 种部署配置做了基准测试,覆盖 7B、13B、70B 三种模型规模、1/5/10/20 并发请求,以及 g5.2xlarge、g5.12xlarge、g5.48xlarge 和 p4d.24xlarge 四种实例。
Bun 1.0 正式发布并进入稳定、可用于生产的状态,它是一个集运行、构建、测试和调试于一体的一体化 JavaScript 与 TypeScript 工具链。Bun 可作为 Node.js 的直接替代品,内置包管理器、Jest 兼容的测试运行器和打包器,官方称启动速度最高比 Node.js 快 4 倍,bun run 平均耗时 7ms。
推荐理由:Bun 1.0 把运行时、包管理、测试与打包整合进单一工具,并给出与 Node.js 各环节的性能对比。
Hugging Face 宣布在自家生态集成 Code Llama,提供 7B、13B、34B 三个参数规模的模型,采用与 Llama 2 相同的社区许可并允许商用。
推荐理由:Hugging Face 官方给出 Code Llama 在自家生态的接入方式、显存建议与基准分数,便于开发者直接选型部署。
Supabase 为其 Integrations Marketplace 新增 OAuth2.0 应用支持,该市场上线约一年已积累 60 多个集成,且本身是一套开源模板。
Hugging Face 发布 swift-transformers,一个用 Swift 实现 transformers 风格 API 的开发中 Swift 包,聚焦文本生成,并同时放出 swift-chat 示例应用、更新版 exporters 与 transformers-to-coreml 转换工具,以及 Llama 2 7B、Falcon 7B 等已转换模型。
推荐理由:Hugging Face 发布 Swift 端 transformers 风格库与转换工具,Swift 开发者可据此在 Apple 设备上跑本地 LLM。
Hugging Face 的 Diffusers 库迎来一周年,已从文生图扩展出视频、3D 与图像编辑等多条 pipeline。新增 DeepFloyd IF、Stability AI SDXL 支持,并引入 OpenAI 的 Shap-E 文生 3D 与 Consistency Models,后者在 CPU 上生成 256x256 图像仅需 3/4 秒。
Resend 完成 300 万美元种子轮融资,投资方包括 Y Combinator、SV Angel 及 Figma、Vercel、Supabase 等创始人。自 1 月上线以来,已有超 10,000 名开发者注册,发送超 700 万封事务性邮件;其开源项目 React Email 在 GitHub 上突破 8,000 stars,贡献者超 80 人。
Meta 发布开源大模型 Llama 2,包含 7B、13B、70B 三个规模,采用宽松社区许可并允许商用,Hugging Face 同步完成全面集成。
推荐理由:Hugging Face 官方说明 Llama 2 的接入方式,涵盖推理、部署与单卡微调路径,便于开发者直接上手。
Vercel 发布开源 AI SDK,帮助开发者用 JavaScript 和 TypeScript 构建对话、流式与聊天界面,支持 React/Next.js、Svelte/SvelteKit,Nuxt/Vue 支持即将推出。
推荐理由:Vercel 官方发布 AI SDK,说明其支持的框架、模型适配与流式 UI 能力,便于开发者判断是否接入。