OpenRouter 正式开放 BYOK,可自带 API key 并合并额度
OpenRouter 宣布 BYOK 面向所有用户开放,用户可绑定自己在 OpenAI、Google Cloud、AWS 等平台的 API key 和额度,与 OpenRouter 的额度叠加使用以提高速率上限,免费模型同样适用。BYOK 按上游供应商成本的 5% 收费,并提供统一的 Activity 面板集中查看所有 LLM 用量,用户可在 Settings 中添加 key。
OpenRouter 宣布 BYOK 面向所有用户开放,用户可绑定自己在 OpenAI、Google Cloud、AWS 等平台的 API key 和额度,与 OpenRouter 的额度叠加使用以提高速率上限,免费模型同样适用。BYOK 按上游供应商成本的 5% 收费,并提供统一的 Activity 面板集中查看所有 LLM 用量,用户可在 Settings 中添加 key。
Vercel 与 MERJ 基于过去几个月对 nextjs.org 和 Vercel 网络的监测,公布了主流 AI 爬虫的抓取数据。
推荐理由:Vercel 与 MERJ 统计了主流 AI 爬虫的抓取量、渲染能力和 404 比例,可据此判断站点该不该做服务端渲染。
Clerk 发布教程,演示如何按用户粒度定制 OAuth scopes,而非在 Dashboard 里对所有用户统一配置。示例应用 BookMate 通过设置开关、检查 Google access token 现有 scopes、触发重新授权,并把用户专属 scopes 存入 Clerk 的 publicMetadata 和 session claims,避免每次登录手动授权。
这是 Railway 部署 Dart 应用系列第二篇,用 Serverpod 搭建小项目 Trivyal,并接入 Google 登录。
OpenRouter 为 OpenAI 4o 和 Fireworks 模型推出结构化输出,支持 JSON Schema 校验,保证类型安全且一致的响应,更多提供商即将支持。同时免费开放 Google 的 Gemini Flash 2.0,官方称其首 token 时间显著更快,多模态理解、编码能力和函数调用均有提升,但初期会严格限流以便在所有用户间共享访问。
推荐理由:OpenRouter 同时上线结构化输出与 Gemini Flash 2.0 免费入口,可了解其支持的模型范围与限流情况。
Clerk 发布教程,演示如何通过 SSO 获取用户授权令牌,代表用户访问 Google Calendar 等第三方服务数据。用户用 OAuth 登录时生成的 access token 由 Clerk 存储并自动续期,开发者可用 getUserOauthAccessToken 直接取用,无需自行处理过期与刷新。
Vercel 发布 AI SDK 4.0,为 Anthropic、Google Generative AI 和 Google Vertex AI 增加 PDF 支持,并加入 Anthropic Claude 的 computer use 支持。
推荐理由:Vercel 官方发布 AI SDK 4.0,列出 PDF、computer use、续写等新能力与迁移方式,可据此判断升级成本。
Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置的优化推理微服务,基于 Text Generation Inference 和 Transformers,可在自有基础设施上部署开源模型。
推荐理由:Hugging Face 官方发布零配置推理微服务 HUGS,给出定价与支持模型清单,可对照自建推理方案的成本与迁移路径。
Livebook 结合 FLAME 与 Nx 栈,可从笔记本直接启动运行在 Fly.io 云上 Fly Machine 的运行时,并调度 GPU 机器做 AI 计算。演示中 FLAME 池把视频抽帧交给 GPU 上的 Llama 生成描述、再由 Mistral 汇总,并支持 64 台 L40s GPU 机器做 BERT 超参调优。
Supabase 发布教程,演示如何用 Flutter 和 Supabase 构建 Uber 类乘客端应用,通过 PostGIS 扩展处理地理数据、Supabase realtime 实现司机位置实时共享。
Replit 存储了超过 3 亿个软件仓库,规模与 GitHub、Bitbucket 同级,并借助 Operational Transformation(OT)协议和执行日志记录每个项目的时间线。
Mistral AI 发布 Mistral Large 2,模型规模 123B 参数,支持 128k 上下文窗口和数十种语言,可在单节点上实现大吞吐推理。
推荐理由:Mistral Large 2 的 128k 上下文、123B 参数与单节点推理定位,是评估自部署成本与多语言能力的直接参考。
Hugging Face 宣布 Google Cloud TPU v5e 已可在 Inference Endpoints 和 Spaces 上使用,用户选择 Google Cloud Platform 和 us-west1 区域后即可挑选 TPU 配置。
Vercel 发布 AI SDK 3.2,围绕 Agent、Provider、Embeddings 和开发体验四方面扩展能力。
Google 在 Google IO 2024 发布开源框架 Firebase Genkit,支持通过 Ollama 在本地运行其开源 Gemma 模型,用于构建、部署和监控生产级 AI 应用。
ChatGPT 的数据分析功能获得改进,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Vercel 发布 AI SDK 3.1,并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由:Vercel 官方发布 AI SDK 3.1,统一多家模型调用接口并新增 streamUI,可据此评估是否替换现有 LLM 集成方案。
Vercel CTO Malte Ubl 解释 Core Web Vitals 如何影响 Google 搜索排名:Google 只采用真实用户产生的 field data,Lighthouse 等 lab data 完全不计入排名。
Hugging Face 博客介绍社区轻量库 Unsloth,与 transformers、PEFT、TRL 完全兼容,通过将 PyTorch 模块改写为 Triton kernel 实现微调加速,官方称相比标准 QLoRA 精度损失为 0%。
推荐理由:原文给出 Unsloth 与 TRL 的集成方式和 59 次基准测试数据,可据此判断是否替换现有微调流程。
Gmail 和 Yahoo 更新了群发邮件要求,新规从 2024 年 2 月起开始执行,Gmail 将每天发送 5,000 封邮件定义为群发。主要变化包括:群发邮件必须在 list-unsubscribe 头中加入 URL 版本以支持一键退订,需在 SPF 和 DKIM 之外配置 DMARC,并将垃圾邮件投诉率控制在 0.3% 以下。
推荐理由:Gmail 与 Yahoo 2024 年群发新规的要点清单,涉及一键退订、DMARC 与投诉率阈值,可对照检查自己的发信配置。
Replit 回顾 2023 年发布:2 月推出首个对话式 AI 编程助手 Ghostwriter Chat,4 月上线 Deployments,10 月将 AI 代码补全免费开放给所有用户(Replit AI for All),并开源 Replit Code V1.5 3B 模型。
Replit 发布 9 个可直接 Fork 的 AI 模板与 Playground,覆盖 Gemini vs GPT-4 对比、AI 客服、PDF 对话、Weaviate 语义搜索、W&B 的 RAG Bot、会议转录、Whisper API、Qdrant 图像检索和 Hugging Face Transformers。用户可替换模型或数据后一键部署并分享给团队。
一位从未写过代码的 Replit 员工用 AI 做出了自己的第一个 Slack Bot,通过 Google LLM 提供每日频道摘要。该 Bot 模板可直接 fork,也可从 100 Days of Code 入手,全程无需任何环境配置。
Replit 在 Andreessen Horowitz 办公室举办活动,帮助开发者用 Replit Autoscale 和 Reserved VM Deployments 把原型变成生产级 Web 应用,最终有 15 个项目参与演示。
Paddle 现在支持 Apple Pay 和 Google Pay 的周期性交易,客户可以用这两种数字钱包支付订阅费用。此前它们只能用于 Paddle Checkout 的一次性购买,Paddle 会在首次付款后保存该支付方式并用于后续续费。
推荐理由:Paddle 把 Apple Pay 和 Google Pay 从一次性付款扩展到订阅续费,开发者无需改代码即可在后台开启。
百年时尚媒体集团 L'Officiel Inc. 将 30 个网站从 Ruby on Rails 单体架构迁移到 Vercel 和 Next.js,实现零停机迁移,意大利、美国、巴西等市场流量提升 60%。其唯一一名开发者借此摆脱服务器维护与 30 多个域名 SSL 证书手动管理,依靠 Next.js 的字体、图片优化和 ISR 支撑数万篇文章。
Clerk 发布了一份在 Next.js 13 中实现无密码认证的进阶指南,使用 Clerk 的 Next.js SDK 从零搭建注册页、验证页,并演示 Magic Link 与 OAuth 两种流程。指南覆盖用 middleware.ts 保护路由、通过 Clerk Dashboard 的 Social Connections 启用 Google 登录,并给出完整的测试步骤。
Clerk 在 How We Roll 第 9 章拆解了认证系统所需的基础设施:自托管方案需自行处理邮件、短信、OAuth 与后台任务,而 Clerk 托管方案把前端与后端 API 跑在 Google Cloud Run 上。
Replit 为 4 月上线的 Deployments 带来更新,大量依赖包的 Repl 部署速度提升 2-3 倍,并修复了符号链接、容器权限、快照恢复等导致部署失败的 bug。
Supabase 公布 2023 年 6 月更新:Mozilla 的 AI Help 聊天机器人选用 Supabase Vector 和 OpenAI 驱动,可免费试用。Supabase Auth 新增 Sign in with Apple 和 Google 原生支持,并加入 Kakao 社交登录;Supabase Studio 账单工具改版,可查看用量、超额与套餐上限并管理升降级。
Supabase Auth 现已原生支持 iOS 和 Android 上的 Sign in with Apple 与 Google 登录,开发者用 Flutter 或 React Native 即可调用系统级认证弹窗。
Replit CEO Amjad Masad 发布 Replit AI Manifesto,宣布前 Google Labs 应用研究负责人 Michele Catasta 加入担任 VP of AI,并阐述打造 ADI(Artificial Developer Intelligence)的愿景。
Hugging Face 发布教程,介绍如何把 16B 参数的 StarCoder 微调成对话式编程助手 StarChat,并公开代码、数据集与模型。流程包括用 ChatML 特殊 token 组织对话、屏蔽用户轮次的标签,再用 DeepSpeed ZeRO-3 在 8 张 A100 80GB 上训练约 45 分钟。
推荐理由:Hugging Face 公开了把 StarCoder 微调成对话式编程助手的完整流程,含数据格式与训练配置。
Replit 宣布 Hacker、Pro 和 Teams 套餐用户在 Workspace 中的容器重启次数减少 10 倍,从原先至少每小时一次降到每天仅 1-2 次。Replit 将这三类用户的 VM 从 Google Cloud 的 spot rate 升级为常规配置,用平台限制滥用省下的成本换取更少的中断。
Replicate 现在支持部署、运行和微调大型语言模型,官方提供 FLAN-T5、GPT-J 和 LLaMA 版本,也可以推送任意自定义模型。模型可用 Python、Node.js 或 HTTP API 调用,无需自建服务器或 GPU;微调功能处于预览阶段,先开放少量名额,支持 Flan-T5、GPT-J 和 LLaMA。
推荐理由:Replicate 上线语言模型托管与微调预览,开发者可据此判断是否把模型部署从自建 GPU 迁到 API。
Vercel 发布方案,用 Edge Config 与 Routing Middleware 替代 Google Optimize 做 A/B 测试与个性化。Edge Config 数据平均可在 10ms 内读取,Speedway Motors 借此把 CLS 降低 50%。实验数据仍可接入现有数据方案,文中示例用 `saveData` 上报曝光与点击。
Replit 与 Google Cloud 达成合作,Replit 开发者将通过 Ghostwriter 获得 Google Cloud 基础设施、服务和基础模型,Google Cloud 与 Workspace 开发者则可用上 Replit 的协作代码编辑平台。
Vercel 发布 Next.js SEO 实战手册,介绍如何用 Next.js 的渲染与优化能力提升搜索排名。核心手段包括 ISR(增量静态再生)兼顾 SSG 与 SSR、next/image 图片优化、动态导入代码分割和内置字体优化,并强调 Google 将站点速度作为重要排名因素。
Plex 将 watch.plex.tv 从 Kubernetes 自动扩缩集群迁移到 Vercel 上的 Next.js,曝光量提升 6 倍,代码行数减少约 40%。
这篇教程演示了为 Next.js 13 应用接入 Google 登录的两种方式:先用 NextAuth.js 手动配置,需在 Google Cloud 注册应用获取 Client ID 和 Client Secret,并设置 OAuth 同意屏幕与 scopes;再用第三方认证服务 Clerk 快速接入,最后对比两者。