Vercel CTO 谈如何成为一家 AI 工程公司
Vercel CTO 分享公司如何围绕 AI 重构自身:依托 Web 框架与基础设施优势推出 AI SDK 和 v0,把 AI 嵌入产品核心而非外挂聊天层。他认为开发者可用专属数据、快速反馈循环和复杂领域知识与 OpenAI、Google 等巨头竞争,AI SDK 的 generateText 等函数让任何能调用 API 的人都能开发 AI 应用。
Vercel CTO 分享公司如何围绕 AI 重构自身:依托 Web 框架与基础设施优势推出 AI SDK 和 v0,把 AI 嵌入产品核心而非外挂聊天层。他认为开发者可用专属数据、快速反馈循环和复杂领域知识与 OpenAI、Google 等巨头竞争,AI SDK 的 generateText 等函数让任何能调用 API 的人都能开发 AI 应用。
Vercel 为启用 Skew Protection 的项目自动缓解搜索引擎爬虫延迟导致的索引失败问题,将来自 Googlebot 和 Bingbot 等主流搜索引擎爬虫的请求的 Skew Protection 最大有效期延长至 60 天。
微软 Bing 的 Fabrice Canel 在 Microsoft Advertising Accelerate 上表示,AI 正在彻底重塑搜索,传统 SEO 实践正变得过时,不适应者将面临落后风险。
Vercel 的 Attack Challenge Mode 现在自动放行已验证的 webhook 提供商,包括 Stripe 和 PayPal,以确保支付处理不中断。
Vercel 发布 AI SDK 4.2,为这个周下载量超 100 万的 JavaScript/TypeScript AI 工具包加入推理模型、MCP 客户端、useChat 消息分片、语言模型图像生成和 URL 来源等能力。
推荐理由:Vercel 官方发布 AI SDK 4.2,新增 MCP 客户端与推理模型支持,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
Cloudflare AI Gateway 上线 Realtime WebSockets API,让开发者与 AI 模型建立持久低延迟连接,实现语音到语音等实时对话体验。该 API 兼容 OpenAI Realtime API 与 Google Gemini Live API,并支持 Cartesia、ElevenLabs 模型的实时文本与语音交互。
Bing Webmaster Tools 将其 Search Performance 功能的数据回溯范围从 6 个月扩展到 16 个月,用户可跨时间段对比 clicks、impressions、CTR、keywords 和 pages,并改进了时间筛选的 UX。
Mistral 发布 Mistral Small 3.1,在 Mistral Small 3 基础上提升文本性能和多模态理解,上下文窗口扩展至 128k tokens,推理速度 150 tokens/秒,采用 Apache 2.0 许可。
推荐理由:Mistral 发布 Small 3.1,给出与 Gemma 3、GPT-4o Mini 的对比和 128k 上下文等规格,便于评估小模型选型。
Mistral 发布文档理解 OCR API mistral-ocr-latest,可接收图片和 PDF,按顺序输出交错的文本与图像,定价为 1000 页/美元,批量推理约可翻倍。
推荐理由:Mistral 发布 OCR API,给出 1000 页/美元定价与多项基准对比,可了解文档解析的选型参考。
OpenRouter 上线 Perplexity 的 Sonar Deep Research、Sonar Reasoning Pro 和 Sonar Pro 三款新模型,定价包含 Perplexity 内部搜索与推理步骤的额外费用。
Hugging Face 发布 FastRTC,一个用 Python 构建实时音频和视频 AI 应用的通信库,内置自动语音检测与轮次切换、WebRTC 版 Gradio UI,并支持 WebRTC 与 Websocket。
推荐理由:FastRTC 把 WebRTC 实时音视频通信封装成 Python 库,附自动语音检测、Gradio UI 和免费电话接入,可省去自建实时链路的工作。
Cloudflare 为在 Workers 上构建 AI Agent 和应用新增了一段示例提示词,覆盖 Workflows、Durable Objects 和 Workers KV。
Prisma Postgres 现已推出 Netlify 扩展和 Project IDX 官方模板,开发者可在 Netlify Dashboard 内直接连接数据库实例,或在浏览器中通过 IDX 模板体验数据建模、迁移、TypeScript CRUD 查询和全局缓存。
Clerk 发布指南,演示如何在 Next.js 15 中接入 Google 认证,涵盖注册登录、路由保护、Google One Tap 与通过 OAuth 访问 Google Calendar。Clerk 前 10,000 名月度用户免费且无需信用卡,可用预置组件与 middleware 完成会话管理和路由保护。指南同时说明可改用自定义 Google 凭据,并支持自建登录注册页替代托管认证页。
OpenRouter 发布 Reasoning Tokens 功能,在 Chatroom 和 API 中都能观察模型的推理步骤。使用时在 API 请求中加入 include_reasoning: true,推理内容会出现在每条消息的 reasoning 字段中。该功能首批支持 DeepSeek R1 系列模型,后续将支持 Gemini Thinking 模型。
推荐理由:OpenRouter 上线推理 token 功能,开发者可经 API 查看模型推理过程并接入工作流。
Vercel 发布 AI SDK 4.1,新增实验性 generateImage 函数,可通过统一 API 在 Replicate、OpenAI、Google Vertex AI 和 Fireworks 等提供商之间生成图像,切换提供商只需改两行代码。
推荐理由:Vercel 官方发布 AI SDK 4.1,新增图像生成与工具调用修复,可了解多模型统一 API 的最新能力边界。
Railway 启动 Railway Metal 项目自建数据中心,以摆脱 Google Cloud Platform 在出网费用、服务支持和工程限制上的掣肘。项目于 2024 年 1 月启动,5 个月后首台服务器上架,再过 3 个月才让用户接入硬件,首个站点落地加州,目前正启用另外三个数据中心区域。
Mistral AI 发布 Codestral 25.01,采用更高效的架构和改进的 tokenizer,生成与补全代码的速度约为上一代 2 倍,上下文长度 256k。
推荐理由:Codestral 25.01 的生成速度约为上一代两倍,并给出与 DeepSeek、CodeLlama 等模型的 FIM 基准对比。
BIMI 标准近期放宽了商标要求:Gmail 开始支持 CMC(Common Mark Certificates),只需证明 logo 已公开使用 12 个月即可购买,无需注册商标;Apple Mail 随 iOS 18.2 推出免费的 Branded Mail,通过 Apple Business Connect 验证后即可展示品牌 logo。
OpenRouter 宣布 BYOK 面向所有用户开放,用户可绑定自己在 OpenAI、Google Cloud、AWS 等平台的 API key 和额度,与 OpenRouter 的额度叠加使用以提高速率上限,免费模型同样适用。BYOK 按上游供应商成本的 5% 收费,并提供统一的 Activity 面板集中查看所有 LLM 用量,用户可在 Settings 中添加 key。
Vercel 与 MERJ 基于过去几个月对 nextjs.org 和 Vercel 网络的监测,公布了主流 AI 爬虫的抓取数据。
推荐理由:Vercel 与 MERJ 统计了主流 AI 爬虫的抓取量、渲染能力和 404 比例,可据此判断站点该不该做服务端渲染。
Clerk 发布教程,演示如何按用户粒度定制 OAuth scopes,而非在 Dashboard 里对所有用户统一配置。示例应用 BookMate 通过设置开关、检查 Google access token 现有 scopes、触发重新授权,并把用户专属 scopes 存入 Clerk 的 publicMetadata 和 session claims,避免每次登录手动授权。
这是 Railway 部署 Dart 应用系列第二篇,用 Serverpod 搭建小项目 Trivyal,并接入 Google 登录。
OpenRouter 为 OpenAI 4o 和 Fireworks 模型推出结构化输出,支持 JSON Schema 校验,保证类型安全且一致的响应,更多提供商即将支持。同时免费开放 Google 的 Gemini Flash 2.0,官方称其首 token 时间显著更快,多模态理解、编码能力和函数调用均有提升,但初期会严格限流以便在所有用户间共享访问。
推荐理由:OpenRouter 同时上线结构化输出与 Gemini Flash 2.0 免费入口,可了解其支持的模型范围与限流情况。
Clerk 发布教程,演示如何通过 SSO 获取用户授权令牌,代表用户访问 Google Calendar 等第三方服务数据。用户用 OAuth 登录时生成的 access token 由 Clerk 存储并自动续期,开发者可用 getUserOauthAccessToken 直接取用,无需自行处理过期与刷新。
Vercel 发布 AI SDK 4.0,为 Anthropic、Google Generative AI 和 Google Vertex AI 增加 PDF 支持,并加入 Anthropic Claude 的 computer use 支持。
推荐理由:Vercel 官方发布 AI SDK 4.0,列出 PDF、computer use、续写等新能力与迁移方式,可据此判断升级成本。
Hugging Face 发布 HUGS(Hugging Face Generative AI Services),一套零配置的优化推理微服务,基于 Text Generation Inference 和 Transformers,可在自有基础设施上部署开源模型。
推荐理由:Hugging Face 官方发布零配置推理微服务 HUGS,给出定价与支持模型清单,可对照自建推理方案的成本与迁移路径。
Livebook 结合 FLAME 与 Nx 栈,可从笔记本直接启动运行在 Fly.io 云上 Fly Machine 的运行时,并调度 GPU 机器做 AI 计算。演示中 FLAME 池把视频抽帧交给 GPU 上的 Llama 生成描述、再由 Mistral 汇总,并支持 64 台 L40s GPU 机器做 BERT 超参调优。
Supabase 发布教程,演示如何用 Flutter 和 Supabase 构建 Uber 类乘客端应用,通过 PostGIS 扩展处理地理数据、Supabase realtime 实现司机位置实时共享。
Replit 存储了超过 3 亿个软件仓库,规模与 GitHub、Bitbucket 同级,并借助 Operational Transformation(OT)协议和执行日志记录每个项目的时间线。
Mistral AI 发布 Mistral Large 2,模型规模 123B 参数,支持 128k 上下文窗口和数十种语言,可在单节点上实现大吞吐推理。
推荐理由:Mistral Large 2 的 128k 上下文、123B 参数与单节点推理定位,是评估自部署成本与多语言能力的直接参考。
Hugging Face 宣布 Google Cloud TPU v5e 已可在 Inference Endpoints 和 Spaces 上使用,用户选择 Google Cloud Platform 和 us-west1 区域后即可挑选 TPU 配置。
Vercel 发布 AI SDK 3.2,围绕 Agent、Provider、Embeddings 和开发体验四方面扩展能力。
Google 在 Google IO 2024 发布开源框架 Firebase Genkit,支持通过 Ollama 在本地运行其开源 Gemma 模型,用于构建、部署和监控生产级 AI 应用。
ChatGPT 的数据分析功能获得改进,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Vercel 发布 AI SDK 3.1,并宣布 ModelFusion 团队加入。新版本包含 AI SDK Core、AI SDK UI 和 AI SDK RSC 三部分。
推荐理由:Vercel 官方发布 AI SDK 3.1,统一多家模型调用接口并新增 streamUI,可据此评估是否替换现有 LLM 集成方案。
Vercel CTO Malte Ubl 解释 Core Web Vitals 如何影响 Google 搜索排名:Google 只采用真实用户产生的 field data,Lighthouse 等 lab data 完全不计入排名。
Hugging Face 博客介绍社区轻量库 Unsloth,与 transformers、PEFT、TRL 完全兼容,通过将 PyTorch 模块改写为 Triton kernel 实现微调加速,官方称相比标准 QLoRA 精度损失为 0%。
推荐理由:原文给出 Unsloth 与 TRL 的集成方式和 59 次基准测试数据,可据此判断是否替换现有微调流程。
Gmail 和 Yahoo 更新了群发邮件要求,新规从 2024 年 2 月起开始执行,Gmail 将每天发送 5,000 封邮件定义为群发。主要变化包括:群发邮件必须在 list-unsubscribe 头中加入 URL 版本以支持一键退订,需在 SPF 和 DKIM 之外配置 DMARC,并将垃圾邮件投诉率控制在 0.3% 以下。
推荐理由:Gmail 与 Yahoo 2024 年群发新规的要点清单,涉及一键退订、DMARC 与投诉率阈值,可对照检查自己的发信配置。
Replit 回顾 2023 年发布:2 月推出首个对话式 AI 编程助手 Ghostwriter Chat,4 月上线 Deployments,10 月将 AI 代码补全免费开放给所有用户(Replit AI for All),并开源 Replit Code V1.5 3B 模型。