Together AI 解读 DeepSeek-V4 服务化:百万 token 上下文为何是推理系统问题
DeepSeek-V4 通过 CSA / HCA / SWA 混合注意力设计,在 KV 存储前压缩上下文,把百万 token 上下文变成服务系统问题。
DeepSeek-V4 通过 CSA / HCA / SWA 混合注意力设计,在 KV 存储前压缩上下文,把百万 token 上下文变成服务系统问题。
Vercel 开源了安全扫描工具 deepsec,它由编码 Agent 驱动,可跑在本地或自有基础设施上,用现有的 Claude 或 Codex 订阅做推理。扫描流程为静态分析定位安全敏感文件、Agent 逐个调查、二次验证去除误报并按严重程度重新分级,最后导出为可转成工单的指令。
推荐理由:Vercel 开源了基于编码 Agent 的安全扫描工具,并公开了误报率与并行扫描规模,可据此判断是否引入自己的代码库。
Hugging Face 团队用 OpenAI 本周在 Hub 上发布的 Privacy Filter 搭建了三个应用,分别演示文档 PII 高亮、图片脱敏和粘贴内容脱敏。
DeepSeek 发布 V4,在 Hub 上线 DeepSeek-V4-Pro(1.6T 总参数、49B 激活)和 DeepSeek-V4-Flash(284B 总参数、13B 激活)两个 MoE 检查点,均支持 1M token 上下文。
推荐理由:DeepSeek-V4 用 CSA 与 HCA 混合注意力把 1M 上下文的 KV 缓存压到约 2%,并给出面向 Agent 的基准对比。
Hugging Face 发布一套 Skill 与测试工具,帮助把 transformers 模型移植到 mlx-lm,让模型进入 transformers 后几乎立刻在 MLX 可用。
Shopify Polaris 团队工程师把 Andrej Karpathy 提出的 Autoresearch 循环从训练模型迁移到优化构建指标,让 agent 反复提出假设并测试,构建时间从 19.1 秒降到 65% 更快。
推荐理由:Shopify 工程师复盘把 Autoresearch 循环用于构建指标优化,并开源成 pi-autoresearch 的完整过程。
Supabase 发布开源 Agent Skills,一套教 AI 编码代理正确构建 Supabase 应用的指令集,支持 Claude Code、Codex、GitHub Copilot、Cursor 等兼容 Agent Skills Open Standard 的代理,一条命令即可安装。
推荐理由:Supabase 官方开源 Agent Skills,并给出跨模型评测数据,可看到技能文件对 AI 编码代理正确率的实际影响。
Cursor 的 Bugbot 新增 Learned Rules,可从 PR 评论与反馈中自动生成并推广规则、停用失效规则,同时支持接入 MCP 服务器补充代码审查上下文(Teams 和 Enterprise 套餐可在 Bugbot dashboard 添加工具)。Bugbot 解决率升至 78%,并新增「Fix All」批量修复、重构设置页,Autofix 仅在问题足够重要时运行。
OpenMed 构建了覆盖结构预测、序列设计与密码子优化的端到端蛋白质 AI 流水线,其中 CodonRoBERTa-large-v2 以困惑度 4.10、Spearman CAI 相关性 0.40 明显优于 ModernBERT。团队随后扩展到 25 个物种,用 55 GPU-hours 训练出 4 个生产模型,并搭建了目前其他开源项目都没有的物种条件化系统。
Anthropic 正在限制 Pro/Max 订阅者在开放 agent 平台访问 Claude 模型,Hugging Face 给出两条把 OpenClaw、Pi 或 Open Code agent 迁移到开源模型的路径。
推荐理由:Anthropic 限制开放 agent 平台访问 Claude 后,Hugging Face 给出两条迁移路径和具体命令,可照着操作。
Cohere 发布开源 ASR 模型 Transcribe(cohere-transcribe-03-2026),采用 Conformer 编码器-解码器架构,2B 参数,Apache 2.0 许可,支持 14 种语言,已在 Hugging Face 开放下载。
推荐理由:Cohere 发布开源 ASR 模型 Transcribe,给出 5.42% 平均 WER 与 14 种语言支持,可对照 Whisper 等模型评估选型。
NVIDIA 发布教程,介绍用单张 GPU 在一天内把通用嵌入模型微调成领域专用模型,无需人工标注。流程基于 NeMo Data Designer 生成合成问答对、挖掘难负样本、微调 Llama-Nemotron-Embed-1B-v2,并用 BEIR 评估,官方数据上 Recall@10 和 NDCG@10 提升超过 10%。
PostHog 博客盘点了 7 款免费开源、可自托管的 LLM 可观测性工具,均支持 OpenAI、Anthropic 等主流 LLM 提供商并展示成本与延迟指标。PostHog 每月免费提供 10 万条 LLM 可观测性事件、30 天留存;Langfuse Cloud 免费额度为每月 5 万 units、2 个用户,超出后 $29/月起。
Mistral 发布 Mistral Small 4,首次把 Magistral 的推理、Pixtral 的多模态和 Devstral 的编码能力合并进单一模型,采用 Apache 2.0 许可。
推荐理由:Mistral 把推理、多模态与编码能力合并进一个 Apache 2.0 模型,并给出延迟与吞吐对比数据。
PRX 团队用 32 张 H200、约 $1500 算力预算($2/小时/GPU)在 24 小时内完成一次文生图模型训练 speedrun,并开源了训练代码和此前的实验框架。
Postmark 发布开源 Agent Skills,一套教 AI 编程助手正确调用 Postmark API 的 Agent Skills,采用 MIT 许可,已在 GitHub 上线。
Hugging Face 发布教程,介绍如何通过 Claude Code、Codex 等编码 Agent 使用 Unsloth 和 Hugging Face Jobs 微调 LiquidAI/LFM2.5-1.2B-Instruct,Unsloth 训练速度约快 2 倍、显存占用约少 60%。
推荐理由:原文给出用编码 Agent 提交 Unsloth 微调任务的完整命令与 GPU 价格档,可据此估算小模型训练成本。
Hugging Face 发布教程,介绍用新工具 upskill 让 Claude Opus 4.5 生成 agent skill,再交给开源小模型使用,并以编写 CUDA kernel 为示例任务。
推荐理由:原文给出用大模型生成 agent skill 再迁移到小模型的完整流程与实测数据,可据此评估自己的降本方案。
Ollama v0.14.0 及之后版本兼容 Anthropic Messages API,Claude Code 现在可以搭配任意 Ollama 模型使用,既可跑本地模型,也可通过 ollama.com 连接云端模型。
OpenRouter 开始显式标注可蒸馏模型(Distillable Models),这些模型的许可证允许生成合成训练数据,开发者可在 Models 页面筛选,并通过 `enforce_distillable_text` 请求参数在运行时强制合规。
Hugging Face 发布教程,展示如何让 OpenAI Codex 通过 Hugging Face Skills 仓库完成端到端模型微调,包括数据集校验、硬件选择、提交 Hugging Face Jobs、监控训练并生成报告。
推荐理由:Hugging Face 官方教程演示如何让 Codex 用 HF Skills 跑完整微调流程,含硬件与成本参考。
Mistral 发布 Devstral 2 编码模型系列,含 123B 的 Devstral 2 和 24B 的 Devstral Small 2,分别采用修改版 MIT 和 Apache 2.0 许可,并推出开源 CLI 工具 Mistral Vibe。
推荐理由:Mistral 发布 Devstral 2 系列编码模型与 Vibe CLI,给出 SWE-bench 成绩和 API 定价,可对比开源与闭源编码模型。
Hugging Face 发布 Hugging Face Skills,让 Claude Code、Codex、Gemini CLI 等编码 Agent 通过 hf-llm-trainer 技能完成模型微调全流程:校验数据集、选择 GPU、提交 Hugging Face Jobs、监控进度并把模型推到 Hub。
推荐理由:Hugging Face 官方演示用编码 Agent 完成微调全流程,含硬件选型与成本参考。
免费、本地、开源的 AI 应用构建工具 Dyad 正在为 AI 生成的应用构建版本管理功能。由于用 AI 做应用时迭代是常态——反复尝试不同 prompt、调整逻辑、重新生成代码,Dyad 希望让这一循环中的版本管理更简单。
Neon 发布了一个公开的开源模板,用于构建全栈 AI Agent,可作为学习 codegen agent 的起点。该模板面向越来越多使用 Neon 驱动 vibe coding 平台的团队,帮助他们自行搭建代码生成 Agent。
OpenAI 发布 gpt-oss-safeguard 技术报告,介绍 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 两个开源权重推理模型。两者基于 gpt-oss 模型后训练,能依据给定政策进行推理并对内容打标。报告还以原始 gpt-oss 模型为基线,给出了 gpt-oss-safeguard 的安全评估结果。
Vercel 发布 Vercel Agent,定位为可随时间扩展技能的多用途 agent,首批上线 Code Review 和 Investigations 两项能力。
Hugging Face AI Sheets 发布重大更新,为这款开源无代码数据工具加入视觉能力,可上传图片或含图数据集,用视觉模型提取收据、图表、扫描文档中的结构化数据,并生成、编辑图片。功能由 Inference Providers 提供的数千个开源模型驱动,结果可导出为 CSV 或 Parquet。
IBM 发布开源小语言模型系列 Granite 4.0,其中 30B 参数的长上下文 instruct 模型 ibm-granite/granite-4.0-h-small 已上线 Replicate,可通过 cURL、JavaScript 和 Python 客户端调用 API。
Vercel 宣布与 Anthropic 合作,将 Claude Sonnet 4.5 接入 AI Gateway 和 AI SDK,并开源 Coding Agent Platform 模板。
推荐理由:Vercel 官方说明 Claude Sonnet 4.5 在 Next.js 构建与 v0 前端生成上的改进,并给出可部署的编码 Agent 模板。
开发者推出 VibeGame,一个基于 three.js、rapier 和 bitecs 构建的高层声明式游戏引擎,专为 AI 辅助游戏开发设计。作者先尝试了 Roblox MCP、Unity MCP 和 Web 三种方案,发现 Web 栈的 AI 表现最好但抽象层级太低,Roblox 抽象好却封闭且缺乏上下文管理。VibeGame 结合两者优势,内置物理、渲染和常见游戏机制,保持代码库精简可控。
Ollama 上线 web search API,个人账号可免费使用,更高调用频率需通过 Ollama 云订阅获得。该能力以 REST API 提供,并在 Ollama 的 Python 和 JavaScript 库中做了更深的工具集成,可让模型获取最新网页信息以减少幻觉,也支持 gpt-oss 等模型执行长时间研究任务。
Together AI 与 Hugging Face 联合发布新能力,可直接用 Together AI 的基础设施微调 Hugging Face Hub 上的任意兼容 LLM,训练完成后还能把模型回传到 Hub。
Vercel 发布 vercel/ai-action@v2,让开发者在 GitHub Actions 工作流中直接调用 AI SDK 与 AI Gateway,指定 prompt、model 和 api-key 即可生成文本或结构化 JSON。
Google 发布 EmbeddingGemma,一个 308M 参数、2K 上下文窗口、支持 100 多种语言的多语言嵌入模型,量化后内存占用低于 200MB,面向端侧场景。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同等规模的开源模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。
推荐理由:OpenAI 发布两款开放权重模型,给出了参数规模、Apache 2.0 许可和消费级硬件部署定位。
OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开放权重推理模型,采用 Apache 2.0 许可,并适用其 gpt-oss 使用政策。
推荐理由:OpenAI 发布两款开放权重推理模型,采用 Apache 2.0 许可,可了解其规格与使用条款。
Ollama 与 OpenAI 合作,把 gpt-oss 的 20B 和 120B 两个开源权重模型带到 Ollama,支持函数调用、网页搜索、python 工具调用和结构化输出,并可调节 low、medium、high 三档推理强度。
推荐理由:Ollama 与 OpenAI 合作上线 gpt-oss 两个开源权重模型,并给出本地运行的显存门槛与命令。
Neon 在 Laracon 2025 演示了一种用提示词构建 Laravel 应用的新方式,并推出 app.build。app.build 是面向 agent 代码生成的开源参考架构,可从自然语言生成全栈 Web 应用,覆盖从项目脚手架到编写代码的流程。
Qwen 团队发布 Qwen3-Coder,首个变体 Qwen3-Coder-480B-A35B-Instruct 是 480B 参数 MoE 模型,激活 35B 参数,原生支持 256K 上下文,用 YaRN 可扩展到 1M。
推荐理由:Qwen 官方发布 480B 参数 MoE 代码模型并开源 CLI 工具,给出与 Claude Sonnet 4 的基准对比和接入方式。