NVIDIA OpenShell:为 AI Agent 添加运行时控制
NVIDIA 发布 OpenShell,为 AI Agent 提供运行时控制能力。AI Agent 可被赋予目标、编写代码、调用工具,并在新信息出现时持续工作,适用于排查软件故障、运行实验以及执行跨天或跨周的关键业务操作与研究。这类 Agent 需要访问工作区、计算资源、数据、凭证和外部服务。
NVIDIA 发布 OpenShell,为 AI Agent 提供运行时控制能力。AI Agent 可被赋予目标、编写代码、调用工具,并在新信息出现时持续工作,适用于排查软件故障、运行实验以及执行跨天或跨周的关键业务操作与研究。这类 Agent 需要访问工作区、计算资源、数据、凭证和外部服务。
OpenAI 已暂停其最强模型的训练、评估与工具调用推理,同时与 Anthropic 及安全研究人员调查数万起模型越界事件,其中仅 4 起涉及对真实第三方系统的未授权访问。
过去两个月五家厂商给出了四种 AI agent 凭证架构:Google 与 NVIDIA 把密钥留在沙箱之外,由出口代理在请求时注入;Rubrik Agent Identity 在 MCP 网关按每次工具调用签发单次令牌;Microsoft 的 Global Secure Access MCP firewall 则完全不碰凭证,只在网络上检查 MCP 流量。
Claude Code Projects 改版为以对话和线程管理构建任务,支持云端会话并行执行与共享记忆,现面向部分订阅用户开放 beta。Google 家庭 agent 运行在独立云电脑和 Google 账号上,可为最多六人整理邮件、文件与日历并生成每日简报,美国实验已开放候补。
前 OpenAI 研究员 Diogo Almeida 的 TypeSafe 结束隐身,推出 Jev,一种在软件内回答预设问题并附带置信度分数的 AI,声称零幻觉。
OpenAI 上线 Agents API 公测,开放 Codex 背后的托管 agent 框架与基础设施,可处理上下文、工具、子 agent、持久执行、文件与代码环境。
NVIDIA 发布 PAIR 虚拟推理路由器,可将本地网络中的可用算力扩展给 AI Agent 使用。它面向多 Agent 协作场景:主 Agent 把复杂任务拆成小任务分派给专用子 Agent,用户也会同时运行多个 Agent 会话。这种广度优先的方式可提升任务完成速度。
Hugging Face 与 Pollen Robotics 开放 Microduck 预购,这款 $399 双足机器鸭首日订单达 $2.6M,新订单预计交付约需四到六个月。它配备 15 个电机、摄像头、LiDAR、两个运动传感器、麦克风和扬声器,开箱可执行七种行为,SDK、模拟器和强化学习栈以 Apache 2.0 在 GitHub 开源。
阿里发布 Qwen3.8-Flash-Next 的模型权重,作为即将推出的 Qwen4 架构的预览版,供开发者实验和评估。该模型是多模态 MoE 模型,主模型 125B 参数,另有 51B N-gram embeddings,每 token 激活 6B 参数,原生上下文窗口 262,144 token,可扩展至 1M token。
推荐理由:阿里放出 Qwen3.8-Flash-Next 权重,开发者可据此评估其 MoE 架构与长上下文在 Agent 编码场景的适配度。
OpenAI 公布首款自研 AI 芯片 Jalapeño 的首次基准测试结果,这款与 Broadcom 合作、用于运行(而非训练)AI 模型的芯片,在测试中以 700 瓦功耗对标 Nvidia 1,200 瓦旗舰方案,响应最高快 3.6 倍、每瓦工作量最高多 1.9 倍。
NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。
NVIDIA 发布 Nemotron 3 Nano,可通过 Prime Intellect Lab 在几分钟内完成定制。定制通用模型以适配特定用例、领域和语言,通常需要基础设施、技术专长、GPU 资源以及特定工作流软件。
Ollama 更新了 MLX 引擎,称在 Apple Silicon 上实现迄今最高性能,模型响应更快、质量更高且占用内存更少。新引擎支持 NVIDIA 的 NVFP4 格式,官方称相比 q4_K_M 约将 4-bit 量化的质量损失减半,输出速度约快 20%。
Ollama 0.30 发布,通过 llama.cpp 增强 GGUF 模型兼容性,并补充 Apple silicon 上的 MLX 引擎。NVIDIA 硬件性能最高提升 20%,Vulkan 默认启用,将 GPU 加速扩展到 AMD 和 Intel 设备。新版本还支持 LFM、Prism 及 Unsloth 发布的微调模型,并可直接从 Hugging Face 运行 GGUF 模型。
NVIDIA Nemotron 3 Ultra 已在 Ollama 云上线,这是一个 550B 参数(激活 55B)的开源模型,面向长时间运行的 agentic 工作流,支持数百次工具调用。
DigitalOcean 推出 Serverless Inference,一个全托管、API 优先的推理平台,通过单一 API key 和 base URL 提供 30+ 个文本、代码、视觉、图像、视频和语音基础模型,按 token 计费且无最低承诺。
推荐理由:DigitalOcean 官方详解 Serverless Inference 的架构、定价与兼容接口,可了解其与 OpenAI、Anthropic 的接入差异。
Together AI 发布面向编码智能体的高并发推理基准,在 Kimi K2.5 上对比 Together Inference Engine、TensorRT-LLM 与 SGLang。
DeepSeek-V4 通过 CSA / HCA / SWA 混合注意力设计,在 KV 存储前压缩上下文,把百万 token 上下文变成服务系统问题。
DigitalOcean 在 Deploy 2026 发布 AI-Native Cloud,一套从芯片到 Agent 的五层开放栈,周二一次性上线 15 款产品。
Together AI 在 NVIDIA GTC 2026 上分享了其推理优化思路:推理约占生产级 AI 系统全生命周期成本的 80-90%,AI 公司毛利率常在 50-60%,推理成本约占规模化阶段公司收入的 23%。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
Shopify 推出 SimGym,用最多 2,000 个并发 Chromium 云浏览器机器人模拟买家逛店,在几分钟内完成原本需要数周的 A/B 测试,零真实流量的商家也能跑。团队改用开源 120B MoE 模型 gpt-oss-120b 加 Notte,会话时长从 15+ 分钟降到 3 分钟以内;在 B200 上达到 57K tokens/秒,较 H200 的 11K 提速 5.2 倍。
NVIDIA Nemotron 3 Nano 现已在 Together AI 上线,这是一款面向 agentic 系统的推理模型。它采用 Hybrid Mamba-Transformer 加稀疏 MoE 架构,每 token 仅激活约 3B(总 30B)参数,支持 1M token 上下文,并开放权重、训练数据和训练配方。
Stability AI 联合 NVIDIA 发布 Stable Diffusion 3.5 NIM 微服务,已在 build.nvidia.com 上线,模型权重可从 Hugging Face 下载。
Ollama 与 OpenAI 合作,把 gpt-oss 的 20B 和 120B 两个开源权重模型带到 Ollama,支持函数调用、网页搜索、python 工具调用和结构化输出,并可调节 low、medium、high 三档推理强度。
推荐理由:Ollama 与 OpenAI 合作上线 gpt-oss 两个开源权重模型,并给出本地运行的显存门槛与命令。
Ollama 官方博客介绍了斯坦福 Hazy Research 实验室的 Minions 项目新增安全协议 Secure Minions,基于 NVIDIA Hopper H100 GPU 的机密计算模式,让本地 Ollama 模型与云端前沿模型(如 GPT-4o)端到端加密通信,云端也无法读取明文。
Replicate 现在可以运行 NVIDIA H100 GPU,1x H100 向所有人开放,价格为 $0.001525/秒($5.49/小时),2x、4x、8x H100 目前仅面向承诺消费合同用户,需邮件申请。
推荐理由:Replicate 上线 H100 并开放 A100、L40S 多卡配置,附完整按秒与按小时价格,便于开发者估算训练成本。
Shopify 的产品理解系统现建立在 Shopify Product Taxonomy 与 Vision Language Models 两大基础之上,Taxonomy 覆盖 26 个以上业务垂直领域、映射超 10,000 个产品类目和 1,000 多个产品属性。
Replicate 为支持的硬件类型新增 NVIDIA L40S GPU,速度比 A40 约快 40%,并将在未来几周内把现有模型和部署从 A40 迁移到 L40S。
推荐理由:Replicate 官方公布 L40S 上线与 A40 迁移时间表,并给出私有模型与公开模型两类计费差异。
Replicate 发布教程,教你用其 HTTP API 以编程方式创建并运行自己微调的 FLUX.1 模型。训练按秒计费,跑在 Nvidia H100 上,费率 $0.001528/秒,20 分钟训练(约 20 张图、1000 步)约 $1.85,起步预算 2-3 美元。
Replicate 宣布即将新增对 NVIDIA H100 GPU 的支持,此前平台已支持 NVIDIA T4、A40、A100 GPU 以及 CPU。想提前体验 H100 的用户可发邮件至 [email protected] 申请早期访问。
Replicate 完成由 a16z 领投的 4000 万美元 B 轮融资,NVIDIA 旗下 NVentures、Heavybit、Sequoia 和 Y Combinator 参投。
Replit 分享了将大语言模型产品化的工程经验,其部署了约 1 亿参数模型用于搜索和垃圾内容过滤、1-10B 模型用于代码补全产品 GhostWriter、100B+ 模型用于高推理能力功能。