Cloudflare Workers AI 上线 Pipecat PhoneLLM Mini 语音模型
Daily 旗下 Pipecat 团队训练的 PhoneLLM Mini(@cf/daily-co/phonellm-mini-alpha-2)已在 Cloudflare Workers AI 上线,面向语音代理等实时 AI 应用。
Daily 旗下 Pipecat 团队训练的 PhoneLLM Mini(@cf/daily-co/phonellm-mini-alpha-2)已在 Cloudflare Workers AI 上线,面向语音代理等实时 AI 应用。
Meta 发布 Muse Spark Open,这是一个面向编码优化的 816B 混合专家(MoE)模型,激活参数 42B,上下文窗口 1M token。该模型在 NVIDIA GB300 NVL72 Blackwell Ultra 上训练,专门针对 agentic coding 工作流,官方称其首次尝试准确率更高、工具调用更可靠,并能深入理解代码仓库。
推荐理由:Meta 发布面向编码的 816B MoE 开源模型,给出参数规模、上下文长度与硬件适配信息。
NVIDIA 的 Nemotron 3.5 Lightning 已在 Vercel AI Gateway 免费提供,模型名为 nvidia/nemotron-3.5-lightning-free,由 NVIDIA 提供服务。
推荐理由:NVIDIA 新模型在 Vercel AI Gateway 免费开放,读者可据此评估是否接入自己的 Agent 或编码工具。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、2B 激活参数的推理模型,面向设备端运行私有 Agent,会先思考再回答并调用工具。
推荐理由:Liquid AI 发布 24B 总参数、2B 激活参数的端侧推理模型,给出与更大 MoE 的基准对比和本地部署方式。
HackerNoon 作者 nfrankel 分享用 AI 辅助追溯家族树,称自己持续完善家谱并加深了对该主题的理解。同期 TechBeat 还收录了 101 个基于 TypeSafe AI 的 System One 模型构建的真实项目案例,以及 AI Agent 定价阶梯的五个层级:席位、token、对话、解决、结果。
Hacker News 上有人发帖询问是否有人看过 REA(reverse engineer anything)GitHub 仓库,起因是 X 上大量帖子讨论该仓库并称知识产权与软件权利几乎一文不值。发帖者表示认同,并反讽式呼吁把 Nvidia 的 CUDA、Nintendo 和 Apple 的专有软件全部逆向工程并"开源",理由是软件正在归零、几乎毫无价值。
HackerNoon 的 TechBeat 日报收录了《Why AI Agents Forget Everything (and How to Build Ones That Don't)》,讲解 agent 记忆如何捕获事件、检索相关上下文并遗忘过时信息。
Anaconda 发布 Kilo Desktop,将模型选择、Agent 编排、Notebook 与治理整合进一个桌面应用,可在一个界面访问 500 多个模型,并按任务切换。
V2EX 用户发帖讨论 GitHub 上的开源项目 Strata,称其能让普通游戏电脑跑动 125B 参数级别的 Qwen3.8-Flash-Next,无需 48GB 或 80GB 显存。
AI 初创公司 Tavus 预览了名为 Griffin 的“Human Interaction Model”,可渲染出在实时视频中能看、能听、能说并做出反应的逼真人像。
OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。
推荐理由:OpenAI 新模型在 NVIDIA Blackwell 上的推理加速细节,涉及 API 可用性与 token 生成速度对编码 Agent 的影响。
NVIDIA 发布开源 C++ 示例集 Do Inference Now (DIN) Deploy,结合 ONNX Runtime 与 NVIDIA TensorRT RTX 执行提供程序,帮助开发者把模型 checkpoint 落地为原生本地 AI 应用。该示例集面向需要可移植模型格式、可靠运行时与跨目标系统加速的本地应用场景。
NVIDIA 发布 OpenShell,为 AI Agent 提供运行时控制能力。AI Agent 可被赋予目标、编写代码、调用工具,并在新信息出现时持续工作,适用于排查软件故障、运行实验以及执行跨天或跨周的关键业务操作与研究。这类 Agent 需要访问工作区、计算资源、数据、凭证和外部服务。
过去两个月五家厂商给出了四种 AI agent 凭证架构:Google 与 NVIDIA 把密钥留在沙箱之外,由出口代理在请求时注入;Rubrik Agent Identity 在 MCP 网关按每次工具调用签发单次令牌;Microsoft 的 Global Secure Access MCP firewall 则完全不碰凭证,只在网络上检查 MCP 流量。
前 OpenAI 研究员 Diogo Almeida 的 TypeSafe 结束隐身,推出 Jev,一种在软件内回答预设问题并附带置信度分数的 AI,声称零幻觉。
NVIDIA 发布 PAIR 虚拟推理路由器,可将本地网络中的可用算力扩展给 AI Agent 使用。它面向多 Agent 协作场景:主 Agent 把复杂任务拆成小任务分派给专用子 Agent,用户也会同时运行多个 Agent 会话。这种广度优先的方式可提升任务完成速度。
Hugging Face 与 Pollen Robotics 开放 Microduck 预购,这款 $399 双足机器鸭首日订单达 $2.6M,新订单预计交付约需四到六个月。它配备 15 个电机、摄像头、LiDAR、两个运动传感器、麦克风和扬声器,开箱可执行七种行为,SDK、模拟器和强化学习栈以 Apache 2.0 在 GitHub 开源。
阿里发布 Qwen3.8-Flash-Next 的模型权重,作为即将推出的 Qwen4 架构的预览版,供开发者实验和评估。该模型是多模态 MoE 模型,主模型 125B 参数,另有 51B N-gram embeddings,每 token 激活 6B 参数,原生上下文窗口 262,144 token,可扩展至 1M token。
推荐理由:阿里放出 Qwen3.8-Flash-Next 权重,开发者可据此评估其 MoE 架构与长上下文在 Agent 编码场景的适配度。
OpenAI 公布首款自研 AI 芯片 Jalapeño 的首次基准测试结果,这款与 Broadcom 合作、用于运行(而非训练)AI 模型的芯片,在测试中以 700 瓦功耗对标 Nvidia 1,200 瓦旗舰方案,响应最高快 3.6 倍、每瓦工作量最高多 1.9 倍。
NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。
NVIDIA 发布 Nemotron 3 Nano,可通过 Prime Intellect Lab 在几分钟内完成定制。定制通用模型以适配特定用例、领域和语言,通常需要基础设施、技术专长、GPU 资源以及特定工作流软件。
Ollama 更新了 MLX 引擎,称在 Apple Silicon 上实现迄今最高性能,模型响应更快、质量更高且占用内存更少。新引擎支持 NVIDIA 的 NVFP4 格式,官方称相比 q4_K_M 约将 4-bit 量化的质量损失减半,输出速度约快 20%。
Ollama 0.30 发布,通过 llama.cpp 增强 GGUF 模型兼容性,并补充 Apple silicon 上的 MLX 引擎。NVIDIA 硬件性能最高提升 20%,Vulkan 默认启用,将 GPU 加速扩展到 AMD 和 Intel 设备。新版本还支持 LFM、Prism 及 Unsloth 发布的微调模型,并可直接从 Hugging Face 运行 GGUF 模型。
NVIDIA Nemotron 3 Ultra 已在 Ollama 云上线,这是一个 550B 参数(激活 55B)的开源模型,面向长时间运行的 agentic 工作流,支持数百次工具调用。
DigitalOcean 推出 Serverless Inference,一个全托管、API 优先的推理平台,通过单一 API key 和 base URL 提供 30+ 个文本、代码、视觉、图像、视频和语音基础模型,按 token 计费且无最低承诺。
推荐理由:DigitalOcean 官方详解 Serverless Inference 的架构、定价与兼容接口,可了解其与 OpenAI、Anthropic 的接入差异。
Together AI 发布面向编码智能体的高并发推理基准,在 Kimi K2.5 上对比 Together Inference Engine、TensorRT-LLM 与 SGLang。
DeepSeek-V4 通过 CSA / HCA / SWA 混合注意力设计,在 KV 存储前压缩上下文,把百万 token 上下文变成服务系统问题。
DigitalOcean 在 Deploy 2026 发布 AI-Native Cloud,一套从芯片到 Agent 的五层开放栈,周二一次性上线 15 款产品。
Together AI 在 NVIDIA GTC 2026 上分享了其推理优化思路:推理约占生产级 AI 系统全生命周期成本的 80-90%,AI 公司毛利率常在 50-60%,推理成本约占规模化阶段公司收入的 23%。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
Shopify 推出 SimGym,用最多 2,000 个并发 Chromium 云浏览器机器人模拟买家逛店,在几分钟内完成原本需要数周的 A/B 测试,零真实流量的商家也能跑。团队改用开源 120B MoE 模型 gpt-oss-120b 加 Notte,会话时长从 15+ 分钟降到 3 分钟以内;在 B200 上达到 57K tokens/秒,较 H200 的 11K 提速 5.2 倍。
NVIDIA Nemotron 3 Nano 现已在 Together AI 上线,这是一款面向 agentic 系统的推理模型。它采用 Hybrid Mamba-Transformer 加稀疏 MoE 架构,每 token 仅激活约 3B(总 30B)参数,支持 1M token 上下文,并开放权重、训练数据和训练配方。
Stability AI 联合 NVIDIA 发布 Stable Diffusion 3.5 NIM 微服务,已在 build.nvidia.com 上线,模型权重可从 Hugging Face 下载。
Ollama 与 OpenAI 合作,把 gpt-oss 的 20B 和 120B 两个开源权重模型带到 Ollama,支持函数调用、网页搜索、python 工具调用和结构化输出,并可调节 low、medium、high 三档推理强度。
推荐理由:Ollama 与 OpenAI 合作上线 gpt-oss 两个开源权重模型,并给出本地运行的显存门槛与命令。
Ollama 官方博客介绍了斯坦福 Hazy Research 实验室的 Minions 项目新增安全协议 Secure Minions,基于 NVIDIA Hopper H100 GPU 的机密计算模式,让本地 Ollama 模型与云端前沿模型(如 GPT-4o)端到端加密通信,云端也无法读取明文。
Replicate 现在可以运行 NVIDIA H100 GPU,1x H100 向所有人开放,价格为 $0.001525/秒($5.49/小时),2x、4x、8x H100 目前仅面向承诺消费合同用户,需邮件申请。
推荐理由:Replicate 上线 H100 并开放 A100、L40S 多卡配置,附完整按秒与按小时价格,便于开发者估算训练成本。
Shopify 的产品理解系统现建立在 Shopify Product Taxonomy 与 Vision Language Models 两大基础之上,Taxonomy 覆盖 26 个以上业务垂直领域、映射超 10,000 个产品类目和 1,000 多个产品属性。
Replicate 为支持的硬件类型新增 NVIDIA L40S GPU,速度比 A40 约快 40%,并将在未来几周内把现有模型和部署从 A40 迁移到 L40S。
推荐理由:Replicate 官方公布 L40S 上线与 A40 迁移时间表,并给出私有模型与公开模型两类计费差异。
Replicate 发布教程,教你用其 HTTP API 以编程方式创建并运行自己微调的 FLUX.1 模型。训练按秒计费,跑在 Nvidia H100 上,费率 $0.001528/秒,20 分钟训练(约 20 张图、1000 步)约 $1.85,起步预算 2-3 美元。
Replicate 宣布即将新增对 NVIDIA H100 GPU 的支持,此前平台已支持 NVIDIA T4、A40、A100 GPU 以及 CPU。想提前体验 H100 的用户可发邮件至 [email protected] 申请早期访问。