DeepSeek 发布 DeepSeek-V4.1-Flash-1017 小版本更新
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,称这是对 DeepSeek-V4.1-Flash 的小版本更新,在推理、编码、Agent 任务和视觉基准上有明显提升,同时缩短任务执行时间和输出长度。
DeepSeek 发布 DeepSeek-V4.1-Flash-1017,称这是对 DeepSeek-V4.1-Flash 的小版本更新,在推理、编码、Agent 任务和视觉基准上有明显提升,同时缩短任务执行时间和输出长度。
Black Forest Labs 发布 FLUX 3 Image Klein,一个 5.6B 参数的开源权重模型,支持文生图、图像编辑和多参考图生成,最多可用 10 张参考图,具备原生 4K 生成、像素级编辑和边界框控制能力。
PS5LM 让越狱 PS5 通过 llama.cpp 的 Vulkan 后端在主机 RDNA 2 GPU 上原生运行 GGUF 模型,占用 11.4 GB 共享内存,无需 PC、云端或账号。
美国新实验室 Reflection 在 Hugging Face 发布首个开源模型 Beam,这是一个 501B 参数的 MoE 模型,每 token 激活 23B,支持 1M token 上下文,采用 Apache 2.0 许可,聚焦编码与 Agent 场景。
推荐理由:Hugging Face 官方博客详解 Reflection 开源 501B MoE 模型 Beam 的架构、部署与后训练配方,适合关注大模型自托管与微调的团队。
一位开发者在 Reddit r/SaaS 发帖求助,称自己构建的工具消耗大量 AI token,API 账单持续走高。他已尝试按任务复杂度混用大小模型、启用 prompt caching 并优化后端,也考虑过自托管 Hugging Face 模型,但准确率令人失望。他愿意接受更慢的响应速度,只求在保证准确率的前提下降低 AI 成本,想了解自托管是否可行或有其他替代方案。
AskDocDoc 的 CEO 用 claude-sonnet-5 在 Claude Code 上跑了 12 个编程任务、6 种会话重置策略、共 36 次运行,发现成本呈 U 形:每三个任务清一次最便宜,平均每次 $1.62;每任务都清为 $2.17,高出 33.5%(p = 0.002,Holm 校正后 0.011)。
Meta 超级智能实验室发布 Muse Wonder 与 Muse Wonder Full,Wonder 在 API 上定价 $4/$20 每百万 token,拿到前沿分数的 Wonder Full 仅在 Muse Code 内可用。
xAI 发布 Grok Voice 3.0 语音到语音模型,延迟低于 1 秒并改善客服表现;Jev 1.14.0 新增图像支持、新类型与更长上下文,1.13.0 已开启多模态。Google Research 的 Harness² 让 agent 在不改模型权重的前提下迭代改进提示词、工具、记忆与编排,并把经验带入后续任务。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 参数、仅 2B 激活参数的推理模型,面向设备端快速、私密的智能体,是 LFM2.5 系列中最大也是最后一款模型。
Kiln 开源了 Seahaven,一个用 Python 构建 AI agent 合成世界的框架,提供有状态、可重置、可并行的环境,用于 evals 和 RL,采用 MIT 许可并已发布到 PyPI。
Hugging Face 上出现开源权重模型 SPEV,一个 30B 参数全模态决策模型,可对文本、音频、图像和视频中的问题打分,一次前向传播返回每个选项的概率与最高概率答案。其骨干为 Qwen3-Omni-30B-A3B Thinker 加 LoRA 适配器,采用 Apache-2.0 许可,Sprag 托管 API 免费至 2026 年 10 月。
OpenAI 在发现高管会议室藏有隐藏录音设备后通知 FBI,员工 Abdulrahman Alfozan 被解雇并逮捕,OpenAI 称未发现模型权重、源代码或客户数据被访问。
AgentGate 是一个面向自主 AI Agent 工具执行的开源进程外授权代理与安全网关,在工具调用进入生产基础设施前拦截并评估提示注入与影响范围风险。
Interfaze 发布开放权重模型 Interfaze 1.1 Lite,采用混合架构(MoA),由推理核心加多个专家模型组成,可在单张 80GB GPU 上离线运行。
Liquid AI 发布 LFM2.5-24B-A2B,一个 24B 总参数、2B 激活参数的推理模型,面向设备端运行私有 Agent,会先思考再回答并调用工具。
推荐理由:Liquid AI 发布 24B 总参数、2B 激活参数的端侧推理模型,给出与更大 MoE 的基准对比和本地部署方式。
一位开发者给自己的博客做了「ask my blog」:用静态嵌入检索出 4 段最相关段落,再由浏览器端小型语言模型用两句话总结,全程不上传数据。
微软发布 bitnet.cpp,这是 1-bit LLM(如 BitNet b1.58)的官方推理框架,提供优化内核,支持在 CPU 和 GPU 上快速无损推理 1.58-bit 模型,NPU 支持即将推出。
Janas-LLM 是一个用 C 编写、除 C 库外无依赖的实验性推理引擎,把 MoE 权重留在磁盘上,按 token 需要的专家从 NVMe SSD 流式读取,让 48.4 GB 的 Qwen3-Next-80B-A3B 在 32 GB 内存笔记本上运行。
Precision Numerics 发布 Boole-1.7B,一个从 Qwen3-1.7B 蒸馏出的 1-bit 语言模型,存储权重 247 MB,十项基准平均分 50.55,为 BF16 基线 58.83 的 85.9%,权重体积缩小 13.9 倍。
tiny-audio 在 GitHub 开源,把冻结的预训练语音编码器接到预训练 LLM 上,只训练约 80M 参数的投影层,训练成本约 25 美元。仓库发布的模型在 LibriSpeech test-clean 上 WER 为 1.8%,12 个基准共 11,822 个样本的汇总 WER 为 7.4%。
作者发布 transformers5-qwen3.5-recipe 仓库,用 GGUF 作为低显存 LoRA 训练的基础模型格式,在无 CPU offload 的情况下于 40 GiB 显存训练 Qwen3.8-Flash-Next(125B-A6B + 51B engram)。
NDS 开源了 Rampart,一个在浏览器本地运行的 PII 过滤系统,由正则规则层和 MiniLM 模型组成,模型含 tokenizer 共 14.7MB,WebGPU 下 p50 延迟 3.9ms。
一位开发者在 Reddit r/SideProject 以 €5,000(可议价)出售 Plasmova 四模型组合,包含 Nova v1、v1.1、v2、v3 的模型架构、训练脚本、checkpoint 与权重、推理代码及文档。Nova v3 在部分基准上以仅 1% 的数据量取得与同参数规模模型相当的结果。卖方希望买家整体接手技术实现与开发工作,而非只买训练好的权重。
阿里巴巴把内部使用两年的 AI 代码审查助手开源为 Open Code Review,这是一个配置模型端点即可使用的 CLI 工具,读取 Git diff 后由具备工具调用能力的 agent 生成带行级定位的结构化审查意见,也支持 ocr scan 整文件扫描。
Cloudflare 在 Workers AI 上线 Clef-omni,这是 Clef 系列开放权重决策模型的新成员,可直接接收音频(WAV 或 MP3)和视频(MP4 或 WebM)输入,无需先转录再串联模型。
推荐理由:Cloudflare 在 Workers AI 上线支持音视频输入的 Clef-omni,并下调 Clef-flash 价格,可据此比较各档模型的价格与上下文取舍。
Cloudflare 发布 Clef-omni,可同时接收音频(wav/mp3)、视频(mp4/webm)、图像和文本输入,基于 Qwen3-Omni-30B-A3B-Instruct MoE 架构,已在 HuggingFace 开源权重。
推荐理由:Cloudflare 发布支持音视频输入的多模态决策模型 Clef-omni,并同步下调 Clef-flash 价格、提升 Clef 速度。
HAL-X AI 发布开源决策模型 THX-01,采用非自回归架构,给定状态和自然语言问题后一次前向传播返回校准答案,单 GPU 上约 10 ms,参数 322M(307M 编码器加 15M 决策头),Apache 2.0 许可。
论文测试了公开包 galahad-kv,它把每块约 16,000 token 的 KV 状态按字节精确存入加密本地 NVMe 磁盘,之后直接加载而不重算。
作者用 HuggingChat 里的 ML-intern 模式,在几天内做出六个模型,包括把 9B 提示词改写器蒸馏成 0.8B 的 Pocket Rewriter、柑橘病害 VLM、Huggy LoRA、相机角度 LoRA、涂鸦替换 LoRA 和 Agate 4 步蒸馏模型,总 GPU 与 CPU 算力费用约 103 美元。
推荐理由:作者公开了用 ML-intern 从零训练六个小模型的完整提示词写法与逐项算力账单,可迁移到自己的模型微调流程。
IronBee Gamer 是一个开源项目,能直接读取浏览器游戏页面并自动游玩,游戏本身不提供 API 或钩子。它通过 2D canvas 绘制调用记录、Phaser/PixiJS/Cocos/Three.js 场景导出或像素网格来理解页面,由 Claude Code 或 Codex CLI 中的 LLM 充当训练器,为每个游戏生成状态转换代码和决策规则。
Superwhisper 发布 S1-mini,一个 0.6B 参数的语音转文字输出文本规范化模型,提供 GGUF 构建版本 v1,可用于 llama.cpp、Ollama、LM Studio 等基于 llama.cpp 的运行时。
IronBee Gamer 让 LLM 为每个浏览器游戏训练出规则配置,再由一个快速决策引擎实时操作游戏,无需游戏提供 API 或 hook。它内置 11 款游戏,通过 canvas 录制、Phaser/PixiJS/Cocos 状态导出或页面代码读取来感知画面,训练好的游戏模型约 700 MB,可在 Hugging Face 下载后直接开玩。
基于 LAYA 本地开源决策模型的决策模型训练工作台更新,新增决策模型训练和目标检测训练两项功能。决策模型训练(开源版 JEV)支持用任意 Hugging Face 编码器新建 Laya 格式模型或在官方 Laya 权重上微调,训练结果由项目自有服务端提供,接口仍为 /v1/systemone,4 GB 显存即可训练小模型,无显卡可用 CPU 训练。
面向 Agent 开发者,多数场景的答案是两者都用:难推理任务用闭源前沿模型,嵌入、重排、抽取等高频重复任务用自托管的开放权重模型。文章指出所谓"开源"多为开放权重,OLMo、Pythia、T5 才算开源,Qwen3、DeepSeek V4、Llama 4、gpt-oss 属开放权重,且许可证差异大。计费上闭源 API 按 token、自托管 GPU 按小时,高频稳定负载自托管更省。
开发者发布 Show HN 项目,可在浏览器中直接运行 Gutsy 决策模型。原文未披露具体功能、价格或可用性细节。
OpenAI 从一个未发布的内部前沿模型发布 722 篇数学手稿,归入 372 个相关结果族,来自约 4,000 个研究问题的评估,平均每个结果消耗约 3 小时 ChatGPT Pro 算力。
Strands 发布 Strands Decider 2B,一个 20 亿参数的开源决策模型,可在本地 CPU 或 GPU 运行,适合快速实验与本地开发。
Google DeepMind 发布 EmbeddingGemma 2,一个 740M 参数、Apache 2.0 许可的端侧多模态嵌入模型,原生支持文本、图像、音频和视频的统一嵌入空间。
推荐理由:Google DeepMind 发布 740M 参数的多模态嵌入模型,给出端侧内存占用与向量截断方案,可据此评估本地检索管线。
开发者发布了一个 4B 参数的稳定币风险决策引擎模型,用于为稳定币支付做风控把关,宣称决策准确率达 99.5%。该模型以 Show HN 形式发布在 Hacker News,目前获得 1 分、0 条评论。
Google DeepMind 发布 EmbeddingGemma 2,这是基于 Gemma 4 架构、采用 Apache 2.0 许可的 740M 参数多模态嵌入模型,可把文本、图像、音频和视频映射到统一嵌入空间。