热点事件持续更新
BigMoeOnEdge 开源:手机跑大 MoE 模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月20日,开发者通过 Hacker News 的 Show HN 发布开源项目 BigMoeOnEdge。该项目是一个基于 llama.cpp 公共 API 的自适应流式优化器,针对 MoE(混合专家)模型设计:它把当前 token 用不到的专家从存储按需读入,而非一次性全部载入内存,从而让数倍于内存大小的模型也能在手机和笔记本上运行。报道称,其输出与将全部专家载入内存时保持一致。目前事件进展停留在项目开源发布阶段,尚无后续更新。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 23:45
BigMoeOnEdge 在 Show HN 开源,用流式加载让手机和笔记本运行大 MoE 模型。报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- Hacker News Show HNBigMoeOnEdge 开源:在 llama.cpp 上做流式加载,让手机和笔记本跑起大 MoE 模型
BigMoeOnEdge 是一个基于 llama.cpp 公共 API 的自适应流式优化器,把 MoE 模型中当前 token 用不到的专家从存储按需读入,让数倍于内存大小的模型也能运行,输出与全部载入内存时一致。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。