跳到正文
热点事件持续更新

BigMoeOnEdge 开源:手机跑大 MoE 模型

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月20日,开发者通过 Hacker News 的 Show HN 发布开源项目 BigMoeOnEdge。该项目是一个基于 llama.cpp 公共 API 的自适应流式优化器,针对 MoE(混合专家)模型设计:它把当前 token 用不到的专家从存储按需读入,而非一次性全部载入内存,从而让数倍于内存大小的模型也能在手机和笔记本上运行。报道称,其输出与将全部专家载入内存时保持一致。目前事件进展停留在项目开源发布阶段,尚无后续更新。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hacker News Show HN
    BigMoeOnEdge 开源:在 llama.cpp 上做流式加载,让手机和笔记本跑起大 MoE 模型

    BigMoeOnEdge 是一个基于 llama.cpp 公共 API 的自适应流式优化器,把 MoE 模型中当前 token 用不到的专家从存储按需读入,让数倍于内存大小的模型也能运行,输出与全部载入内存时一致。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。