Hacker News Show HN· daemon1123·· 4 小时前AI 评分66
开源项目 ANE Fieldfare：在 16 GB Mac 上以 100 tok/s 运行 Gemma 4 26B
Show HN: Reverse engineering the ANE to run Gemma 4 26B at 100 Tok/s
AI 导读
开发者发布开源项目 ANE Fieldfare，用 Apple Neural Engine 做 prefill、GPU 做投机解码，在 16 GB Mac 上让 Gemma 4 26B-A4B 达到最高 100+ tokens/s，进程内存低于 2GB。
来源：Hacker News Show HN · github.com