Hacker News Show HN· bagdaerdev·· 2 天前AI 评分39
Show HN:哪台 Mac 能跑哪个 LLM、速度多快
Show HN: Which Mac runs which LLM, and how fast
AI 导读
一个计算器可按 Mac 芯片与模型算出本地 LLM 是否装得进统一内存、以及生成速度,例如 Llama 3.3 70B 在 Q4_K_M 下于 64 GB 的 M4 Pro 上约 5.7 tokens/sec。
来源:Hacker News Show HN · macyou.co