V2EX 最新主题· heybenben·· 1 天前AI 评分52
RigCheck 上线：查显卡或 Mac 能否本地跑开源模型，作者自租卡实测 24 次
[分享创造] RigCheck：查你的显卡 / Mac 能不能本地跑新出的开源模型，数字都有来源，还自己租卡实测了 24 次
AI 导读
作者上线 localrigcheck.com，用仓库真实文件大小并按 llama.cpp 的分配方式逐层计算 KV cache，判断显卡或 Mac 内存能否放下新开源模型。
来源：V2EX 最新主题 · v2ex.com