跳到正文
原文
V2EX 最新主题· 52txr·· 13 天前AI 评分22

V2EX 讨论:24GB 显存本地部署写代码小模型,Qwen3-Coder-30B-A3B 等怎么选

[Local LLM] 有什么本地部署好使的写代码小模型吗? 24GB 显存玩玩那种

AI 导读

一位 3090 24GB 显存、64GB DDR5 内存的用户在 V2EX 询问本地部署写代码小模型的选型,已调研可部署 Qwen3-Coder-30B-A3B(Q4_K_M / AWQ)。

来源:V2EX 最新主题 · v2ex.com