V2EX 最新主题· qshine·· 3 小时前AI 评分52
开发者开源中文手册：用一张 4090 从零走通 QLoRA 微调与 vLLM 部署
[分享创造] 写了本开源中文手册：一张 4090 从零走通 QLoRA 微调 + vLLM 部署，给不做算法的开发者
AI 导读
开发者 qshine 开源了一本中文手册，带不做算法的开发者用一张 RTX 4090（24 GB）从零走完 QLoRA 微调、BF16 合并到 vLLM 部署成 OpenAI 兼容 API 的全链路。
来源：V2EX 最新主题 · v2ex.com