Hacker News Show HN· sardor_r1·· 2 天前AI 评分50
Vramkit 开源：在 MacBook 上为 LLM 推理做无损显存压缩
Show HN: Vramkit – lossless VRAM compression for LLM inference, on a MacBook
AI 导读
开发者发布开源项目 Vramkit，用无损权重编解码和 KV-cache 量化压缩 LLM 推理显存占用。
来源：Hacker News Show HN · github.com