Hacker News Show HN· Corbenic·· 10 天前AI 评分56
galahad-kv 用加密 NVMe 存 KV 状态，在 5000 万 token 上免重算加载
Show HN: Long term Memory and 50M token window for LLM
AI 导读
论文测试了公开包 galahad-kv，它把每块约 16,000 token 的 KV 状态按字节精确存入加密本地 NVMe 磁盘，之后直接加载而不重算。
来源：Hacker News Show HN · huggingface.co