跳到正文
热点事件持续更新

quantized.uk 实测 117 个模型显存占用

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 23 日,Hacker News 的 Show HN 板块出现一个名为 quantized.uk 的索引站。该站收录 117 个 LLM 在 RTX 4090、3090、M3 Max 等真实硬件上的实测显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama),目的是帮用户判断 LLM 能否装进自己的 GPU。目前进展停留在索引站上线并被 Show HN 展示,报道未提及后续更新或数据变化。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. Hacker News Show HN
    Show HN:117 个模型在真实硬件上实测显存,帮你看 LLM 能不能装进自己的 GPU

    一个名为 quantized.uk 的索引站收录了 117 个 LLM 在 RTX 4090、3090、M3 Max 等真实硬件上的实测显存占用与 tok/s,并标注所用推理栈(llama.cpp、ExLlamaV2、vLLM、Ollama)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。