spinf-serve 开源：单卡批量打分推理引擎

2026 年 10 月 31 日，spinf 在 Hacker News 的 Show HN 板块开源了推理服务器 spinf-serve，采用 Apache 2.0 许可证。据该报道，spinf-serve 面向单张 24GB GPU，用于批量打分与决策推理；其工作方式是：一次读取内容即可回答多个问题，每个答案返回各选项的概率，而不是生成文本，并提供 OpenAI 兼容 API。目前该事件仅有这一篇报道，尚无后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。