跳到正文
原文
Hacker News Show HN· sulci_cache·· 3 小时前AI 评分58

Sulci 开源语义缓存库:按语义复用 LLM 回答,并公开基准与撤回的旧数据

Show HN: Sulci – a semantic cache that knows when not to answer

AI 导读

Sulci Labs 在 GitHub 开源了 Python 语义缓存库 Sulci Cache,按语义相似度复用 LLM 回答,命中时只需本地 embedding 而不调用模型。

来源:Hacker News Show HN · github.com