Hacker News Show HN· dex0shubham·· 3 小时前AI 评分58
Pith 发布 LLM 输出 token 优化代理,验证不达标就拒绝改动
Show HN: Pith – a proxy that cuts LLM output tokens, and refuses when it can't
AI 导读
Pith 是一个放在 LLM 调用前的代理,通过回放采样请求、用 judge 模型对比基线答案,只在候选配置与基线自洽度持平时才固定该配置,否则拒绝并说明原因。
来源:Hacker News Show HN · github.com