跳到正文
原文
Hacker News Show HN· dex0shubham·· 3 小时前AI 评分58

Pith 发布 LLM 输出 token 优化代理,验证不达标就拒绝改动

Show HN: Pith – a proxy that cuts LLM output tokens, and refuses when it can't

AI 导读

Pith 是一个放在 LLM 调用前的代理,通过回放采样请求、用 judge 模型对比基线答案,只在候选配置与基线自洽度持平时才固定该配置,否则拒绝并说明原因。

来源:Hacker News Show HN · github.com