跳到正文
原文
Hacker News Show HN· chairmanlee8·· 10 天前AI 评分40

Show HN: Liquid Inference — 自动路由到竞价式 LLM 市场

Show HN: Liquid Inference – auto-routing to competitive LLM marketplace

AI 导读

Liquid Inference 把交易系统与交易所的思路搬到 LLM 推理上,让模型提供商在开放市场里竞价,为同一模型给出最优价格。它搭配智能自动路由,在预设质量水平下按当下最低成本计费,目前对 Kimi/GPT/GLM 更便宜。用户还可自定义最低路由设置,如算力所在区域、零数据留存、提供商/模型白名单等。

来源:Hacker News Show HN · liquidinference.ai