BetaList· BetaList·· 5 天前AI 评分40
kibbu:用自有机器跑 AI 推理,降低云支出
kibbu – Run AI inference on your own machines to cut cloud spend
AI 导读
kibbu 让公司在已有机器上运行 AI 推理负载,以降低成本并减少对云厂商的依赖。它提供管理控制台,可添加节点、配置模型、控制数据路由,默认零数据保留,并支持把敏感负载留在本地。用户可从单个工作流起步,替换为 Kibbu API key,并选择哪些模型本地运行、哪些继续用云端模型。
来源:BetaList · betalist.com