Hacker News Show HN· lognebudo·· 7 天前AI 评分42
LLMxRay:面向本地 LLM 的开源可观测性工具,新增 Cache Lab 与 Decision Lab
Show HN: LLMxRay an open-source observability tool for LLMs
AI 导读
LLMxRay 是一款面向本地 LLM 的开源可观测性工具,支持实时 token 流式查看、质量分析、性能剖析与成本追踪,无需云端、API key 或费用,通过 `npx llmxray` 或 Docker 一条命令启动,需本地运行 Ollama。
来源:Hacker News Show HN · github.com