Hacker News Show HN· Alez007·· 8 天前AI 评分62
Modelship 开源基于 Ray 的模型集群，提供 OpenAI 兼容 /v1 接口
Show HN: Modelship – an open source ray backed model cluster
AI 导读
Modelship 是一个开源项目，用 Ray 把多个模型部署成集群，对外提供 OpenAI 兼容的 /v1 接口，覆盖 chat、responses、embeddings、语音和图像生成。
来源：Hacker News Show HN · github.com