跳到正文
原文
Together AI Blog·· 2026-05-04AI 评分22

Together AI 如何用基础研究支撑大规模高效推理

Foundational research powering efficient inference at scale

AI 导读

Together AI 在 NVIDIA GTC 2026 上分享了其推理优化思路:推理约占生产级 AI 系统全生命周期成本的 80-90%,AI 公司毛利率常在 50-60%,推理成本约占规模化阶段公司收入的 23%。

来源:Together AI Blog · together.ai