跳到正文
原文
V2EX 最新主题· ota·· 3 小时前AI 评分20

V2EX 网友求一个完全解耦的 AI infra:GPU 资源租赁是难点

[问与答] 求一個完全解耦的 ai infra 基礎設施。難點在 gpu 資源租賃

AI 导读

一位开发者在 V2EX 询问能否把代码放在 VPS、数据放在 S3、GPU 放在云端,三者完全解耦并全部走公网。其核心诉求是 GPU 用完即焚、闲置即停机,以最低开销跑视频生成、漫画上色等偶发任务,目前靠 GPU 提供商的数据盘保活。他认为 GPU 与数据盘绑定在同一供应商会限制多机集群等架构自由,现阶段烧自己的钱,有投资后再考虑 Scaleway 这类大厂。

来源:V2EX 最新主题 · v2ex.com