跳到正文
原文
Replicate Blog·· 2023-09-06AI 评分42

Replicate 微调模型冷启动缩短至 1 秒内

Fine-tuned models now boot in less than one second

AI 导读

Replicate 将微调模型的冷启动时间从最长几分钟缩短到不到 1 秒,适用于 meta/llama-2-7b-chat、meta/llama-2-70b-chat、stability-ai/sdxl 等 Llama 2 与 SDXL 系列模型。该改进目前仅对 9 月 6 日起新建的微调模型生效,Replicate 表示还在为所有模型做进一步的冷启动优化。

来源:Replicate Blog · replicate.com