Replicate Blog·· 2023-09-06AI 评分42
Replicate 微调模型冷启动缩短至 1 秒内
Fine-tuned models now boot in less than one second
AI 导读
Replicate 将微调模型的冷启动时间从最长几分钟缩短到不到 1 秒,适用于 meta/llama-2-7b-chat、meta/llama-2-70b-chat、stability-ai/sdxl 等 Llama 2 与 SDXL 系列模型。该改进目前仅对 9 月 6 日起新建的微调模型生效,Replicate 表示还在为所有模型做进一步的冷启动优化。
来源:Replicate Blog · replicate.com