Replicate 将公开模型按秒价格减半,并公布各档 GPU 新价
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
Replicate 的模型托管与按次计费:把开源模型变成 API 的成本结构、冷启动与定价单位,是个人开发者做 AI 功能最直接的路径。
Replicate 宣布把公开模型的按秒价格减半,本月内对所有公开模型生效,从 SDXL 到 Llama 2 都包含在内,用户无需做任何操作。
推荐理由:Replicate 把公开模型按秒计费价格砍半并给出各档 GPU 新价,可据此估算自己的推理成本。
Replicate 宣布为 SDXL 1.0 提供微调支持,用户可用自己的图片训练出生成特定人物、物体或风格的新模型。训练只需 5-6 张图片,耗时约 10-15 分钟,默认使用 LoRA,也可切换 Dreambooth 或 Textual Inversion,训练完成后可发布为公开或私有模型并下载 LoRA 权重。
推荐理由:Replicate 为 SDXL 1.0 上线微调支持,给出用几行代码训练自有风格模型的完整流程。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 官方发布指南,介绍如何通过 API 运行 Stability AI 的文本生成图像模型 SDXL 1.0,支持文生图、img2img、inpainting 和 refiner。
推荐理由:Replicate 官方说明如何用 API 调用 SDXL,并给出 refiner、img2img 与 inpainting 的用法和参数。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。
Replicate 现在支持部署、运行和微调大型语言模型,官方提供 FLAN-T5、GPT-J 和 LLaMA 版本,也可以推送任意自定义模型。模型可用 Python、Node.js 或 HTTP API 调用,无需自建服务器或 GPU;微调功能处于预览阶段,先开放少量名额,支持 Flan-T5、GPT-J 和 LLaMA。
推荐理由:Replicate 上线语言模型托管与微调预览,开发者可据此判断是否把模型部署从自建 GPU 迁到 API。
Replicate 发布教程,介绍如何用 LoRA 和 Alpaca 训练数据微调 LLaMA,并给出从克隆 Alpaca-LoRA 仓库、安装 Cog、转换权重到微调和运行模型的完整步骤。
推荐理由:Replicate 官方给出用 Alpaca-LoRA 微调 LLaMA 的完整步骤,含硬件要求与耗时,可照着复现。
Replicate 宣布支持在云端用一次 API 调用训练 LoRA 模型,用于微调 Stable Diffusion。LoRA 由微软研究人员提出,Simo Ryu 将其应用到 Stable Diffusion;相比 DreamBooth 约二十分钟的训练和数 GB 的产物,LoRA 训练最快约八分钟,产物约 5MB,且推理无需冷启动。
推荐理由:Replicate 上线 LoRA 训练与推理接口,并对比 DreamBooth 的训练时长和产物体积,便于开发者判断迁移成本。
Replicate 发布 DreamBooth API,可在云端训练 Stable Diffusion 模型并运行预测,最少三张训练图、约 20 分钟完成,训练一个模型约 2.50 美元。
推荐理由:Replicate 官方给出 DreamBooth 训练 API 的调用方式与成本,可了解当时云端微调的接入门槛。