多租户 SaaS 的 OpenAI 兼容图像生成路由与模型回退方案
面向多租户 B2B SaaS,建议在图像生成边界采用 OpenAI 兼容网关,把主模型与回退模型 ID 放进部署配置,并在部署时对照实时目录校验两者是否可用。Infrai 是其中一个选项:295 项能力、20 个模块共用一把 key,响应元数据暴露成本、厂商、延迟与 request ID。
面向多租户 B2B SaaS,建议在图像生成边界采用 OpenAI 兼容网关,把主模型与回退模型 ID 放进部署配置,并在部署时对照实时目录校验两者是否可用。Infrai 是其中一个选项:295 项能力、20 个模块共用一把 key,响应元数据暴露成本、厂商、延迟与 request ID。
Stability AI 发布 Stable Audio 3.0 模型家族,包含 Small SFX、Small、Medium 和 Large 四款模型,均基于完全授权数据训练。
推荐理由:Stability AI 发布开放权重音频模型家族,读者可据此了解可商用授权与本地部署的边界。
Stability AI 发布 Stable Audio 2.5,称其为首个专为企业级音效生产设计的音频生成模型,可在 GPU 上以不到两秒的推理速度生成最长三分钟的曲目,并新增音频 inpainting 支持。
Stability AI 联合 NVIDIA 发布 Stable Diffusion 3.5 NIM 微服务,已在 build.nvidia.com 上线,模型权重可从 Hugging Face 下载。
Stability AI 的 Stable Diffusion 3.5 已在 Replicate 上线,提供 Large、Large Turbo 和 Medium 三个版本,Large Turbo 只需 4 步即可生成高质量图像。
推荐理由:Replicate 上线 Stable Diffusion 3.5 三个版本,并给出每张图价格与商用授权门槛,便于开发者评估接入成本。
Replicate 宣布 FLUX 在其平台上的推理速度大幅提升,FLUX.1 [schnell] 在 512x512、4 步下为 0.29 秒(P90 0.49 秒),1024x1024、4 步下为 0.72 秒(P90 0.95 秒),FLUX.1 [dev] 在 1024x1024、28 步下为 3.03 秒(P90 3.90 秒)。
推荐理由:Replicate 公开了 FLUX 提速的具体做法和端到端延迟数据,并开源优化代码,可了解推理加速路径。
Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1,可用一行代码在云端调用。FLUX.1 分三个版本:FLUX.1 [pro] 每张 $0.055,FLUX.1 [dev] 每张 $0.030,FLUX.1 [schnell] 每张 0.003 美元,其中 [schnell] 采用 Apache 2.0 许可。
推荐理由:Replicate 官方上线 FLUX.1 并给出三个版本的单张价格,读者可据此比较接入成本。
Replicate 上线 Stability 最新的文生图模型 Stable Diffusion 3,可通过一行代码调用,模型标识为 stability-ai/stable-diffusion-3。
Replicate 将微调模型的冷启动时间从最长几分钟缩短到不到 1 秒,适用于 meta/llama-2-7b-chat、meta/llama-2-70b-chat、stability-ai/sdxl 等 Llama 2 与 SDXL 系列模型。该改进目前仅对 9 月 6 日起新建的微调模型生效,Replicate 表示还在为所有模型做进一步的冷启动优化。
Replicate 宣布为 SDXL 1.0 提供微调支持,用户可用自己的图片训练出生成特定人物、物体或风格的新模型。训练只需 5-6 张图片,耗时约 10-15 分钟,默认使用 LoRA,也可切换 Dreambooth 或 Textual Inversion,训练完成后可发布为公开或私有模型并下载 LoRA 权重。
推荐理由:Replicate 为 SDXL 1.0 上线微调支持,给出用几行代码训练自有风格模型的完整流程。
Replicate 官方发布指南,介绍如何通过 API 运行 Stability AI 的文本生成图像模型 SDXL 1.0,支持文生图、img2img、inpainting 和 refiner。
推荐理由:Replicate 官方说明如何用 API 调用 SDXL,并给出 refiner、img2img 与 inpainting 的用法和参数。
Replicate 宣布支持在云端用一次 API 调用训练 LoRA 模型,用于微调 Stable Diffusion。LoRA 由微软研究人员提出,Simo Ryu 将其应用到 Stable Diffusion;相比 DreamBooth 约二十分钟的训练和数 GB 的产物,LoRA 训练最快约八分钟,产物约 5MB,且推理无需冷启动。
推荐理由:Replicate 上线 LoRA 训练与推理接口,并对比 DreamBooth 的训练时长和产物体积,便于开发者判断迁移成本。
Replicate 发布指南,介绍如何在 M1 或 M2 芯片的 Mac 上本地运行 Stable Diffusion,需 macOS 12.3 以上、16GB 内存(8GB 可用但极慢)和 Python 3.10。该方案改用 pip 而非 Conda 安装依赖,通过二进制 wheel 免编译,并需从 Hugging Face 下载约 4GB 的 sd-v1-4.ckpt 权重。
Replicate 发布教程,演示如何通过其 API 运行 Stable Diffusion,无需自建 GPU 基础设施。用户可用 pip 安装其开源 Python 客户端(另有社区维护的 Node.js 库 replicate-js),在账户页获取 API token 后即可创建预测并生成图像。
Replicate 发布教程,教你用 Stable Diffusion、Replicate 和 Fly.io 搭建一个 Discord 机器人画师,无需本地 GPU,部署到云端后可全天候运行。机器人通过 `!dream` 命令生成图片,约 20–40 秒返回结果,代码模板已开源于 replicate/discord-bot-tutorial-code。