Replicate 发布用 API 运行 Meta Llama 3 的教程
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta 的 Llama 3,并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由:Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤,并说明四个模型变体的取舍。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta 的 Llama 3,并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由:Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤,并说明四个模型变体的取舍。
Pietro Schirano 是 EverArt 联合创始人,他在 Replit 上把对 AI 的好奇心做成了拥有多款应用的创业公司。
Meta 发布 70B 参数的 Code Llama,在 HumanEval 上得分 67.8,超过零样本 GPT-4。Replicate 上线该模型,提供 Base、Python、Instruct 三个变体,可用 JavaScript、Python、cURL 一行代码调用 meta/codellama-70b-instruct。
Replicate 完成由 a16z 领投的 4000 万美元 B 轮融资,NVIDIA 旗下 NVentures、Heavybit、Sequoia 和 Y Combinator 参投。
Replicate 上线 MusicGen 微调功能,用 8x A40(Large)硬件完整训练一次约 15 分钟,9-10 首、每首超过 30 秒的曲目即可训练出某种风格的音乐模型。
Replicate 发布文章,演示如何用内置 grammars 支持的 Llama 2 模型把航班确认邮件抽取成符合 JSON Schema 的 JSON 文档。
Replicate 将微调模型的冷启动时间从最长几分钟缩短到不到 1 秒,适用于 meta/llama-2-7b-chat、meta/llama-2-70b-chat、stability-ai/sdxl 等 Llama 2 与 SDXL 系列模型。该改进目前仅对 9 月 6 日起新建的微调模型生效,Replicate 表示还在为所有模型做进一步的冷启动优化。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。
Replicate 现在支持部署、运行和微调大型语言模型,官方提供 FLAN-T5、GPT-J 和 LLaMA 版本,也可以推送任意自定义模型。模型可用 Python、Node.js 或 HTTP API 调用,无需自建服务器或 GPU;微调功能处于预览阶段,先开放少量名额,支持 Flan-T5、GPT-J 和 LLaMA。
推荐理由:Replicate 上线语言模型托管与微调预览,开发者可据此判断是否把模型部署从自建 GPU 迁到 API。
Replicate 发布教程,介绍如何用 LoRA 和 Alpaca 训练数据微调 LLaMA,并给出从克隆 Alpaca-LoRA 仓库、安装 Cog、转换权重到微调和运行模型的完整步骤。
推荐理由:Replicate 官方给出用 Alpaca-LoRA 微调 LLaMA 的完整步骤,含硬件要求与耗时,可照着复现。
Replicate 用《辛普森一家》第 1-12 季共 6.1 万行对话、110 万 token 微调 LLaMA,90 分钟就让它以剧中角色口吻输出文本。做法是取 Kaggle 的 simpsons_script_lines.csv,把同一场景的前几句台词与下一句说话人拼成训练数据,并改用 Alpaca 代码库的 prompt 让模型补全台词。