Meta 的 Muse Spark Open 上线 Vercel AI Gateway
Meta 的开源权重推理模型 Muse Spark Open 已在 Vercel AI Gateway 上线,面向编码和 Agent 工作流,支持多文件重构、调试和理解大型代码库。
推荐理由:Vercel AI Gateway 上线 Meta 开源权重推理模型,读者可了解其 1M 上下文与接入编码 Agent 的方式。
Meta 的开源模型与基础设施:Llama 系列的许可与商用边界、工程博客里的规模化经验,开源权重路线最大的推力。
Meta 的开源权重推理模型 Muse Spark Open 已在 Vercel AI Gateway 上线,面向编码和 Agent 工作流,支持多文件重构、调试和理解大型代码库。
推荐理由:Vercel AI Gateway 上线 Meta 开源权重推理模型,读者可了解其 1M 上下文与接入编码 Agent 的方式。
Together AI 作为 Day 0 发布合作方上线 Meta 的 Muse Spark Open,这是目前能力最强的美国开源权重模型,面向长时间运行的智能体编码工作流。
推荐理由:Together AI 以 Day 0 合作方身份上线 Meta 开源权重模型,并给出 API 调用方式与三档 token 价格。
Meta 发布 Muse Spark Open,这是一个面向编码优化的 816B 混合专家(MoE)模型,激活参数 42B,上下文窗口 1M token。该模型在 NVIDIA GB300 NVL72 Blackwell Ultra 上训练,专门针对 agentic coding 工作流,官方称其首次尝试准确率更高、工具调用更可靠,并能深入理解代码仓库。
推荐理由:Meta 发布面向编码的 816B MoE 开源模型,给出参数规模、上下文长度与硬件适配信息。
Meta 的 Muse Wonder 模型现已在 Vercel AI Gateway 上线,该模型面向编码、长时间运行的 agent 和 computer use,可规划多步任务、把工作委派给子 agent 并在推进中从错误恢复。
推荐理由:Meta 的 Muse Wonder 模型接入 Vercel AI Gateway,开发者可用一个 API key 调用并了解其上下文与输入能力。
SaaStr 用 3 个人加 21 个以上智能体运营,其 AI 收入副总裁 10K 每天发起 3.5 万到 4 万次 API 调用,此前没有厂商为此收费;Salesforce、Atlassian 和 HubSpot 开始对智能体访问收费后,一份估算显示维持现状每年要花 24 万美元。
推荐理由:SaaStr 以自身 10K 智能体的 API 账单为例,呈现按席位收费的 SaaS 转向按智能体调用收费后买方的真实处境。
Replicate 宣布可通过其 API 运行 Meta 的 Llama 3.1 405B 模型,该模型有 4050 亿参数、8000 token 上下文窗口,官方称其在多项基准上接近或达到 GPT-4 水平。Replicate 提供了 JavaScript、Python 和 cURL 三种调用方式,并给出 Next.js 示例聊天应用,可部署在 Vercel 上。
推荐理由:Replicate 官方给出 Llama 3.1 405B 的 API 调用方式,含 JavaScript、Python 与 cURL 三种示例。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta 的 Llama 3,并给出 JavaScript、Python 和 cURL 三种调用方式。
推荐理由:Replicate 官方给出用 JavaScript、Python 和 cURL 调用 Llama 3 的步骤,并说明四个模型变体的取舍。
Replicate 发布教程,介绍如何用一行代码在云端运行 Meta AI 的 Llama 2,支持官方 JavaScript、Python 客户端以及 cURL 直接调用 HTTP API。
推荐理由:Replicate 官方给出用一行代码在云端调用 Llama 2 的方式,并对比四个模型变体的取舍。
Replicate 发布教程,演示如何在平台上微调 Llama 2 7B 做文本摘要,训练数据用 JSONL 格式的 SAMSum 数据集。
推荐理由:Replicate 官方给出在平台上微调 Llama 2 的完整流程,从建模型到跑 API 一步不落。
Meta AI 发布开源语言模型 Llama 2,训练数据达 2 万亿 token,支持 4096 token 上下文,许可证比 v1 更宽松并允许商用。
推荐理由:汇总 Llama 2 发布后一天内出现的部署与试用入口,方便开发者快速了解可用的模型版本和工具。
Replicate 现在支持部署、运行和微调大型语言模型,官方提供 FLAN-T5、GPT-J 和 LLaMA 版本,也可以推送任意自定义模型。模型可用 Python、Node.js 或 HTTP API 调用,无需自建服务器或 GPU;微调功能处于预览阶段,先开放少量名额,支持 Flan-T5、GPT-J 和 LLaMA。
推荐理由:Replicate 上线语言模型托管与微调预览,开发者可据此判断是否把模型部署从自建 GPU 迁到 API。
Replicate 发布教程,介绍如何用 LoRA 和 Alpaca 训练数据微调 LLaMA,并给出从克隆 Alpaca-LoRA 仓库、安装 Cog、转换权重到微调和运行模型的完整步骤。
推荐理由:Replicate 官方给出用 Alpaca-LoRA 微调 LLaMA 的完整步骤,含硬件要求与耗时,可照着复现。