跳到正文

Together AI

Together AI 的推理与微调服务:开源模型的托管价格、吞吐与批处理,以及跟自建 GPU 的成本对照。

15条精选相关主题ReplicateGroq模型价格与额度

最新精选

第 1–15 条 · 共 15 条
10月16日周五
10月5日周一
  1. Together AI Blog62

    Together AI 发布 Together Link,一条命令把开源模型接入现有编码工具

    Together AI 发布 Together Link,把团队已在用的编码工具接到 Together AI 上的开源模型,官方称可把花费削减超过 50%。它支持 Claude Code、Claude Desktop、Codex(ChatGPT 应用和 CLI)、OpenCode 和 Pi,设置与登录保持不变,用一条 curl 命令即可安装,回到原生闭源模型也只需一条命令。

    推荐理由:Together AI 发布 Together Link,把开源模型接入团队已在用的编码工具,并给出按会话对比花费的方式。

9月23日周三
9月11日周五
  1. Together AI Blog62

    Together AI 扩展微调服务:新增模型、实时指标与更细粒度控制

    Together AI 扩展其 Fine-Tuning 服务,新增 GLM-5.3、Kimi K2.7、Qwen 3.5 系列、Gemma 4 等开放权重模型支持,并加入实时实验指标追踪、专家层 LoRA、早停、任意 batch size、数据预检与 packing 控制。

    推荐理由:Together AI 公布微调服务的新模型、实时指标与训练控制项,并给出 LoRA 训练价格下调幅度。

9月10日周四
  1. Together AI Blog62

    Together AI 推出抢占式算力:同款 GPU 半价,公开预览

    Together AI 宣布 Together GPU Clusters 的抢占式算力(preemptible compute)进入公开预览,在所有区域的 Kubernetes 集群上可用,按需费率的固定 50% 计费,按小时以下粒度计量。

    推荐理由:Together AI 给 GPU 集群加了可被回收的抢占式节点,按需价格五折,适合能断点续跑的实验与批处理任务。

8月21日周五
  1. Together AI Blog78

    GLM-5.3 与 Claude Fable 5 在 DeepSWE 上的成本与编码对比

    Together AI 在 DeepSWE 的 113 个任务上各跑 4 次、共 904 次 rollout,对比 GLM-5.3(max)与 Claude Fable 5(max):首次通过率分别为 69.0% 和 69.7%,差距在噪声范围内,但每次 rollout 成本为 $3.99 对 $21.63,相差 5.4 倍。

    推荐理由:Together AI 用 904 次 rollout 对比两个模型在 DeepSWE 上的准确率与成本,可据此判断高价模型是否值得。

8月17日周一
8月1日周六
7月29日周三
6月17日周三
4月29日周三
3月18日周三
  1. Together AI Blog62

    Together AI 扩展微调服务,新增工具调用、推理与视觉支持

    Together AI 扩展 Together Fine-Tuning,原生支持工具调用、推理和视觉语言模型(VLM)微调,训练栈升级后可处理 100B+ 参数模型,吞吐最高提升 6 倍,数据集上限 100GB。

    推荐理由:Together AI 把工具调用、推理与视觉微调收进同一套 API,并给出训练吞吐与成本预估,便于团队评估迁移。

3月12日周四
2月12日周四
  1. Together AI Blog62

    Together AI 发布 Dedicated Container Inference,自定义模型推理提速最高 2.6 倍

    Together AI 发布 Dedicated Container Inference,让团队用自带 Docker 容器部署视频生成、数字人合成和图像处理等自定义生成式媒体模型,由平台负责自动扩缩容、排队、流量隔离与监控。

    推荐理由:Together AI 推出面向自定义生成式媒体模型的容器推理服务,给出 1.4x–2.6x 提速与训练到部署零产物迁移的路径。