DigitalOcean 增强 Inference Router:按任务自动选模型,无需写路由规则
DigitalOcean 发布 Inference Router 增强版,用户把模型设为 inference-router 并可选偏好,路由器会按任务自动挑选表现最好的模型,无需预设或自建路由。
推荐理由:DigitalOcean 官方发布 Inference Router 增强版,公开了内部评测中准确率与成本对比,可供选型时参考。
DigitalOcean 发布 Inference Router 增强版,用户把模型设为 inference-router 并可选偏好,路由器会按任务自动挑选表现最好的模型,无需预设或自建路由。
推荐理由:DigitalOcean 官方发布 Inference Router 增强版,公开了内部评测中准确率与成本对比,可供选型时参考。
DigitalOcean 发布 Agent Learning Services 下的两项能力:Signals 监控 Managed Agents 与 Inference Engine 的生产流量。
DigitalOcean 宣布 MicroVMs 进入公测,这是基于开源 Firecracker 的隔离虚拟机,空闲时暂停、有请求时毫秒级恢复并保留内存、文件和进程状态。
推荐理由:DigitalOcean 公布 MicroVM 公测及按秒计费价格,可据此估算 agent 沙箱的闲置成本。
DigitalOcean 发布 Agent Droplets,为 Managed Agents 提供单一月费方案,把微虚拟机、托管模型推理、会话存储和 16,000+ 工具访问合并到一张账单,并按用量自动打折。
推荐理由:DigitalOcean 把微虚拟机、推理、存储和工具访问打包成单一月费,并给出与 Fly.io、AWS AgentCore、Claude Max 的逐项对比。
DigitalOcean 推出 MicroVMs 私有预览,基于开源 Firecracker 技术,每个会话运行一个独立内核的轻量 VM,空闲时自动暂停、下次请求时带着内存、文件和运行中进程原地恢复,仅在运行时消耗算力。
DigitalOcean Managed Agents 进入公开预览,把 sandbox、inference 和 data 合成一个运行时,支持 Claude Code、Codex CLI、OpenCode、LangGraph 等 harness,也可打包成标准 OCI 镜像。
推荐理由:DigitalOcean 官方说明 Managed Agents 的计费方式与集成结构,可对照自己跑 agent 的现有成本。
DigitalOcean 将 Managed Agents 开放公开预览,包含 Harness Runtime 和 Action Gateway 两个服务,可运行 OpenCode、Codex CLI、Claude Code 等 harness,或把自建 agent 打包成 OCI 镜像。
推荐理由:DigitalOcean 把 agent 运行环境与工具网关打包成托管服务,公开了按秒计费与启动、恢复延迟数据,可对照自建方案评估成本。
DigitalOcean 发布 v5 Droplets,基于第五代 AMD EPYC 处理器,单核性能比上一代最高提升 30%,并首次支持 vCPU、内存和存储独立选配、按所选资源计费。
DigitalOcean 开放 Managed Agents Runtime Services(M.A.R.S.)私有预览,以全托管方式运行编码 agent 和长时间多工具工作流。
DigitalOcean 为 Inference Router 推出缓存感知路由,让路由器在选模型时把已缓存上下文的价值算进去,避免为换更便宜的模型而丢弃热缓存。
DigitalOcean 宣布自 2026 年 8 月 1 日起调整部分 NVIDIA 和 AMD GPU Droplet 的价格,按需与 12 个月预留方案均在调整范围内,理由是高级 GPU 容量需求强劲。
推荐理由:DigitalOcean 官方公布 GPU Droplet 按需与 12 个月预留价格自 8 月 1 日起调整,并说明账单生效与销毁时限。
DigitalOcean 宣布托管版 Weaviate 进入公开预览,起步价 $20/月,采用固定月费,不收按查询读取单元费用,也不收按维度附加费。该服务运行未经修改的开源 Weaviate 引擎(当前 1.37.1),兼容 GraphQL、REST 和 gRPC,默认启用 RQ8 压缩,官方称每向量内存占用约为未压缩存储的四分之一。
Bun 作者 Jarred Sumner 复盘了用 Claude Code 把 Bun 从 Zig 重写为 Rust 的过程:11 天、6,502 次提交、峰值每分钟约 1,300 行代码,消耗约 5.9 亿未缓存输入 token 和 6.9 亿输出 token,按 API 定价约 16.5 万美元。
推荐理由:Bun 作者复盘用 64 个 Claude 在 11 天内把 53 万行 Zig 重写成 Rust 的完整流程与成本。
DigitalOcean 在 Inference Engine 上线 Model Evaluations(公测),可评估平台模型及从 Hugging Face 或 DigitalOcean Spaces 导入的模型,比较成本、延迟与输出质量。该功能支持自定义数据集、指标与评判模型,数据集限 CSV 或 JSONL、单次任务约 1K 行 / 1GB,用于在生产流量切换前验证路由策略。
DigitalOcean 详解前缀感知路由与缓存如何消除 LLM 推理中的冗余 prefill 开销:典型客服负载中 2,000 token 系统提示占输入约 91%,在 NVIDIA H200 或 AMD Instinct MI325X 上预填充需约 45–50ms、100–120 GFLOPs,每小时 1 万次请求即超 1 万亿冗余 FLOPs。
DigitalOcean 推出 Serverless Inference,一个全托管、API 优先的推理平台,通过单一 API key 和 base URL 提供 30+ 个文本、代码、视觉、图像、视频和语音基础模型,按 token 计费且无最低承诺。
推荐理由:DigitalOcean 官方详解 Serverless Inference 的架构、定价与兼容接口,可了解其与 OpenAI、Anthropic 的接入差异。
在 DigitalOcean 于旧金山举办的 Deploy 2026 大会上,Andi AI、Higgsfield AI、LawVo 和 Probably 四位创始人复盘了 AI 产品上生产的经验:模型本身不再是壁垒,难点在于衡量 agent 是否真正干活、持续打磨可靠性。
OpenCode 现已原生接入 DigitalOcean Inference Router,用户运行 /connect 并选择 Login with DigitalOcean 即可在 Model Selection 标签页中调用路由器和 Serverless Inference 模型。
DigitalOcean 在 AI 平台上线 Batch Inference,可用单个 .jsonl 文件提交最多 5 万条 OpenAI 请求或 10 万条 Anthropic 请求,由平台负责排队、执行和结果交付。
DigitalOcean 发布 Inference Router,读取请求并从对话上下文判断任务类型,自动路由到配置池中最合适的模型,可按成本、延迟或质量优化,接入只需把 model 字段改成 router:software-engineering 这样的一行。
推荐理由:DigitalOcean 公开了 Inference Router 的路由模型评测数据与架构细节,可对照其与前沿模型的准确率和延迟差异。
DigitalOcean 在 Deploy 2026 分享中指出,模型正日益商品化,真正拉开团队差距的是路由、数据管道与成本控制。其 serverless 推理提供 50+ 模型、OpenAI 兼容接口,按 token 计费,价格从 $0.05 到 $25 每百万 token;同一平台可在 serverless、专用 GPU 与推理路由三种模式间切换,无需重写代码。
DigitalOcean 在 Deploy 2026 发布 AI-Native Cloud,一套从芯片到 Agent 的五层开放栈,周二一次性上线 15 款产品。
DigitalOcean 发文拆解 LLM 推理中的吞吐、延迟、成本三难困境,指出推理是有状态、受内存带宽限制的负载,不能照搬无状态微服务的横向扩容思路。
DigitalOcean 发文拆解多副本部署下 prompt caching 命中率随副本数增长而线性衰减的问题:单副本内 vLLM、SGLang、TensorRT-LLM 可自动做前缀缓存,但轮询负载均衡下相同前缀请求只有 1/N 概率命中缓存。
DigitalOcean 发文指出,AI 系统最大的成本不是基础设施而是集成:碎片化的多云栈迫使开发者写大量胶水代码,一条典型 AI 流水线需要 5–10 个集成点,每个都带来延迟、故障风险和工程开销。
DigitalOcean 宣布 Arcee AI 的 Trinity Large-Thinking 在其 Agentic Inference Cloud 上进入 Public Preview,可通过 Serverless Inference 用 Cloud Console 或 API 直接调用。
DigitalOcean 博客介绍了 Anthropic 和 OpenAI 模型的 prompt caching 机制,把系统指令、工具 schema、RAG 文档等静态前缀缓存复用,只对新增 token 计费。
推荐理由:原文用 Kubernetes 排障助手算了一笔 token 账,并给出 Anthropic 与 OpenAI 两套缓存参数写法,可据此估算自家请求的节省空间。
DigitalOcean 发布 App Platform Skills,一组开源、面向 AI 的部署 playbook,可通过 `npx skills add digitalocean-labs/do-app-platform-skills` 安装,为 AI 助手注入 12 项技能,覆盖新应用设计、Heroku 迁移与生产排障。
DigitalOcean App Platform 现已原生支持 Supabase 模板,可一键部署包含托管 PostgreSQL、认证、REST API、文件存储与实时订阅的生产级后端。该模板基于 PostgreSQL 17,内置 JWT 认证、RLS 与角色配置,支持通过控制台、doctl CLI 或 AI 助手部署,并已在所有 App Platform 区域开放。
DigitalOcean Gradient™ AI Platform 现已原生集成 LlamaIndex,开发者可将 Knowledge Base 与托管 LLM 直接接入 LlamaIndex 工作流。
Heroku 转向“sustaining engineering”模式,不再投入新功能,平台进入维护状态。
Anthropic Claude Opus 4.6 现已在 DigitalOcean Gradient AI Platform 通过 Serverless Inference 提供,支持 1M-token 上下文、自适应推理与 agentic 编程。
DigitalOcean 在 App Platform 上推出 OpenClaw,用于托管常驻的多 Agent AI 助手,支持弹性扩缩与安全默认配置。
DigitalOcean 在 Marketplace 上线了 OpenClaw(原 Moltbot/Clawdbot)的 1-Click Deploy,用 Caddy + LetsEncrypt 做 TLS、网关密钥与 Pairing 鉴权、Docker 容器隔离 Agent,并默认启用 Fail2ban 与 Ubuntu 自动安全更新。
DigitalOcean 上线 OpenClaw 一键部署,起价 $12/月,在 Droplet 上提供安全加固的常驻 Agentic AI 运行环境。该部署默认启用 Docker 容器隔离、唯一 gateway token 认证、防火墙与非 root 执行、fail2ban 及设备配对,并支持 DigitalOcean Gradient AI 模型,目前兼容 Anthropic。
DigitalOcean App Platform 现已原生支持 Bun,可在所有地区直接部署 Bun 应用,无需编写任何配置。App Platform 的 Cloud Native Buildpacks 会自动检测仓库中的 bun.lock 文件并完成构建、部署与运行,同时原生支持 Next.js。
DigitalOcean 推出 Gradient AI Agent Development Kit(ADK)公开预览版,这是一个 Python SDK 和 CLI,可把 Agent 代码部署为托管的 HTTP /run 服务。
Ex-human 借助 DigitalOcean Hatch 计划,以 $1.90/GPU/小时 的专属价格使用按需 NVIDIA H100 GPU Droplets 来服务其 LLM,其创始人称未遇到不可用或网络问题,并认为比 AWS 和 Google Cloud 更直观简单。
DigitalOcean 在 Gradient AI 平台通过 Serverless Inference 上线 fal 的四款多模态模型,进入公开预览:图像生成有 Stable Diffusion XL fast(fal-ai/fast-sdxl)和 FLUX.1 schnell(fal-ai/flux/schnell)。
DigitalOcean 正式上线 Network file storage,在 ATL1、NYC2、AMS3 可用,Standard Tier 每 GiB-月 $0.15、High Performance Tier 每 GiB-月 $0.30,最小共享 50 GiB。