Ideogram v2 登陆 Replicate API，新增图像修复功能
Ideogram v2 在 Replicate API 上线，并推出新的图像修复（inpainting）功能，提供 ideogram-ai/ideogram-v2 和 ideogram-ai/ideogram-v2-turbo 两个版本，前者画质最佳、后者更快。
主题：基础设施与部署
主题：基础设施与部署
今日 8 条Replicate BlogAI 评分4242
Mistral News精选AI 评分6262 Mistral 发布 Ministral 3B 与 8B 边缘模型
Mistral AI 发布 Ministral 3B 和 Ministral 8B 两款面向端侧与边缘计算的模型，支持最高 128k 上下文（vLLM 上目前为 32k），8B 采用交错滑动窗口注意力以提升推理速度并降低内存占用。
推荐理由：Mistral 发布两款 3B 与 8B 边缘模型，给出 API 定价和基准对比，可据此评估端侧与 Agent 场景的选型成本。
Replicate Blog精选AI 评分6060 Replicate 让 FLUX 提速并开源优化代码
Replicate 宣布 FLUX 在其平台上的推理速度大幅提升，FLUX.1 [schnell] 在 512x512、4 步下为 0.29 秒（P90 0.49 秒），1024x1024、4 步下为 0.72 秒（P90 0.95 秒），FLUX.1 [dev] 在 1024x1024、28 步下为 3.03 秒（P90 3.90 秒）。
推荐理由：Replicate 公开了 FLUX 提速的具体做法和端到端延迟数据，并开源优化代码，可了解推理加速路径。
PostHog BlogAI 评分2222 PostHog 用 Inkeep 让 AI 回答社区问题
PostHog 在社区问答区接入 Inkeep，用 AI 自动回答高置信度问题，约 20 秒内返回结果，置信度不足则提示暂无答案并转交人工。
Replicate Blog精选AI 评分6262 Replicate 上线 FLUX1.1 [pro]，生成速度提升 6 倍、每张 $0.04
Replicate 上线 Black Forest Labs 的新模型 FLUX1.1 [pro]，生成速度是 FLUX.1 [pro] 的 6 倍，图像质量、提示词遵循度和输出多样性均有提升，在 Replicate 上定价为每张 $0.04。
推荐理由：Replicate 上线 Black Forest Labs 的 FLUX1.1 [pro]，给出每张 $0.04 的定价和提速数据，可据此评估图像生成成本。
OpenAI News精选AI 评分6060 OpenAI 发布 Realtime API，支持语音到语音实时交互
OpenAI 发布 Realtime API，开发者现在可以在自己的应用中构建快速的语音到语音体验。该 API 面向需要实时语音交互的应用场景，具体定价与接入方式未在摘要中说明。
推荐理由：OpenAI 发布 Realtime API，开发者可据此在应用中接入语音到语音的实时交互能力。
OpenAI NewsAI 评分4343 OpenAI 为微调 API 引入视觉能力，GPT-4o 可用图像和文本微调
OpenAI 为微调 API 引入视觉能力，开发者现在可以用图像和文本微调 GPT-4o，以提升其视觉表现。
OpenAI NewsAI 评分5656 OpenAI 在 API 中推出 Prompt Caching，对近期见过的输入自动打折
OpenAI 在 API 中推出 Prompt Caching，对模型近期已经见过的输入自动提供折扣。该功能面向 API 调用方，输入部分会自动降价，无需额外配置。
OpenAI NewsAI 评分4242 OpenAI API 中的模型蒸馏：用大模型输出微调低成本模型
OpenAI 在 API 中推出模型蒸馏功能，开发者可用大模型（frontier model）的输出微调出成本更低的模型，全程在 OpenAI 平台上完成。该功能面向希望降低推理成本的开发者，无需借助外部工具即可实现。
OpenAI NewsAI 评分1010 OpenAI 如何用 AI 自动化并扩展财务运营
OpenAI 发布文章，介绍如何用 AI 自动化并扩展财务运营。内容聚焦将 AI 投入实际财务工作流程，以实现自动化处理与规模化运营。原文未披露具体产品名、价格、费率或版本号。
OpenAI NewsAI 评分3030 OpenAI 用基于 GPT-4o 的新多模态审核模型升级 Moderation API
OpenAI 推出基于 GPT-4o 的新多模态审核模型，用于升级 Moderation API，能更准确地检测有害文本和图像。该模型面向开发者，可帮助构建更稳健的审核系统。
Ollama BlogAI 评分6262 Ollama 上线 Llama 3.2，含 1B 到 90B 四个尺寸
Meta 的 Llama 3.2 现已可通过 Ollama 运行，执行 ollama run llama3.2 即可使用。1B 和 3B 为纯文本模型，针对手机或边缘设备本地运行优化，可用于构建端侧个性化 Agent，处理在本地完成以保护隐私。11B 和 90B 为视觉模型，支持图表等文档理解和图像描述，官方称即将推出。
OpenAI NewsAI 评分2020 Mercado Libre 推出由 GPT-4o 驱动的 AI 开发者平台 Verdi
Mercado Libre 推出 AI 开发者平台 Verdi，由 GPT-4o 驱动。该平台面向开发者，具体功能、定价与可用范围尚未披露。
Fly.io BlogAI 评分3030 Livebook 如何用 FLAME 和 Nx 在笔记本上调度 AI GPU 集群
Livebook 结合 FLAME 与 Nx 栈，可从笔记本直接启动运行在 Fly.io 云上 Fly Machine 的运行时，并调度 GPU 机器做 AI 计算。演示中 FLAME 池把视频抽帧交给 GPU 上的 Llama 生成描述、再由 Mistral 汇总，并支持 64 台 L40s GPU 机器做 BERT 超参调优。
Vercel News精选AI 评分5858 Vercel 发布 AI SDK 3.4，新增语言模型中间件与数据流协议
Vercel 发布 AI SDK 3.4，为这个用 JavaScript 和 TypeScript 构建 AI 应用的开源工具包加入语言模型中间件、数据流协议、结构化输出、多步调用、追踪改进和 mock 模型测试等能力。
推荐理由：AI SDK 3.4 新增语言模型中间件、数据流协议与多步调用，用 JS/TS 构建 AI 应用的开发者可据此评估升级。
Ollama BlogAI 评分4040 Ollama 上线 Bespoke-Minicheck：用事实核查减少幻觉
Bespoke Labs 开发的事实核查模型 Bespoke-Minicheck 已在 Ollama 上线，可对其他模型生成的回答做核查以检测并减少幻觉。它接收文档与待核查声明，若文档支持则输出 Yes，否则输出 No，适合作为 RAG 应用的后处理步骤，确保回答基于检索到的上下文。运行命令为 `ollama run bespoke-minicheck`。
Neon BlogAI 评分4242 用 Replit Agent 构建新闻应用：分步指南
Replit 推出 AI 软件工程师 Replit Agent，可帮助构建全栈应用，内置规划器、代码编辑器，并集成 Discord、Stripe 等第三方 API，还能创建和部署由 Neon 提供支持的 Postgres 数据库。该教程演示如何用 Replit Agent 一步步搭建一个新闻应用。
Mistral News精选AI 评分7373 Mistral 发布 la Plateforme 免费额度并下调全线模型价格
Mistral 为 la Plateforme 推出免费额度，开发者可零成本做实验、评估和原型开发，之后可平滑升级到商业版并享受数据隔离与更高速率限制。全线模型降价，Mistral Small 与 Codestral 输入输出价格均降 80%，Mistral Large 降 33%，Mistral Nemo 降 50%。
推荐理由：Mistral 公布全线模型降价与免费额度，开发者可据此重新核算 API 调用成本。
Replicate BlogAI 评分3636 用 API 微调 FLUX.1：Replicate 官方教程
Replicate 发布教程，教你用其 HTTP API 以编程方式创建并运行自己微调的 FLUX.1 模型。训练按秒计费，跑在 Nvidia H100 上，费率 $0.001528/秒，20 分钟训练（约 20 张图、1000 步）约 $1.85，起步预算 2-3 美元。
OpenAI NewsAI 评分2222 Ada 如何用 GPT-4 树立客户服务新标准
Ada 借助 GPT-4 提升客户服务标准。原文未披露具体定价、费率或增长数据。
Replicate BlogAI 评分3030 如何在 Replicate 上微调 FLUX.1 生成自己的照片
Replicate 支持用少量照片微调 FLUX.1，训练约 20 分钟、花费约 $1.85，即可生成自己扮演超级英雄、卡通角色等形象。训练在 Nvidia H100 上按 $0.001528/秒计费，建议至少 10 张 1024x1024 以上图片、1000 steps，并设置唯一触发词。
Supabase BlogAI 评分2222 用 PGlite 和 Transformers.js 在浏览器内实现语义 AI 搜索
Supabase 博客演示了如何用 PGlite 和 Transformers.js 在浏览器内实现语义 AI 搜索：将文本嵌入向量存入 PGlite 的 embeddings 表，直接在客户端完成相似度检索，无需后端服务。示例以 Bed、Car 等词条写入向量数据，展示本地化语义搜索的可行路径。
OpenAI NewsAI 评分1010 OpenAI 举办 GPT-4o 微调网络研讨会
OpenAI 举办了一场关于 GPT-4o 微调（Fine-tuning）的网络研讨会。
Hugging Face BlogAI 评分3434 Hugging Face Hub 上 5 个最被低估的工具
Hugging Face Hub 拥有超 85 万个公开模型、每月新增约 5 万个，但其中 ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas 这 5 项功能常被忽视。
Supabase BlogAI 评分4040 Supabase Edge Functions 新增 Mozilla Llamafile 推理支持
Supabase Edge Functions 在 Ollama 之外新增 Mozilla Llamafile 作为推理服务器，后者以单文件在本地运行 LLM，并提供兼容 OpenAI API 的服务端。
OpenAI News精选AI 评分6060 OpenAI 为 GPT-4o 开放微调功能
OpenAI 宣布 GPT-4o 现已支持微调功能。材料仅提供标题，未给出价格、可用范围或具体能力细节。
Neon BlogAI 评分2222 Wordware 联手 Neon：AI agent 构建提速，用预览分支提前拦截迁移问题
Wordware 与 Neon 合作，让 AI agent 的构建和迭代更快。借助 Neon 的预览分支，团队能在迁移于主数据库副本上出错时提前发现问题，并在进入生产环境前修复。
Vercel NewsAI 评分2020 Vercel 如何用 AI SDK 修复国际域名的边缘错误
Vercel 团队用 AI SDK 解决非英语字符域名购买失败的问题：Punycode 域名在 OpenSRS 注册时需附带语言代码，而系统此前将其设为可选未启用。语言检测库 CLD2 因域名过短失效后，团队改用 AI SDK 的 generateText 调用 OpenAI GPT-4o 生成 3 位语言代码，在近两个月失败的购买记录上测试达到 100% 成功率，并已上线生产环境。
Fly.io Blog精选AI 评分6262 Fly.io 将 NVIDIA L40S GPU 价格砍半至每小时 1.25 美元
Fly.io 宣布把 NVIDIA L40S GPU 的价格下调到每小时 1.25 美元，与 A10 同价，用户使用 L40S 不再比 A10 多付费用。Fly.io 称其 GPU 目录中 A10 最受欢迎，用户主要跑推理而非训练，因此把定位为 A100 级性能的 L40S 降到 A10 价位。
推荐理由：Fly.io 把 L40S 降到与 A10 同价，并公开了用户实际更偏好中低端推理卡的数据。
Replicate Blog精选AI 评分6060 Replicate 上线 FLUX.1 微调：用 Ostris AI Toolkit 训练自己的图像模型
Replicate 现在支持用 Ostris 的 AI Toolkit 微调 FLUX.1 [dev]，通过上传少量示例图片即可让模型学会新的风格、角色或物体，训练采用 LoRA 技术。
推荐理由：Replicate 官方给出 FLUX.1 微调的完整流程与成本，含数据准备、参数和定价细节。
Replit BlogAI 评分2222 Replit 如何在海量代码中理解用户行为
Replit 存储了超过 3 亿个软件仓库，规模与 GitHub、Bitbucket 同级，并借助 Operational Transformation（OT）协议和执行日志记录每个项目的时间线。
OpenAI NewsAI 评分1010 OpenAI 谈如何将数据与 API 配对释放客户价值
OpenAI 发布文章，讨论将数据与 API 配对以释放客户价值，并以 Rakuten 为例说明其如何借助 AI 打通数据、挖掘客户洞察与价值。
Mistral NewsAI 评分4040 Mistral AI 推出模型定制、Agents 与 mistralai 1.0 SDK
Mistral AI 在 La Plateforme 上线模型定制功能，支持对 Mistral Large 2、Codestral 等旗舰与专用模型用 base prompt、few-shot prompting 或 fine-tuning 定制，并可自带数据集。
Vercel NewsAI 评分4242 Vercel AI SDK 3.3 发布：新增 Tracing、多模态附件与 useObject hook
Vercel AI SDK 3.3 发布，新增四项主要功能：基于 OpenTelemetry 的 Tracing、多模态文件附件、useObject hook 以及更多 LLM 设置，前三项均为实验性功能。
Vercel NewsAI 评分1515 Vercel 如何把 AI 集成进你的业务：一份 AI 功能开发框架指南
Vercel 发布了一份把 AI 集成进业务的战略指南，并推出 VIA-AI 评估框架，从价值潜力、集成可行性、战略一致性、业务逻辑增强、数据质量、性能扩展性、安全合规与用户信任七个维度按 1-5 分给 AI 用例打分。平均分高于 4 分即可着手实施，低于 3 分则需重新评估短板。指南还建议为 AI 项目设定模型准确率、响应时间、转化率、客户留存率等技术与业务 KPI。
OpenAI News精选AI 评分6060 OpenAI 在 API 中推出 Structured Outputs
OpenAI 在 API 中推出 Structured Outputs，模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。
推荐理由：OpenAI 在 API 中上线 Structured Outputs，模型输出可按开发者提供的 JSON Schema 返回，便于构建稳定的结构化数据流程。
Replicate Blog精选AI 评分6262 Replicate 上线 FLUX.1 图像生成模型 API
Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1，可用一行代码在云端调用。FLUX.1 分三个版本：FLUX.1 [pro] 每张 $0.055，FLUX.1 [dev] 每张 $0.030，FLUX.1 [schnell] 每张 0.003 美元，其中 [schnell] 采用 Apache 2.0 许可。
推荐理由：Replicate 官方上线 FLUX.1 并给出三个版本的单张价格，读者可据此比较接入成本。
Neon BlogAI 评分4040 Neon 博客：别用 vector，改用 halvec 可省 50% 存储成本
pgvector 最新版本加入量化功能，可缩小向量与索引占用，并加快 RAG 应用的索引构建与预热时间。Neon 的 Postgres 数据库均自带 pgvector，可免费创建数据库试用。文章建议用 halvec 替代 vector，以节省 50% 存储成本。
Hugging Face BlogAI 评分2222 Hugging Face 与 NVIDIA 推出 NVIDIA NIM API（serverless）无服务器推理
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API（serverless），基于 NVIDIA DGX Cloud 提供无服务器推理，按请求计算时间计费。
Ollama BlogAI 评分6060 Ollama 上线工具调用，支持 Llama 3.1 等模型
Ollama 于 7 月 25 日宣布支持工具调用，模型可借助已知工具完成更复杂任务或与外部世界交互，例如函数与 API、网页浏览、代码解释器。开发者可在 Ollama API 的 tools 字段传入工具列表，受支持模型会返回 tool_calls 响应，工具结果通过 tool 角色的消息回传。