OpenAI 如何用 AI 自动化并扩展财务运营
OpenAI 发布文章,介绍如何用 AI 自动化并扩展财务运营。内容聚焦将 AI 投入实际财务工作流程,以实现自动化处理与规模化运营。原文未披露具体产品名、价格、费率或版本号。
OpenAI 发布文章,介绍如何用 AI 自动化并扩展财务运营。内容聚焦将 AI 投入实际财务工作流程,以实现自动化处理与规模化运营。原文未披露具体产品名、价格、费率或版本号。
OpenAI 推出基于 GPT-4o 的新多模态审核模型,用于升级 Moderation API,能更准确地检测有害文本和图像。该模型面向开发者,可帮助构建更稳健的审核系统。
Meta 的 Llama 3.2 现已可通过 Ollama 运行,执行 ollama run llama3.2 即可使用。1B 和 3B 为纯文本模型,针对手机或边缘设备本地运行优化,可用于构建端侧个性化 Agent,处理在本地完成以保护隐私。11B 和 90B 为视觉模型,支持图表等文档理解和图像描述,官方称即将推出。
Mercado Libre 推出 AI 开发者平台 Verdi,由 GPT-4o 驱动。该平台面向开发者,具体功能、定价与可用范围尚未披露。
Livebook 结合 FLAME 与 Nx 栈,可从笔记本直接启动运行在 Fly.io 云上 Fly Machine 的运行时,并调度 GPU 机器做 AI 计算。演示中 FLAME 池把视频抽帧交给 GPU 上的 Llama 生成描述、再由 Mistral 汇总,并支持 64 台 L40s GPU 机器做 BERT 超参调优。
Vercel 发布 AI SDK 3.4,为这个用 JavaScript 和 TypeScript 构建 AI 应用的开源工具包加入语言模型中间件、数据流协议、结构化输出、多步调用、追踪改进和 mock 模型测试等能力。
推荐理由:AI SDK 3.4 新增语言模型中间件、数据流协议与多步调用,用 JS/TS 构建 AI 应用的开发者可据此评估升级。
Bespoke Labs 开发的事实核查模型 Bespoke-Minicheck 已在 Ollama 上线,可对其他模型生成的回答做核查以检测并减少幻觉。它接收文档与待核查声明,若文档支持则输出 Yes,否则输出 No,适合作为 RAG 应用的后处理步骤,确保回答基于检索到的上下文。运行命令为 `ollama run bespoke-minicheck`。
Replit 推出 AI 软件工程师 Replit Agent,可帮助构建全栈应用,内置规划器、代码编辑器,并集成 Discord、Stripe 等第三方 API,还能创建和部署由 Neon 提供支持的 Postgres 数据库。该教程演示如何用 Replit Agent 一步步搭建一个新闻应用。
Mistral 为 la Plateforme 推出免费额度,开发者可零成本做实验、评估和原型开发,之后可平滑升级到商业版并享受数据隔离与更高速率限制。全线模型降价,Mistral Small 与 Codestral 输入输出价格均降 80%,Mistral Large 降 33%,Mistral Nemo 降 50%。
推荐理由:Mistral 公布全线模型降价与免费额度,开发者可据此重新核算 API 调用成本。
Replicate 发布教程,教你用其 HTTP API 以编程方式创建并运行自己微调的 FLUX.1 模型。训练按秒计费,跑在 Nvidia H100 上,费率 $0.001528/秒,20 分钟训练(约 20 张图、1000 步)约 $1.85,起步预算 2-3 美元。
Ada 借助 GPT-4 提升客户服务标准。原文未披露具体定价、费率或增长数据。
Replicate 支持用少量照片微调 FLUX.1,训练约 20 分钟、花费约 $1.85,即可生成自己扮演超级英雄、卡通角色等形象。训练在 Nvidia H100 上按 $0.001528/秒计费,建议至少 10 张 1024x1024 以上图片、1000 steps,并设置唯一触发词。
Supabase 博客演示了如何用 PGlite 和 Transformers.js 在浏览器内实现语义 AI 搜索:将文本嵌入向量存入 PGlite 的 embeddings 表,直接在客户端完成相似度检索,无需后端服务。示例以 Bed、Car 等词条写入向量数据,展示本地化语义搜索的可行路径。
OpenAI 举办了一场关于 GPT-4o 微调(Fine-tuning)的网络研讨会。
Hugging Face Hub 拥有超 85 万个公开模型、每月新增约 5 万个,但其中 ZeroGPU、多进程 Docker、Gradio API、Webhooks 和 Nomic Atlas 这 5 项功能常被忽视。
Supabase Edge Functions 在 Ollama 之外新增 Mozilla Llamafile 作为推理服务器,后者以单文件在本地运行 LLM,并提供兼容 OpenAI API 的服务端。
OpenAI 宣布 GPT-4o 现已支持微调功能。材料仅提供标题,未给出价格、可用范围或具体能力细节。
Wordware 与 Neon 合作,让 AI agent 的构建和迭代更快。借助 Neon 的预览分支,团队能在迁移于主数据库副本上出错时提前发现问题,并在进入生产环境前修复。
Vercel 团队用 AI SDK 解决非英语字符域名购买失败的问题:Punycode 域名在 OpenSRS 注册时需附带语言代码,而系统此前将其设为可选未启用。语言检测库 CLD2 因域名过短失效后,团队改用 AI SDK 的 generateText 调用 OpenAI GPT-4o 生成 3 位语言代码,在近两个月失败的购买记录上测试达到 100% 成功率,并已上线生产环境。
Fly.io 宣布把 NVIDIA L40S GPU 的价格下调到每小时 1.25 美元,与 A10 同价,用户使用 L40S 不再比 A10 多付费用。Fly.io 称其 GPU 目录中 A10 最受欢迎,用户主要跑推理而非训练,因此把定位为 A100 级性能的 L40S 降到 A10 价位。
推荐理由:Fly.io 把 L40S 降到与 A10 同价,并公开了用户实际更偏好中低端推理卡的数据。
Replicate 现在支持用 Ostris 的 AI Toolkit 微调 FLUX.1 [dev],通过上传少量示例图片即可让模型学会新的风格、角色或物体,训练采用 LoRA 技术。
推荐理由:Replicate 官方给出 FLUX.1 微调的完整流程与成本,含数据准备、参数和定价细节。
Replit 存储了超过 3 亿个软件仓库,规模与 GitHub、Bitbucket 同级,并借助 Operational Transformation(OT)协议和执行日志记录每个项目的时间线。
OpenAI 发布文章,讨论将数据与 API 配对以释放客户价值,并以 Rakuten 为例说明其如何借助 AI 打通数据、挖掘客户洞察与价值。
Mistral AI 在 La Plateforme 上线模型定制功能,支持对 Mistral Large 2、Codestral 等旗舰与专用模型用 base prompt、few-shot prompting 或 fine-tuning 定制,并可自带数据集。
Vercel AI SDK 3.3 发布,新增四项主要功能:基于 OpenTelemetry 的 Tracing、多模态文件附件、useObject hook 以及更多 LLM 设置,前三项均为实验性功能。
Vercel 发布了一份把 AI 集成进业务的战略指南,并推出 VIA-AI 评估框架,从价值潜力、集成可行性、战略一致性、业务逻辑增强、数据质量、性能扩展性、安全合规与用户信任七个维度按 1-5 分给 AI 用例打分。平均分高于 4 分即可着手实施,低于 3 分则需重新评估短板。指南还建议为 AI 项目设定模型准确率、响应时间、转化率、客户留存率等技术与业务 KPI。
OpenAI 在 API 中推出 Structured Outputs,模型输出现在可以可靠地遵循开发者提供的 JSON Schema。该功能面向需要在 API 调用中获得稳定结构化数据的开发者。
推荐理由:OpenAI 在 API 中上线 Structured Outputs,模型输出可按开发者提供的 JSON Schema 返回,便于构建稳定的结构化数据流程。
Replicate 上线了 Black Forest Labs 开发的开源图像生成模型 FLUX.1,可用一行代码在云端调用。FLUX.1 分三个版本:FLUX.1 [pro] 每张 $0.055,FLUX.1 [dev] 每张 $0.030,FLUX.1 [schnell] 每张 0.003 美元,其中 [schnell] 采用 Apache 2.0 许可。
推荐理由:Replicate 官方上线 FLUX.1 并给出三个版本的单张价格,读者可据此比较接入成本。
pgvector 最新版本加入量化功能,可缩小向量与索引占用,并加快 RAG 应用的索引构建与预热时间。Neon 的 Postgres 数据库均自带 pgvector,可免费创建数据库试用。文章建议用 halvec 替代 vector,以节省 50% 存储成本。
Hugging Face 面向 Enterprise Hub 组织推出 NVIDIA NIM API(serverless),基于 NVIDIA DGX Cloud 提供无服务器推理,按请求计算时间计费。
Ollama 于 7 月 25 日宣布支持工具调用,模型可借助已知工具完成更复杂任务或与外部世界交互,例如函数与 API、网页浏览、代码解释器。开发者可在 Ollama API 的 tools 字段传入工具列表,受支持模型会返回 tool_calls 响应,工具结果通过 tool 角色的消息回传。
Mistral AI 发布 Mistral Large 2,模型规模 123B 参数,支持 128k 上下文窗口和数十种语言,可在单节点上实现大吞吐推理。
推荐理由:Mistral Large 2 的 128k 上下文、123B 参数与单节点推理定位,是评估自部署成本与多语言能力的直接参考。
Replicate 宣布可通过其 API 运行 Meta 的 Llama 3.1 405B 模型,该模型有 4050 亿参数、8000 token 上下文窗口,官方称其在多项基准上接近或达到 GPT-4 水平。Replicate 提供了 JavaScript、Python 和 cURL 三种调用方式,并给出 Next.js 示例聊天应用,可部署在 Vercel 上。
推荐理由:Replicate 官方给出 Llama 3.1 405B 的 API 调用方式,含 JavaScript、Python 与 cURL 三种示例。
AskYourDatabase 让非技术团队成员用自然语言与 Neon Postgres 数据库交互,无需编写 SQL 查询。SQL 数据库对非技术成员往往难以使用,通常需要定制 GUI 工具,而写 SQL 会成为获取数据的障碍,AI 可在此提供帮助。
OpenAI 发布 GPT-4o mini,定位为更具成本效率的智能模型。材料仅提供标题,未包含正文内容,具体价格与能力细节暂无法确认。
Hugging Face 为 TGI 推出 Multi-LoRA serving,只需部署一次基础模型,就能按请求动态切换多个 LoRA 适配器,官方示例用 mistralai/Mistral-7B-v0.1 同时服务 predibase/customer_support 和 predibase/magicoder。
推荐理由:Hugging Face 官方介绍 TGI 的 Multi-LoRA 部署方式,给出成本与用量对比,适合评估多模型推理方案。
Mistral 发布 Codestral Mamba,一个基于 Mamba 架构的代码模型,采用 Apache 2.0 许可,可免费使用、修改和分发。该模型具备线性时间推理能力,官方测试了最高 256k tokens 的上下文检索,并称其表现与 SOTA Transformer 模型相当。
推荐理由:Mistral 发布 Codestral Mamba,给出线性时间推理、256k 上下文测试和 Apache 2.0 许可,可对照其与 Transformer 代码模型的差异。
Hugging Face 宣布 Google Cloud TPU v5e 已可在 Inference Endpoints 和 Spaces 上使用,用户选择 Google Cloud Platform 和 us-west1 区域后即可挑选 TPU 配置。
多伦多 AI 专利公司 XLSCOUT 发布专有嵌入模型 ParaEmbed 2.0,经 Hugging Face Expert Support Program 协作,在人工专家整理的多领域专利数据上微调,准确率较 2023 年 10 月发布的 ParaEmbed 1.0 提升 23%。
Vercel 发布 AI SDK 3.2,围绕 Agent、Provider、Embeddings 和开发体验四方面扩展能力。