跳到正文
原文
Mistral News·· 2024-11-07精选AI 评分62

Mistral 在 La Plateforme 上线 Batch API,成本比同步调用低 50%

Mistral Batch API

AI 导读

Mistral 在 La Plateforme 上线 Batch API,处理高并发请求的成本比同步 API 调用低 50%。使用方式是上传批量文件、处理完成后下载输出文件,适用于客户反馈与情感分析、文档批量摘要与翻译、为搜索索引生成向量嵌入以及数据标注等场景。该接口覆盖 La Plateforme 上的全部模型,每个工作区最多 100 万个进行中的请求,后续将登陆其云服务商合作伙伴。

推荐理由

Mistral 在多家 API 涨价背景下推出批量接口,成本比同步调用低 50%,可对照自己的批量任务量评估迁移。

来源:Mistral News · mistral.ai