OpenAI News·2024-10-01 18:03· 2024-10-01AI 评分56

OpenAI 在 API 中推出 Prompt Caching，对近期见过的输入自动打折

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出 Prompt Caching，对模型近期已经见过的输入自动提供折扣。该功能面向 API 调用方，输入部分会自动降价，无需额外配置。

来源：OpenAI News · openai.com