跳到正文
原文
OpenAI News·· 26 天前AI 评分40

OpenAI 为 GPT-6 改进 prompt caching

Better prompt caching for GPT-6

AI 导读

OpenAI 为 GPT-6 改进了 prompt caching,带来更高的缓存命中率、新的诊断工具、显式断点以及可降低延迟与成本的控制项。官方称这些改动旨在减少请求延迟和费用。

来源:OpenAI News · openai.com