admin 发表于 2024-10-2 13:59:58

OpenAI API现已支持提示词缓存功能。

##API 提示缓存功能现已推出!
**简而言之:**
* 当提示长度超过 1,024 个 tokens 时,缓存功能可生效。
* 缓存命中后,价格将减半。
**目前支持的模型:**
* gpt-4o-2024-08-06
* gpt-4o-mini-2024-07-18
* o1-preview
* o1-mini
页: [1]
查看完整版本: OpenAI API现已支持提示词缓存功能。