DeepSeek API 提供优化策略，确保命中时价格折扣。
为了节省开支，您可以提前测试一下我们的新功能。它能够无缝连接您的系统，并且无需更改即可立即使用。我们的目标是在多个请求之间的上下文中提供优化，例如代码补全、多轮对话以及论文阅读等任务。然而，您需要确保您的提示与您最近发送的提示具有高度的相关性，以便成功匹配并获得加速处理和折扣优惠。此外，如果您提供的提示长度小于2千个字符，可能不会触发kv cache缓存机制；而长度大于等于2千个字符则更有可能触发。
此外，我们正在测试这个功能，因此可能存在一些不稳定性。我们将继续改进和完善这个功能，以提高用户体验。
页:
[1]