Prompt 缓存

• 更快的首个 token 响应时间 — 模型无需重新计算已缓存的消息

• 更低的成本 — 缓存 token 按较低费率计费

本节内容

• 工作原理 — 了解缓存如何从 messages array 的开头开始工作

• 最大化缓存命中率 — 配置 x-grok-conv-id 和 prompt_cache_key，实现最优缓存效果

• 哪些情况会破坏缓存 — 导致缓存未命中的常见错误

• 用量与价格 — 读取缓存 token 计数并了解计费方式

• 最佳实践与 FAQ — 提示、支持的模型和常见问题