AI应用开发
已收录文章：2篇
-
用 Claude Prompt Caching 降低长上下文请求的延迟和成本时，要把静态前缀、动态尾部、TTL 与 usage 里的 cache read/write 分开验收。363 收藏
-
科技周边 · 人工智能 | 13小时前 | openai · Responses API · AI应用开发 · OpenAI Responses API 上下文压缩 compaction conversation state长对话和工具循环会不断消耗上下文。本文用 Go 拆解 Responses API 的 /responses/compact、type=compaction 项和续接请求，说明什么时候压缩、哪些状态不能丢，以及如何做回归检查。428 收藏