流式响应
已收录文章:2篇
-
Go 服务接入 Responses API 的流式输出后,最难排查的不是连接建立,而是中途断流、客户端取消和重试重复。本文用事件序列、Context 和请求日志拆开问题,给出可回滚的排查与修复方案。326 收藏
-
Go 服务把模型的流式输出转发给浏览器时,客户端刷新或断网会让上游请求继续消耗连接和配额。本文用 Request.Context、HTTP 流读取和取消信号复盘这个故障,并给出可验证的清理与回滚方案。254 收藏