流式输出
已收录文章:3篇
-
AI 对话的停止按钮不只是调用 abort()。要让用户、键盘操作和辅助技术都获得一致反馈,需要为每次请求新建 AbortController,正确收尾读取循环,并把生成、停止、失败状态放进合适的实时状态区域。425 收藏
-
AI 网关同时承载多路流式回答时,连接复用、异步回调和日志采集很容易把不同请求的片段混到一起。本文用 request_id 贯穿入口、上游连接、事件转发和落盘日志,再配合状态机与断言,把串线问题变成可以复现、定位和验收的工程流程。407 收藏
-
AI 流式输出遇到网络断开时,不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手,给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏