大模型
已收录文章：3篇
-
多轮对话变长后，简单截掉旧消息很容易让模型丢失用户约束。本文从上下文压缩的边界出发，拆解摘要漂移、关键事实遗漏和回放验收，用可重复的测试样例判断压缩是否真的可用。418 收藏
-
AI 流式回答在移动网络或代理切换时可能中途断开。本文用 SSE 的事件 ID、重连窗口和客户端游标，拆解如何续接未完成内容、避免重复片段，并给出可验收的状态与日志设计。231 收藏
-
同一个模型请求失败，并不代表应该立刻换到下一个模型。本文按超时、限流、服务异常和内容拒答拆开处理，给出路由状态、重试边界、降级策略与可验收的实现路径。398 收藏