人工智能技术文章
-
AI 流式输出最难防的不是一句脏话，而是外部内容诱导模型越权调用工具。本文用一个可落地的请求链说明权限隔离、增量输出过滤、审计字段和失败回收如何配合。338 收藏 -
提示词注入不是简单的敏感词过滤问题。本文从应用要保护的系统提示词、用户数据和外部工具权限出发，给出输入隔离、最小权限、结构化参数、审计日志和回归验证的一套落地做法。187 收藏 -
AI 流式接口不能只靠某个文本片段判断结束。本文用事件序列拆解增量内容、完成事件、失败状态与断线续接，给出客户端状态机、重复片段处理和验收清单。239 收藏 -
视觉模型遇到 20MB 以上图片时，真正棘手的是尺寸预算、上传方式和重试边界同时变化。本文从请求前预缩放、分块上传到失败回收，拆解一条可验证的图片输入链路，并说明什么时候应该拒绝重试。124 收藏 -
RAG 知识库的切片不是越短越好。本文用一份带标题和代码块的技术文档说明切片长度、重叠窗口与语义边界如何共同影响召回证据，并给出可复现的调参流程、检查指标和常见误区。170 收藏 -
向量检索召回很多无关片段，通常不是单一模型失效，而是候选范围、相似度阈值和最终排序没有分层。本文用一个文档问答场景拆开召回噪声的定位路径，说明元数据过滤、score_threshold、候选集放大和重排的使用边界。141 收藏 -
RAG 系统检索到了相关资料却仍然答非所问，通常不是模型单点失误。本文用一个可复现的小实验，依次检查召回内容、切片边界、排序分数和上下文拼接，最后给出可回归的验证方法。309 收藏 -
科技周边 · 人工智能 | 2天前 | 人工智能 · openai · 工程实践 · 流式输出 · Responses API · SSE 断线重连 Responses API AI流式输出 事件游标
AI 流式输出断线后不要直接重发请求。本文以 OpenAI Responses API 的 SSE 事件为例，说明如何保存 response_id、sequence_number 和已展示片段，重连后消除重复内容，并用最终状态完成一次可审计的收尾。377 收藏 -
模型服务出现限流、超时或参数错误时，AI 网关不能把所有失败都交给重试。本文从统一请求契约出发，拆分可降级、可重试和必须直返的错误，并用幂等键保护跨模型切换后的结果一致性。347 收藏 -
评测分数异常好，未必代表模型真的可靠。训练集、验证集和测试集之间的重复样本、未来字段和错误的预处理顺序，都会造成数据泄漏。本文以带时间的客服工单分类为例，给出切分、去重、特征时间点和最终验收的检查方法。115 收藏 -
AI 应用调用搜索、数据库或业务接口时，超时不只是返回一条错误消息。本文用 Go context 把截止时间、取消信号、工具结果和用户状态串成一条可验收的链路，说明何时停止、如何记录以及怎样避免重复执行。310 收藏 -
模型没有返回答案时，不能只看空字符串或 HTTP 状态码。本文把提示被拦截、候选被安全过滤、正常截断和服务异常分开，给出统一状态判断、用户提示与回归验收的方法。140 收藏 -
RAG 应用最难排查的错误之一，是模型把相似检索片段直接改写成确定答案。本文从引用绑定、证据片段和拒答边界入手，给出一套可落地的输出验收方法。201 收藏 -
大模型流式接口出现重复片段，通常不是模型把同一句话生成了两次，而是客户端把重试、重放或累计快照重复拼接。本文用可观测指标拆开增量事件、断线续传和去重边界。213 收藏 -
RAG 知识库答非所问，通常不是模型单独失灵，而是切分、召回过滤和重排之间没有形成可验证的证据链。本文用一组可复现的检查方法定位问题，并给出适合上线前评测的调整顺序。243 收藏