人工智能技术文章
-
在 Transformers generate 中自定义 StoppingCriteria，用 tokenizer 生成的 token 序列匹配等标记，并处理批量生成、提示词误匹配和兜底长度限制。 120 收藏 -
MCP 2026-07-28 将协议层改为无状态，但业务仍可能有状态。本文用显式句柄、请求级路由、缓存范围和 Trace Context 拆解迁移边界。119 收藏 -
长文切片容易在 RAG 召回中占满候选集。本文用 Go 演示按来源分桶、限制每桶配额，再把候选交给 rerank，最后按 token 预算组装上下文，并给出可复查的召回指标。118 收藏 -
AI API 上线评审不能只看请求是否成功，还要画清输入、平台短期状态、回调结果和删除动作。本文用一个后台响应场景拆解客户数据与短期保留的边界，给出可落地的合规核对清单。115 收藏 -
评测分数异常好，未必代表模型真的可靠。训练集、验证集和测试集之间的重复样本、未来字段和错误的预处理顺序，都会造成数据泄漏。本文以带时间的客服工单分类为例，给出切分、去重、特征时间点和最终验收的检查方法。115 收藏 -
LLM评测不要把事实错误和表达偏差混成一个总分。本文给出分层标签、证据字段、分项统计和复核一致性的可复用设计。115 收藏 -
语音转写与说话人分离遇到重叠发言时，不要按片段顺序抢词或直接删掉重叠区；应保留普通 diarization，再用词级时间交集决定归属，无法判断的结果进入 ambiguous 复核。115 收藏 -
用 Hugging Face 风格的评估数据组织方式，拆解 RAG 引用支撑度的字段契约、覆盖检查、语义判定和分层排障方法。115 收藏 -
AI 图片里出现多余文字，通常不是把否定词堆得更多就能解决。本文从画面目的、文字约束、分步修改和交付验收四个环节，给出一套可复用的排查方法。113 收藏 -
MCP 工具调用遇到超时，不能简单地把所有失败都重试。本文从资产保护、调用路径和错误分级入手，设计一套包含超时、重试、幂等、审计与人工接管的收口方案。111 收藏 -
RAG 中不要让模型猜来源。给每个检索片段保留稳定 chunk_id，让模型返回可校验的 citations，再由应用层回填标题、页码和原文位置。111 收藏 -
Responses API 的结构化输出不会自动校验工具返回值。本文用统一错误信封、function_call_output 和严格 JSON Schema 保留错误码、消息与可重试标记，并说明为什么还要保存原始工具结果。111 收藏 -
AI Agent 记忆不应把所有对话永久保存。本文用会话、任务和用户事实三层模型，说明字段设计、写入门槛、分层检索与冲突处理方法。110 收藏 -
多租户向量检索不能只依赖相似度。本文说明如何从服务端鉴权上下文得到 tenant_id，为记录建立精确过滤字段，并比较共享集合、分区键和独立集合的隔离边界。108 收藏 -
模型流式输出中断时，不要直接把请求重发并拼接全文。先保存 request_id、事件序号和幂等键，重连时重放已确认事件，再按供应商能力决定是否续生成，才能避免重复展示和状态错乱。108 收藏