人工智能技术文章
-
OCR 结果进入 RAG 前不要只保留拼接文本。本文用统一文本块保存 source_id、页码、版面多边形和字符范围，并说明切块、向量召回与回答引用如何保持同一条证据链。233 收藏 -
按实体和来源拆分训练、验证和测试，使用稳定的任务簇键避免评测集泄漏，让模型指标更接近真实泛化能力。233 收藏 -
接入远程工具时，真正需要验收的是工具白名单、调用暂停、审批结果与工具输出的关联链路。本文用只读查询场景拆开发现、确认、拒绝和故障恢复的边界。232 收藏 -
AI 流式回答在移动网络或代理切换时可能中途断开。本文用 SSE 的事件 ID、重连窗口和客户端游标，拆解如何续接未完成内容、避免重复片段，并给出可验收的状态与日志设计。231 收藏 -
AI 接口遇到 504 不能简单重复提交。本文用 OpenAI 的 X-Client-Request-Id 和 Gemini API 的指数退避建议，拆解请求标识、可重试错误、结果去重与人工复核的完整工作流。229 收藏 -
超长视频不能只靠一次请求和一段摘要解决。本文以长视频检索为例，拆解分段抽帧、时间轴索引、候选片段复核和证据回溯的工程流程，并给出可验收的结果格式。229 收藏 -
更换 Embedding 模型后，旧向量与新向量的维度可能不一致，直接覆盖索引会让写入、查询和回滚同时失控。本文以双索引迁移为主线，拆解维度核对、查询路由、后台回填和回滚验收。229 收藏 -
Embedding 模型切换后，向量维度、距离度量和索引构建参数可能同时变化，旧索引不能靠改字段继续复用。本文用 pgvector 的 vector(1536)、vector(3072) 与 HNSW 示例，给出双写迁移、验收和可回滚方案。222 收藏 -
大模型流式响应偶尔重复半句，通常不是模型把同一句生成了两遍，而是客户端重复消费增量块、混淆事件边界或把结束事件再次当成正文。本文从流式传输、UTF-8 解码和结束标记三个边界拆开排查方法。222 收藏 -
MCP 服务端不能看到客户端声明了 elicitation 就直接发送任意模式。本文按初始化能力、form 与 url 分支、请求结果和失败回退，说明如何核对客户端支持范围并守住敏感信息边界。221 收藏 -
多模态模型处理长截图或复杂表格时，整图输入常把小字号和列关系一起压缩掉。本文用区域裁剪、坐标记录和字段映射三步，搭建一套可复核的表格识别流程，避免只看最终文本猜错位置。221 收藏 -
批量推理输入长度差异大时，固定 batch 会产生大量 padding。本文用 Hugging Face Transformers、PyTorch DataLoader 和 token 长度分桶说明配置方式，并给出显存、吞吐和结果顺序的排查清单。221 收藏 -
PEFT 适配器合并理论上把增量权重写回基础模型，但浮点舍入、量化、基础模型版本、活跃适配器和生成参数差异都可能改变输出。本文给出固定条件、比较 logits、正确接收 merge_and_unload 返回值和定位大幅偏差的方法。221 收藏 -
用 Moderations API 的 flagged、categories 和 category_scores 区分规则命中与业务误报，再把审核结果分成放行、人工复核和拒绝三条路径。218 收藏 -
AI 流式输出遇到网络断开时，不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手，给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏