人工智能技术文章
-
以 Hugging Face InferenceClient 为例，拆解结构化输出失败的三层原因，用最小 JSON Schema 和检查清单快速定位配置、模型兼容性与解析问题。447 收藏 -
围绕真实初筛候选集配置 reranker 评估，说明 positive、negative、documents、candidate_k、rerank_k 的边界，并用 MRR@10、nDCG@10、MAP 对比基线与重排结果，定位召回、截断和分数解释问题。388 收藏 -
embedding 归一化不是简单打开一个开关：先统一 query 与 document 的向量契约，再检查池化、attention_mask 和相似度度量。本文给出两种配置方式和一套可复用的排查清单。147 收藏 -
从文档结构、token预算、重叠窗口和稳定元数据四个方面，说明RAG切块与引用定位的配置方法、排查顺序和常见误区。404 收藏 -
RAG 检索结果重复时，先按 source_id 做同来源去重，再保留 chunk_id、最高分和冲突标记形成证据组，避免重复上下文和来源误合并。484 收藏 -
AI 生成代码最容易失控的地方不是语法，而是修改范围。本文用单元测试、修改预算和 git diff 双重门禁，拆解如何让一次生成式改动保持可验收、可回退。366 收藏 -
OpenAI 提示词模板的变量主要负责替换输入，默认值、类型和必填校验应放在应用侧包装函数中。本文用 TypeScript 建立一层可复用契约。296 收藏 -
模型流式输出中断时，不要直接把请求重发并拼接全文。先保存 request_id、事件序号和幂等键，重连时重放已确认事件，再按供应商能力决定是否续生成，才能避免重复展示和状态错乱。108 收藏 -
AI Agent 记忆不应把所有对话永久保存。本文用会话、任务和用户事实三层模型，说明字段设计、写入门槛、分层检索与冲突处理方法。110 收藏 -
Embedding 模型、维度或距离度量升级后，旧向量通常不能直接混用。本文说明如何判断空间兼容性，并用双写、后台回填、灰度评测和可回滚切换完成生产迁移。173 收藏 -
本地量化模型显存不足时，先拆分权重、KV cache 和计算缓冲区，再按真实输入选择上下文长度。本文给出 2048、4096、8192 的起点判断，以及上下文、KV 缓存精度、批大小和量化档位的调节顺序。258 收藏 -
用多模态模型抽取发票时，不要只保存模型返回的文本。本文用 JSON Schema 设计字段证据对象，把字段值、原图归一化坐标、证据说明和人工复核标记绑定在一起。446 收藏 -
LLM评测集不要只放正常问答。更稳妥的做法是把样本分成正常任务、明确拒答和可澄清的边界请求，为每条记录期望行为、原因标签和替代方向，再按分片统计完成率、拒答准确率、澄清率与不必要拒答率。177 收藏 -
工具调用参数校验失败时，不要直接重放可能产生副作用的工具。本文拆解 strict Schema、应用侧业务校验、tool_call_id 错误反馈、幂等键和有限重试的分工。215 收藏 -
模型返回枚举值错误时，先区分 schema 不匹配、拒答和输出不完整，再用 JSON Schema 的 enum 约束允许值，并保存脱敏原始响应。本文给出结构化输出的约束、解析、重试和监控做法。345 收藏