人工智能技术文章
-
RAG 检索命中并不等于答案可靠。本文从文档切块边界、条件与例外的证据链、引用片段校验三个角度，说明如何定位答案被带偏的原因并建立可复查的回归检查。385 收藏 -
AI 评测集不要只放标准答案。把应答、应拒答和边界样本分开，记录 expected_action、拒答理由、人工标注和安全替代建议，再分别计算准确率、漏拒答率与拒答帮助度。385 收藏 -
OCR 通常先返回文本、坐标和置信度，不会直接给出可用的二维表。通过统一坐标、按垂直重叠聚类行、按横坐标排序并推断列锚点，可以重建表格关系，同时保留低置信度单元格供复核。385 收藏 -
用 HF_HUB_CACHE 或 HF_HOME 把 Hugging Face 模型缓存放到指定磁盘，再用 snapshot_download 提前准备文件，结合 HF_HUB_OFFLINE=1 与 local_files_only=True 完成无网加载。384 收藏 -
余弦相似度异常，先别急着改阈值。本文用一段最小 Python 配方检查 Embedding 的维度、L2 范数、归一化、点积和向量库距离配置，帮助定位分数漂移的真正环节。383 收藏 -
Agent 工具返回的文件路径不能直接信任。本文用工作区根目录、Path.resolve 和 relative_to 组成边界检查，处理绝对路径、目录穿越、符号链接与读写权限分离。381 收藏 -
Tool calling 接入业务工具时，先用 JSON Schema 和应用层校验拦截模型参数问题，再把订单不存在、无权限等领域失败转换为稳定的工具结果。本文给出错误分层、Python 示例和重试边界。380 收藏 -
AI 流式输出断线后不要直接重发请求。本文以 OpenAI Responses API 的 SSE 事件为例，说明如何保存 response_id、sequence_number 和已展示片段，重连后消除重复内容，并用最终状态完成一次可审计的收尾。377 收藏 -
一个 AI 应用把危险请求挡住是安全表现，把正常请求误判为风险则是业务失败。本文用一组可回放的测试样本拆分安全拒答、过度拒答、正常通过和非安全业务错误，说明如何设计标签、计算指标并在上线前复核。377 收藏 -
Gemini File Search 支持图片检索后，引用记录不能只保存回答文本。本文拆开 media_id、page_number 与 file_citation 的职责，给出一套可复查的多模态引用记录方法。377 收藏 -
ONNX Runtime 动态量化中的 nodes_to_exclude 应按节点名称精确控制。本文给出节点清单、全量量化基线、差异定位、逐组复测和配置冻结的方法。377 收藏 -
Gemini Interactions API 迁移真正容易漏的是验收：steps 顺序、函数调用、服务端工具、无状态历史、response_format 和 SSE 事件都要分别断言。本文给出 REST 与 SDK 迁移后的 6 类检查。376 收藏 -
科技周边 · 人工智能 | 1个月前 | 人工智能 · Hugging Face Transformers generate output_scores compute_transition_scores 长度惩罚 生成概率
Transformers 的 generate 默认只返回生成序列，不会直接给出每个 token 的分数。本文用 return_dict_in_generate、output_scores 和 compute_transition_scores 还原逐 token 对数概率，并说明 decoder-only 输入长度、beam search 和 length_penalty 的验收边界。374 收藏 -
Gemini Developer API 的零数据留存不是只设置一个 store=false：Interactions、File API、显式缓存、隐式缓存和 Live API 的保留边界不同。本文用一张核对表和最小请求示例说明如何逐项关闭或清理状态。374 收藏 -
Sentence Transformers 的 L2 归一化不会改变余弦方向，但会改变原始点积和部分距离。本文用对照实验说明何时开启 normalize_embeddings。372 收藏