人工智能技术文章
-
RAG 应用把检索结果直接拼进提示词,常会遇到重复段落挤占上下文、引用指向不稳定和答案被相似文档带偏的问题。本文用一条可回放的数据流说明候选文档如何去重、截断并组成引用上下文。146 收藏 -
Responses API 一次返回多个 function_call 时,不要只处理第一项;保留完整 response.output,按每个 call_id 执行工具并逐条回传 function_call_output,才能避免结果串线。146 收藏 -
在一次请求的流式窗口发生中断时,重发与否是关键风险点。本文给出以请求 ID、幂等键、状态回放与回退策略构成的恢复闭环。145 收藏 -
OCR 表格跨页合并不能简单拼接文本。本文从页级表格、重复表头、列位归一化和跨页断行四个边界入手,给出可落地的合并伪代码与结果检查清单。145 收藏 -
从 handler.py 的 EndpointHandler 结构、依赖管理、本地测试到 Custom 任务部署,说明 Hugging Face Inference Endpoint 编写自定义 Handler 的完整边界。145 收藏 -
向量检索召回很多无关片段,通常不是单一模型失效,而是候选范围、相似度阈值和最终排序没有分层。本文用一个文档问答场景拆开召回噪声的定位路径,说明元数据过滤、score_threshold、候选集放大和重排的使用边界。141 收藏 -
RAG 应用回答看似流畅却总带错文档,通常不是模型突然失常,而是切分、召回和证据核对没有连成一条可追踪链路。本文用一个知识库排障场景,拆解如何定位错召回并验证修复效果。141 收藏 -
模型没有返回答案时,不能只看空字符串或 HTTP 状态码。本文把提示被拦截、候选被安全过滤、正常截断和服务异常分开,给出统一状态判断、用户提示与回归验收的方法。140 收藏 -
围绕 GLM-5.3-Flash 的图文输入场景,拆开消息、抽取字段与校验层,给出一套不把模型输出直接当事实的结构化抽取边界。140 收藏 -
统一 Hugging Face Evaluate 输入时,应该统一 predictions 和 references 的批次外壳,同时以 metric.features 保留每个指标的元素类型与嵌套边界。本文给出适配器写法、compute 与 add_batch 共用方式,以及组合指标前必须检查的兼容条件。134 收藏 -
梳理 Transformers generate 的 EOS、max_new_tokens、stop_strings 与自定义 StoppingCriteria,演示批量提示词、多候选返回、纯新增 token 解码和输出分组。133 收藏 -
AI Agent 执行长任务时,真正难的是中途失败后从哪里继续。本文围绕 checkpoint、恢复点和幂等回放,拆解状态保存、重启恢复、重复执行与回归验收的工程边界。132 收藏 -
PDF 图表检索失败时,先区分抽取、模态 embedding、向量集合和视觉重排四层。本文用固定回归样本和配置检查,定位图表到底在哪一层丢失。132 收藏 -
视觉模型遇到 20MB 以上图片时,真正棘手的是尺寸预算、上传方式和重试边界同时变化。本文从请求前预缩放、分块上传到失败回收,拆解一条可验证的图片输入链路,并说明什么时候应该拒绝重试。124 收藏 -
量化模型精度下降时,不要只看一个总分。本文用固定输入、配对预测和分桶误差,区分评测条件不一致、长输入敏感与校准集覆盖不足,并给出可复用的对照脚本。124 收藏