人工智能技术文章
-
从零实现一个 RRF 混合检索融合器，把关键词与向量排名统一去重、计分，并输出可直接交给 RAG 的候选文档。373 收藏 -
静态量化的校准集不能只随机抽训练样本。本文从线上预处理、来源领域、长度形状、常见分布和关键长尾建立覆盖矩阵，并说明如何用独立评估与漂移监控判断校准是否可靠。372 收藏 -
时间切分不能证明评测集绝对无污染，但能用训练截止时间、样本最早来源时间、冻结时间和评测时间建立可审计边界。本文给出三桶切分、重复检测、检索隔离、分窗报告与滚动换题方案。356 收藏 -
LiteRT int8 量化结果异常时，先检查代表性数据集是否复用了真实推理的预处理、shape、dtype 和数值分布。本文按输入契约拆解多输入签名、校准范围与样本覆盖的排查方法。348 收藏 -
从任务拆解、难度信号、试测校准和分层抽样四个环节构建 LLM 评测集，让总分之外还能看清模型在哪个能力层级上变化。343 收藏 -
自定义 Keras train_step 时，正则损失可能被遗漏。本文说明如何在前向传播后读取 self.losses，与任务损失合并为 total_loss，并让梯度、fit 指标和 sample_weight 处理保持一致。343 收藏 -
Diffusers直接放入GPU通常速度更快但显存峰值更高，CPU卸载能降低常驻显存却增加设备搬运。本文对比两种方式及model级、sequential级卸载的选择边界。338 收藏 -
Keras mixed_float16 训练出现 NaN 时，先用 float32 建立对照，再检查输入有限性、数值范围、前向损失和梯度，区分数据问题、低精度敏感计算与 loss scale 问题。本文给出最小排查代码和迁移修复顺序。337 收藏 -
使用 Transformers Fast tokenizer 的 offset_mapping 把 token 位置还原为原始文本片段，并处理特殊 token、批量溢出、成对输入与预分词边界。330 收藏 -
用Accelerate的save_state与load_state保存和恢复训练随机数状态，通过epoch边界示例说明加载时机、自建生成器登记和数据位置区别，避免将固定seed误当断点恢复。326 收藏 -
MCP 客户端不应只靠固定 TTL 缓存工具描述和资源。本文按 tools/list、resources/list、resources/read 拆分缓存键，结合 ttlMs、cacheScope 与变更通知设计可恢复的一致性策略。313 收藏 -
使用 Hugging Face PEFT 训练适配器后，检查点通常只包含适配器权重和配置，不会复制完整基础模型。本文从目录现象出发，说明保存设计、恢复加载、继续训练与合并导出的区别。301 收藏 -
从标题路径、递归切分、token 上限和召回聚合四个环节，说明 RAG 如何减少断章与误召回。300 收藏 -
混合召回应让关键词与向量检索并行产生候选，再用 RRF 等可解释方法合并名次，而不是直接相加不同量纲的原始分数。本文给出实现骨架、参数选择、过滤边界与评估方法。293 收藏 -
智能体一次任务答对，不代表执行过程可靠。本文用一个可落地的评测表，把最终结果、工具轨迹、成本、延迟和失败恢复拆开衡量，并给出规则评分与版本对比方法。290 收藏