人工智能技术文章
-
连续批处理会在每轮推理后移出已完成请求并补入新请求，减少批次槽位浪费；调优还需同时约束 Token 预算、KV Cache 与延迟。404 收藏 -
静态量化的校准集不能只随机抽训练样本。本文从线上预处理、来源领域、长度形状、常见分布和关键长尾建立覆盖矩阵，并说明如何用独立评估与漂移监控判断校准是否可靠。372 收藏 -
LoRA 合并后输出变化很大，先不要盲目重训。本文从基础模型、适配器缩放、量化与 dtype、推理随机性和 tokenizer 五层排查，并给出确定性对照代码与回归清单。404 收藏 -
RAG 的 chunk_overlap 过大，会让相邻分块产生高度相似的向量，top-k 被同一来源的重复内容占满。本文从切分边界、候选池、去重和 MMR 重排四个方面给出可回归的调整方法。409 收藏 -
合成数据不能仅凭外观接近真实样本就直接替代。本文从覆盖率、分布与相关关系、真实留出集任务效果、偏差和隐私四层检查，说明如何决定它适合补充、加权使用还是禁止替代。128 收藏 -
把提示词模板、变量契约和固定回归样例放进同一次 Git 提交，配合输入哈希、模型参数与可回退版本，解决改完提示词却无法复现和比较的问题。111 收藏 -
电脑操作型智能体上线前，应同时限制运行环境、代理身份、目标站点、可执行动作与数据流，并为外发、购买、删除、授权等高后果动作设置逐次人工确认。本文给出分层护栏、风险矩阵、审计回滚和最小验证清单。286 收藏 -
本地模型只缩短了资料到推理引擎的链路，并不会自动封闭插件、日志、向量库、监听端口、同步备份和输出协作等路径。本文用“本地受控处理区”模式梳理常见泄露面、典型实现、反例和上线检查清单。127 收藏 -
混合召回应让关键词与向量检索并行产生候选，再用 RRF 等可解释方法合并名次，而不是直接相加不同量纲的原始分数。本文给出实现骨架、参数选择、过滤边界与评估方法。293 收藏 -
智能体一次任务答对，不代表执行过程可靠。本文用一个可落地的评测表，把最终结果、工具轨迹、成本、延迟和失败恢复拆开衡量，并给出规则评分与版本对比方法。290 收藏 -
模型路由不只是按名称转发请求，而是根据任务难度、质量门槛、延迟预算和相对成本选择模型。本文用一个 Python 小项目实现可解释分类、分档选择、失败回退、质量升级和离线评测。147 收藏 -
多模态模型读图前，缩放与裁切会改变细节、图块、token和坐标关系。本文用任务分类、等比缩放、裁切偏移与对照实验说明如何在识别效果和成本之间取舍。247 收藏 -
长文档问答不能只返回文件名。本文给出文档版本、章节锚点、内容块、引用卡片和答案断言的完整映射方法，并补充覆盖率、锚点解析、版本一致性、低证据拒答与回滚检查。257 收藏 -
工具调用型智能体会因超时、重试、工作流回放和多副本竞争重复触发有副作用的动作。本文给出稳定动作键、参数指纹、动作账本、租约、结果复用与外部幂等键的完整设计，并说明未知结果、补偿和监控边界。262 收藏