人工智能技术文章
-
智能体失败不一定是模型能力不足。本文用轨迹中的工具参数、工具响应、环境状态和模型后续决策建立证据分层，给出工具错误、模型错误与混合错误的判定规则、Python 记录结构和回归清单。239 收藏 -
从任务拆解、难度信号、试测校准和分层抽样四个环节构建 LLM 评测集，让总分之外还能看清模型在哪个能力层级上变化。343 收藏 -
MCP 客户端不应只靠固定 TTL 缓存工具描述和资源。本文按 tools/list、resources/list、resources/read 拆分缓存键，结合 ttlMs、cacheScope 与变更通知设计可恢复的一致性策略。313 收藏 -
从 HTTP 令牌校验、scope 工具映射、请求级授权上下文和审计字段四个层面，说明如何配置 MCP 服务端的授权范围与会话隔离，避免主体、租户和写入权限混用。161 收藏 -
从 MCP 原生列表分页与工具自定义结果两条路径出发，说明如何用稳定游标、结构化续取信息和可读预览控制长列表，避免一次工具调用挤满模型上下文。486 收藏 -
多模型服务应统一 role/content 消息结构，而不是硬编码一套控制 token。本文用 tokenizer.apply_chat_template 建立模型契约层，区分普通回复、预填续写与训练格式，并说明特殊 token 和能力边界。154 收藏 -
从零实现一个 RRF 混合检索融合器，把关键词与向量排名统一去重、计分，并输出可直接交给 RAG 的候选文档。373 收藏 -
从标题路径、递归切分、token 上限和召回聚合四个环节，说明 RAG 如何减少断章与误召回。300 收藏 -
时间切分不能证明评测集绝对无污染，但能用训练截止时间、样本最早来源时间、冻结时间和评测时间建立可审计边界。本文给出三桶切分、重复检测、检索隔离、分窗报告与滚动换题方案。356 收藏 -
语义检索是否需要第二阶段重排，关键不在模型更强，而在第一阶段已能召回正确文档、前排仍错序且业务能承担额外时延。本文用 Recall@K、NDCG/MRR、P95 和单次成本给出决策与实现方法。449 收藏 -
科技周边 · 人工智能 | 4天前 | 缓存 · 人工智能 · 提示词工程 · 提示词缓存 cache_control Prompt Caching 静态前缀 cache_read_input_tokens
提示词缓存命中率低时，先把工具定义、系统规则和稳定上下文划为前缀，把时间戳、用户问题和检索结果留在后缀，再用 usage 字段判断断点、TTL、长度门槛和并发时序问题。453 收藏 -
模型路由不应只选模型，还要分别控制推理强度与硬上限。本文给出四档难度信号、升级条件、Go 路由示例和最小回归指标，帮助团队兼顾质量、延迟与成本。232 收藏 -
用固定节点、根递归引用和输出预算约束结构化输出中的树状字段，并区分正常结果、拒答与截断响应。215 收藏 -
智能体工具重试的关键不是固定重放，而是先分类失败，再用共享预算、幂等键、退避、熔断和审计日志控制风险。本文给出三种策略对比与可运行的 Python 控制器。236 收藏 -
多模态模型的视觉令牌主要受图片预处理分辨率和图片数量影响。本文以 Transformers 与 Qwen2.5-VL 为例，说明如何用 min_pixels、max_pixels 和任务分级配置控制显存、延迟与识别细节。196 收藏