人工智能技术文章
-
AI 流式回答显示到一半、刷新后状态混乱，通常不是模型少返回了一句，而是增量缓冲、结束事件和可恢复状态没有分开处理。本文用一个浏览器流式阅读器示例拆开这条链路。298 收藏 -
AI Agent 在工具调用中容易遇到参数漂移：字段名变化、旧版本参数残留和失败后无法复现。本文用版本快照、字段校验与失败回放搭出一条可验收的处理链。297 收藏 -
向量检索返回相似度高的片段，不等于答案一定可靠。本文用一个轻量 Python 示例，把 query_points、score_threshold、source_id 和引用片段串成可验收的检索链，并处理空召回与低分结果。297 收藏 -
科技周边 · 人工智能 | 6天前 | 性能优化 · 人工智能 · transformers · 批量推理 · Hugging Face Transformers dynamic padding attention_mask
用 DataCollatorWithPadding 让 Transformers 按 batch 内最长文本动态补齐，并配合 attention_mask、截断和长度分桶减少无效推理计算。297 收藏 -
长上下文应用不应把全部聊天记录直接拼进请求。本文用近期消息、滚动摘要和按需检索三层结构，配合 token 预算、去重与计数，减少无关历史进入模型上下文。296 收藏 -
OpenAI 提示词模板的变量主要负责替换输入，默认值、类型和必填校验应放在应用侧包装函数中。本文用 TypeScript 建立一层可复用契约。296 收藏 -
科技周边 · 人工智能 | 3星期前 | ai · claude · Anthropic API · 文档问答 · 可追溯回答 · Claude 引用 Anthropic Messages API citations document block
Anthropic Claude Messages API 的 citations 能把回答片段关联回 PDF、纯文本或自定义文档块。本文从 document block、citations.enabled、引用位置和 streaming 的 citations_delta 四个层面核对返回结果，避免只让模型口头声称有来源。295 收藏 -
科技周边 · 人工智能 | 3星期前 | 人工智能 · mcp · ai agent · 协议迁移 · MCP Model Context Protocol Roots roots/list 工作区边界
MCP 2026-07-28 已将 Roots 标为弃用，但兼容期内 roots/list 仍可能出现在旧客户端。本文用工作区读取场景说明如何核验 roots 能力、拒绝越界路径，并把新设计迁移到工具参数、资源 URI 或服务端配置。293 收藏 -
从 messages、tool_calls 到 response.items，拆清 Open Responses 面向代理循环的输入输出对象变化，给出兼容层和最小验证方法。293 收藏 -
RAG 评测不要只看一个总分。本文用固定 JSONL 样本，把检索上下文覆盖率与最终答案正确率拆开统计，并用指标组合定位检索、生成和数据集问题。293 收藏 -
合同中的金额、日期和付款条件经常藏在跨页表格里。本文以多模态模型抽取合同表格为例，拆解版面切片、字段约束、来源定位和人工复核，给出一套可回放的验收流程。289 收藏 -
同一个 AI 应用切换模型后，答案长度、语气和结构可能一起变化。本文用能力矩阵、版本化提示词和固定验收样本拆开这类漂移，给出路由决策、差异记录与灰度检查方法。288 收藏 -
RAG 检索命中文档却只能生成很短的答案，往往不是模型突然变笨，而是切片边界、重叠窗口和引用片段没有对齐。本文用一个内部知识库场景说明如何逐层调优，并保留可验证的证据。286 收藏 -
Transformers 文本超过模型输入上限时，不要只开启 truncation 丢掉后半段。本文用 max_length、stride 和 return_overflowing_tokens 按 token 生成重叠窗口，并说明批量输入如何保留原文映射。286 收藏 -
大模型以流式方式返回 JSON 时，任意一个分片都可能停在字符串或对象中间。本文用 Go 写一个增量缓冲器，以括号配对判断候选完整度，最后再用标准 JSON 解析和业务字段校验收口。284 收藏