人工智能技术文章
-
按实体和来源拆分训练、验证和测试，使用稳定的任务簇键避免评测集泄漏，让模型指标更接近真实泛化能力。233 收藏 -
批量推理输入长度差异大时，固定 batch 会产生大量 padding。本文用 Hugging Face Transformers、PyTorch DataLoader 和 token 长度分桶说明配置方式，并给出显存、吞吐和结果顺序的排查清单。221 收藏 -
PEFT 适配器合并理论上把增量权重写回基础模型，但浮点舍入、量化、基础模型版本、活跃适配器和生成参数差异都可能改变输出。本文给出固定条件、比较 logits、正确接收 merge_and_unload 返回值和定位大幅偏差的方法。221 收藏 -
AI 问答评测不稳定，通常不是模型分数本身的问题，而是提示、检索配置和数据集同时在变化。本文给出一套可重复的 RAG 评测拆分、数据字段和回归清单。215 收藏 -
工具调用参数校验失败时，不要直接重放可能产生副作用的工具。本文拆解 strict Schema、应用侧业务校验、tool_call_id 错误反馈、幂等键和有限重试的分工。215 收藏 -
科技周边 · 人工智能 | 2星期前 | 错误处理 · mcp · 工具调用 · AI工程 · MCP工具错误 isError structuredContent CallToolResult JSON-RPC错误
MCP 工具遇到业务失败时，应在正常工具结果中设置 isError，并把可行动信息放进 content；只有协议层故障才返回 JSON-RPC error。本文用 TypeScript 示例说明结构化错误的设计边界。208 收藏 -
RAG 检索结果很多却答不准时，先区分召回缺失、候选过杂和上下文丢失，再从语义切块、混合召回、元数据过滤、重排和固定评测集逐层改进。208 收藏 -
介绍 PyTorch ONNX 导出时如何用 dynamic_shapes 和 torch.export.Dim 声明动态批次、动态序列长度，并比较现代 dynamo 导出器与 legacy dynamic_axes 的选择边界。206 收藏 -
说明 decoder-only 模型批量生成时 padding_side 为什么应设为 left，并结合 input_ids、attention_mask 和生成起点排查对齐问题。206 收藏 -
AI Agent 调用外部工具超时后，不要把异常当空结果或无条件重试。通过 schema、参数校验、幂等键、未知状态和恢复队列，设计可判断、可追踪、可继续处理的结果。203 收藏 -
通过稳定前缀、动态变量和缓存观测三层拆分，整理 Prompt cache 的命中条件、请求排列方式与 cached_tokens 排查清单。199 收藏 -
流式 AI 输出不应在最后一段文字到达时直接入库。本文用 finish_reason、状态机和幂等键说明何时保存正式结果，何时保留 partial 草稿或等待工具调用。195 收藏 -
PyTorch 当前 ONNX 导出器应优先用 dynamic_shapes 声明动态输入轴，旧导出路径才使用 dynamic_axes。本文给出 batch、高宽动态的最小写法、元数据检查与常见误区。194 收藏 -
GPT-6 Astra API 限量开放期间，应用应区分访问资格、参数错误与 429/5xx 临时故障，再按能力档案选择备用模型，并记录实际模型与降级原因。192 收藏 -
用 Structured Outputs 和 Pydantic 固定模型字段、类型与枚举，并区分正常解析、明确拒答、截断响应和业务校验失败，建立可落地的 JSON Schema 结果兜底方案。191 收藏