人工智能技术文章
-
说明 decoder-only 模型批量生成时 padding_side 为什么应设为 left，并结合 input_ids、attention_mask 和生成起点排查对齐问题。206 收藏 -
AI Agent 调用外部工具超时后，不要把异常当空结果或无条件重试。通过 schema、参数校验、幂等键、未知状态和恢复队列，设计可判断、可追踪、可继续处理的结果。203 收藏 -
Go 服务接入多模态接口时，图片预检应放在上传入口：先检查 MIME、文件头和字节上限，再决定是否送给模型；遇到格式不支持或服务超时则返回可解释的降级结果。202 收藏 -
Gemini 3 的函数调用不是拿到 functionCall 就结束：多轮请求必须保留模型返回的 thoughtSignature，并按原顺序回传模型步骤与工具结果。本文用 Go 拆解一次天气工具调用的状态流、签名保存和失败核对。202 收藏 -
Embedding 模型一换，向量维度可能跟着变化，批量写入时轻则报错，重则让新旧数据混在同一索引里。本文用维度契约、批量预检、双索引切换和回滚清单，把模型升级变成可验收的入库流程。202 收藏 -
接入远程 MCP 服务器时，不要把工具发现当成授权。本文从工具 allowlist、来源校验、OAuth 受众绑定和审计记录四个边界，整理一套可复核的权限收口方法。202 收藏 -
RAG 应用最难排查的错误之一，是模型把相似检索片段直接改写成确定答案。本文从引用绑定、证据片段和拒答边界入手，给出一套可落地的输出验收方法。201 收藏 -
通过稳定前缀、动态变量和缓存观测三层拆分，整理 Prompt cache 的命中条件、请求排列方式与 cached_tokens 排查清单。199 收藏 -
多模态 RAG 能检索到图片，却在回答里漏掉关键上下文，通常不是模型单点失效，而是 OCR、图文切片、向量检索和引用回链之间有一段断了。本文按证据顺序定位并修复这类问题。197 收藏 -
流式调用工具时，参数 JSON 会被拆成多个增量事件，不能把每个片段直接解析。本文用 buffer、JSON.parse 和状态恢复拆开半包边界，给出失败重试与重复调用的防线。197 收藏 -
Gradio 长任务不要只等函数返回：用生成器 yield 阶段状态，用 gr.Progress 显示进度，再用 cancels 连接停止按钮，同时明确 UI 取消与外部作业停止的边界。197 收藏 -
即使接口启用了严格 JSON Schema，Go 服务仍要检查拒答、截断和字段值语义。本文用一个可运行的校验边界示例，拆开模型响应、json.Unmarshal 和业务校验各自该负责什么。195 收藏 -
科技周边 · 人工智能 | 1个月前 | 安全 · mcp · ai agent · MCP ToolAnnotations readOnlyHint destructiveHint idempotentHint
MCP ToolAnnotations 能帮助客户端理解工具是否只读、是否可能破坏环境、重复调用是否幂等以及是否访问开放世界，但四个 Hint 只是行为提示而非权限系统。本文给出从服务端声明、状态实测到客户端拦截的上线核对清单。195 收藏 -
AI 应用不应把模型内部推理链直接展示给用户，但可以通过 Responses API 的 reasoning summary 提供简洁的过程摘要。本文用 Python 示例说明配置方式、摘要与最终答案的区别、展示边界和上线核对项。195 收藏 -
AI 应用调用搜索、数据库或业务接口时，超时不等于任务失败，更不能无条件重跑。本文用一个可验证的小实验拆开幂等键、部分结果、重试边界和人工接管，给出能落地的调用状态设计。195 收藏