人工智能技术文章
-
把 MCP tools/call 接进 Go 服务后，真正难处理的不是发出 JSON-RPC 请求，而是超时、取消、重试和审计如何共同收口。本文用一个可运行的调用包装器，把总预算、单次调用、重试边界和结果记录拆开。243 收藏 -
即使接口启用了严格 JSON Schema，Go 服务仍要检查拒答、截断和字段值语义。本文用一个可运行的校验边界示例，拆开模型响应、json.Unmarshal 和业务校验各自该负责什么。195 收藏 -
大模型流式输出不能把每个分片当成完整 JSON。用缓冲区、完成事件、事务与请求幂等键，把半截内容和重试写入挡在数据库之外。186 收藏 -
订单咨询一多，最难受的不是模型答得不通顺，而是下游拿到的字段时有时无。用 JSON Schema 约束输出、在服务端再做一次校验，并给拒答和缺字段留出口，能把自然语言解析变成可观察、可验收的业务步骤。333 收藏 -
客服回复提示词改了两句话，结果结构化字段合格率下降，才发现线上没有记录每条回答来自哪个版本。本文用样本对照、灰度比例、输出门禁和请求标识建立可回退的提示词发布流程。419 收藏 -
同一套 Claude API 请求看起来没有改，缓存却一直 miss，常见原因不是缓存没打开，而是断点之前混入了动态内容。本文用静态前缀、工具定义和 usage 字段梳理一套最小核对方法。280 收藏 -
科技周边 · 人工智能 | 3天前 | 异步任务 · 人工智能 · jsonl · AI工程化 · Batch API · 结果对账 · JSONL 大模型批量任务 OpenAI Batch API custom_id AI 离线处理 结果对账
夜间给历史工单打标签、批量生成摘要这类不需要即时返回的工作，不该和在线请求抢同一条队列。本文用一份最小 JSONL 任务说明如何提交异步批次、查看状态、按 custom_id 对齐结果与业务记录，并处理输出文件和错误文件，避免把“批量完成”误当成“每一条都成功”。113 收藏 -
把供应商手册、网页或用户上传文件接入 RAG 后，风险不只在回答是否跑题：检索片段里的恶意指令可能诱导模型越过原本任务。防护的重点不是相信一条更强硬的角色提示，而是把资料来源标成不可信、把工具能力做成固定的结构化边界，并为高影响动作设置确认与可追溯记录。149 收藏 -
大模型接口出现 429 时，连续立刻再发往往只会让队列更长。本文按运行手册的节奏说明如何保留响应线索，区分请求数量、令牌总量与并发积压三类原因，再用限并发、缩短上下文和带抖动的退避把线上对话从拥塞中拉回来。432 收藏 -
科技周边 · 人工智能 | 4天前 | 安全 · oauth · 人工智能 · mcp · 工具调用 · MCP 401 MCP 403 MCP OAuth mcp resource_metadata MCP scope MCP token audience
远程 MCP 服务的工具调用返回 401 或 403，通常不是模型没有找到工具，而是授权发现、scope 或 token audience 没有和目标 MCP 资源对齐。本文按响应状态、WWW-Authenticate、Protected Resource Metadata 和 resource 参数逐步定位，并给出最小核对清单。443 收藏 -
科技周边 · 人工智能 | 5天前 | 前端 · 人工智能 · 用户体验 · 可访问性 · 流式输出 · AI对话 AbortController AbortSignal 流式输出 aria-live 停止生成
AI 对话的停止按钮不只是调用 abort()。要让用户、键盘操作和辅助技术都获得一致反馈，需要为每次请求新建 AbortController，正确收尾读取循环，并把生成、停止、失败状态放进合适的实时状态区域。425 收藏