人工智能技术文章
-
AI 应用接收流式工具参数时，JSON 往往被拆在多个数据块里，直接逐块解析会遇到意外 EOF、转义字符断开和重复提交。本文用 Go 写一个小型增量缓冲器，展示如何拼接、解析、去重并验证完整参数。497 收藏 -
科技周边 · 人工智能 | 1个月前 | 人工智能 · sse · 流式输出 · 接口稳定性 · 重试 · SSE 断线重连 Responses API AI流式输出 sequence_number 重复片段
AI 流式输出遇到网络断开时，不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手，给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏 -
RAG 系统最危险的不是检索慢，而是证据为空时模型仍然给出肯定答案。本文用相似度门槛、引用绑定和拒答回退，把无证据回答挡在业务接口之外。188 收藏 -
科技周边 · 人工智能 | 1个月前 | go · openai · AI接口 · Responses API · Go OpenAI Responses API background mode 异步轮询 大模型接口
用 Go 接入 OpenAI Responses API 时，长推理或工具调用容易让同步 HTTP 请求撞上超时。本文从同步调用迁移到 background 模式，演示如何提交任务、按响应 ID 轮询、处理失败状态，并说明约 10 分钟保留窗口与 Zero Data Retention 的边界。388 收藏 -
科技周边 · 人工智能 | 1个月前 | go语言 · 异步任务 · 人工智能 · openai · API工程化 · Go 异步任务 轮询 数据保留 OpenAI Responses API background mode
长时间 AI 请求不适合一直占着 Go HTTP 连接。本文用一个报告生成场景拆开 Responses API background mode 的提交、轮询、完成判断和错误处理，并提醒后台模式与数据保留、Zero Data Retention 的边界。183 收藏 -
Go 服务接入多模态接口时，图片预检应放在上传入口：先检查 MIME、文件头和字节上限，再决定是否送给模型；遇到格式不支持或服务超时则返回可解释的降级结果。202 收藏 -
科技周边 · 人工智能 | 1个月前 | API · go · 人工智能 · 工程实践 · 工具调用 · Go Anthropic Messages API tool_use tool_result Claude工具调用
Go 服务接入 Anthropic Messages API 的工具调用时，模型返回 tool_use 只是请求执行工具，不是最终答案。本文用天气查询工具拆解 stop_reason、tool_use_id、tool_result 的往返消息格式，并给出防止无限循环和错误回传的实现边界。368 收藏 -
把 MCP tools/call 接进 Go 服务后，真正难处理的不是发出 JSON-RPC 请求，而是超时、取消、重试和审计如何共同收口。本文用一个可运行的调用包装器，把总预算、单次调用、重试边界和结果记录拆开。243 收藏 -
即使接口启用了严格 JSON Schema，Go 服务仍要检查拒答、截断和字段值语义。本文用一个可运行的校验边界示例，拆开模型响应、json.Unmarshal 和业务校验各自该负责什么。195 收藏 -
大模型流式输出不能把每个分片当成完整 JSON。用缓冲区、完成事件、事务与请求幂等键，把半截内容和重试写入挡在数据库之外。186 收藏 -
订单咨询一多，最难受的不是模型答得不通顺，而是下游拿到的字段时有时无。用 JSON Schema 约束输出、在服务端再做一次校验，并给拒答和缺字段留出口，能把自然语言解析变成可观察、可验收的业务步骤。333 收藏 -
客服回复提示词改了两句话，结果结构化字段合格率下降，才发现线上没有记录每条回答来自哪个版本。本文用样本对照、灰度比例、输出门禁和请求标识建立可回退的提示词发布流程。419 收藏 -
同一套 Claude API 请求看起来没有改，缓存却一直 miss，常见原因不是缓存没打开，而是断点之前混入了动态内容。本文用静态前缀、工具定义和 usage 字段梳理一套最小核对方法。280 收藏 -
科技周边 · 人工智能 | 1个月前 | 异步任务 · 人工智能 · jsonl · AI工程化 · Batch API · 结果对账 · JSONL 大模型批量任务 OpenAI Batch API custom_id AI 离线处理 结果对账
夜间给历史工单打标签、批量生成摘要这类不需要即时返回的工作，不该和在线请求抢同一条队列。本文用一份最小 JSONL 任务说明如何提交异步批次、查看状态、按 custom_id 对齐结果与业务记录，并处理输出文件和错误文件，避免把“批量完成”误当成“每一条都成功”。113 收藏 -
把供应商手册、网页或用户上传文件接入 RAG 后，风险不只在回答是否跑题：检索片段里的恶意指令可能诱导模型越过原本任务。防护的重点不是相信一条更强硬的角色提示，而是把资料来源标成不可信、把工具能力做成固定的结构化边界，并为高影响动作设置确认与可追溯记录。149 收藏