人工智能技术文章
-
Go 服务把模型的流式输出转发给浏览器时，客户端刷新或断网会让上游请求继续消耗连接和配额。本文用 Request.Context、HTTP 流读取和取消信号复盘这个故障，并给出可验证的清理与回滚方案。254 收藏 -
把 MCP tools/call 接进 Go 服务后，真正难处理的不是发出 JSON-RPC 请求，而是超时、取消、重试和审计如何共同收口。本文用一个可运行的调用包装器，把总预算、单次调用、重试边界和结果记录拆开。243 收藏 -
科技周边 · 人工智能 | 1星期前 | 人工智能 · sse · 流式输出 · 接口稳定性 · 重试 · SSE 断线重连 Responses API AI流式输出 sequence_number 重复片段
AI 流式输出遇到网络断开时，不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手，给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏 -
Go 服务接入多模态接口时，图片预检应放在上传入口：先检查 MIME、文件头和字节上限，再决定是否送给模型；遇到格式不支持或服务超时则返回可解释的降级结果。202 收藏 -
即使接口启用了严格 JSON Schema，Go 服务仍要检查拒答、截断和字段值语义。本文用一个可运行的校验边界示例，拆开模型响应、json.Unmarshal 和业务校验各自该负责什么。195 收藏 -
RAG 系统最危险的不是检索慢，而是证据为空时模型仍然给出肯定答案。本文用相似度门槛、引用绑定和拒答回退，把无证据回答挡在业务接口之外。188 收藏 -
大模型流式输出不能把每个分片当成完整 JSON。用缓冲区、完成事件、事务与请求幂等键，把半截内容和重试写入挡在数据库之外。186 收藏 -
科技周边 · 人工智能 | 2星期前 | go语言 · 异步任务 · 人工智能 · openai · API工程化 · Go 异步任务 轮询 数据保留 OpenAI Responses API background mode
长时间 AI 请求不适合一直占着 Go HTTP 连接。本文用一个报告生成场景拆开 Responses API background mode 的提交、轮询、完成判断和错误处理，并提醒后台模式与数据保留、Zero Data Retention 的边界。183 收藏 -
把供应商手册、网页或用户上传文件接入 RAG 后，风险不只在回答是否跑题：检索片段里的恶意指令可能诱导模型越过原本任务。防护的重点不是相信一条更强硬的角色提示，而是把资料来源标成不可信、把工具能力做成固定的结构化边界，并为高影响动作设置确认与可追溯记录。149 收藏 -
科技周边 · 人工智能 | 2星期前 | 异步任务 · 人工智能 · jsonl · AI工程化 · Batch API · 结果对账 · JSONL 大模型批量任务 OpenAI Batch API custom_id AI 离线处理 结果对账
夜间给历史工单打标签、批量生成摘要这类不需要即时返回的工作，不该和在线请求抢同一条队列。本文用一份最小 JSONL 任务说明如何提交异步批次、查看状态、按 custom_id 对齐结果与业务记录，并处理输出文件和错误文件，避免把“批量完成”误当成“每一条都成功”。113 收藏