人工智能
已收录文章:62篇
-
Go 服务接入 Responses API 的流式输出后,最难排查的不是连接建立,而是中途断流、客户端取消和重试重复。本文用事件序列、Context 和请求日志拆开问题,给出可回滚的排查与修复方案。326 收藏
-
模型换版本后,先别只看几条手工对话。本文用 Go 从零做一个轻量 AI 评测样本 CLI,校验 JSONL 字段、按固定种子抽样,并把命中规则与通过率写成可复查的报告。472 收藏
-
Go 服务把模型的流式输出转发给浏览器时,客户端刷新或断网会让上游请求继续消耗连接和配额。本文用 Request.Context、HTTP 流读取和取消信号复盘这个故障,并给出可验证的清理与回滚方案。254 收藏
-
AI 应用接收流式工具参数时,JSON 往往被拆在多个数据块里,直接逐块解析会遇到意外 EOF、转义字符断开和重复提交。本文用 Go 写一个小型增量缓冲器,展示如何拼接、解析、去重并验证完整参数。497 收藏
-
科技周边 · 人工智能 | 1星期前 | 人工智能 · sse · 流式输出 · 接口稳定性 · 重试 · SSE 断线重连 Responses API AI流式输出 sequence_number 重复片段AI 流式输出遇到网络断开时,不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手,给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏
-
RAG 系统最危险的不是检索慢,而是证据为空时模型仍然给出肯定答案。本文用相似度门槛、引用绑定和拒答回退,把无证据回答挡在业务接口之外。188 收藏
-
科技周边 · 人工智能 | 1星期前 | go语言 · 异步任务 · 人工智能 · openai · API工程化 · Go 异步任务 轮询 数据保留 OpenAI Responses API background mode长时间 AI 请求不适合一直占着 Go HTTP 连接。本文用一个报告生成场景拆开 Responses API background mode 的提交、轮询、完成判断和错误处理,并提醒后台模式与数据保留、Zero Data Retention 的边界。183 收藏
-
Go 服务接入多模态接口时,图片预检应放在上传入口:先检查 MIME、文件头和字节上限,再决定是否送给模型;遇到格式不支持或服务超时则返回可解释的降级结果。202 收藏
-
科技周边 · 人工智能 | 2星期前 | API · go · 人工智能 · 工程实践 · 工具调用 · Go Anthropic Messages API tool_use tool_result Claude工具调用Go 服务接入 Anthropic Messages API 的工具调用时,模型返回 tool_use 只是请求执行工具,不是最终答案。本文用天气查询工具拆解 stop_reason、tool_use_id、tool_result 的往返消息格式,并给出防止无限循环和错误回传的实现边界。368 收藏
-
把 MCP tools/call 接进 Go 服务后,真正难处理的不是发出 JSON-RPC 请求,而是超时、取消、重试和审计如何共同收口。本文用一个可运行的调用包装器,把总预算、单次调用、重试边界和结果记录拆开。243 收藏
-
即使接口启用了严格 JSON Schema,Go 服务仍要检查拒答、截断和字段值语义。本文用一个可运行的校验边界示例,拆开模型响应、json.Unmarshal 和业务校验各自该负责什么。195 收藏
-
大模型流式输出不能把每个分片当成完整 JSON。用缓冲区、完成事件、事务与请求幂等键,把半截内容和重试写入挡在数据库之外。186 收藏