人工智能技术文章
-
用 Python 把大模型返回的 JSON 经过解析、字段校验和有限重试，避免把半截或缺字段的数据直接写入业务流程。501 收藏 -
AI 应用接收流式工具参数时，JSON 往往被拆在多个数据块里，直接逐块解析会遇到意外 EOF、转义字符断开和重复提交。本文用 Go 写一个小型增量缓冲器，展示如何拼接、解析、去重并验证完整参数。497 收藏 -
从评测样本、提示词模板和模型输出三层排查评测集污染，给出变量隔离、快照留存与回归验收方法。496 收藏 -
RAG 不是召回越多越好。本文从 retrieve、rerank、budget、prompt 四个真实环节拆解上下文被截断的原因，并给出可验证的预算分配与降级方案。495 收藏 -
Responses API 的 tool_choice 不只是 auto 和 required 两个开关。本文用一个订单查询工具说明如何强制调用、指定具体工具，并用响应项和业务回退做可复查验收。484 收藏 -
Responses API 接入远程 MCP 服务器时，关键不是把工具接通，而是把工具声明、审批边界、拒绝分支和错误恢复放在同一套调用约束里。本文用两个静态结构图和 Go 示例拆开这条边界。484 收藏 -
AI 接口遇到超时不能简单重复提交。本文用 OpenAI 的 X-Client-Request-Id 和 Gemini API 的指数退避建议，拆解请求标识、可重试错误、结果去重与人工复核的完整工作流。482 收藏 -
Qdrant 中删除文档后仍被检索到，通常不是删除接口失效，而是写入确认、索引可见性、分布式顺序或应用缓存处在不同阶段。本文用一条可复查的排查链定位并修复这个问题。482 收藏 -
用 Go 实现一个请求级 AI 模型路由器，在选择上游前同时检查 token 预算、请求超时和上游降级状态，避免备用模型被误用或无限重试。481 收藏 -
提示词一改，AI 回答可能变好，也可能让旧场景退化。本文从一次改提示词后回答跑偏的现场开始，带你搭建小样本集、评分规则、前后对比和人工复核流程，让提示词上线前有据可查。475 收藏 -
模型换版本后，先别只看几条手工对话。本文用 Go 从零做一个轻量 AI 评测样本 CLI，校验 JSONL 字段、按固定种子抽样，并把命中规则与通过率写成可复查的报告。472 收藏 -
大模型回答出现整段重复时，不要只把 temperature 调高。本文按请求参数、采样范围和停止条件拆开排查，给出一个可复现的参数核对流程，并说明哪些现象属于模型能力边界，哪些是客户端拼接造成的。470 收藏 -
RAG 应用答错时，不要只怪模型。更常见的根因在检索层：切片不合适、召回证据偏题、排序没过滤、回答没有引用约束。复盘时要把用户问题、检索结果、证据片段、模型回答和评测样本串起来，才能真正防复发。468 收藏 -
从首字延迟 TTFT、分段间隔和客户端断线三个信号入手，搭建大模型流式输出的观测口径，并给出 Go 服务端记录与回放验收方法。466 收藏 -
科技周边 · 人工智能 | 1星期前 | 人工智能 · openai · 兼容性 · Chat Completions · 推理模型 · token预算 AI推理模型 max_tokens max_completion_tokens 参数迁移
把 AI 接口从普通聊天模型切到推理模型时，max_tokens 不是简单改个字段名。本文从请求兼容、推理 token 预算、截断判断和回滚核对四个方面，给出一套可复用的迁移检查方法。464 收藏