人工智能技术文章
-
RAG 检索命中文档却只能生成很短的答案，往往不是模型突然变笨，而是切片边界、重叠窗口和引用片段没有对齐。本文用一个内部知识库场景说明如何逐层调优，并保留可验证的证据。286 收藏 -
Anthropic Prompt Caching 的关键不在于盲目加 cache_control，而在于把断点放在稳定前缀末尾，再从 cache_creation_input_tokens 和 cache_read_input_tokens 核对是否真正命中。本文用 Python Messages API 示例说明断点、20 个区块回看窗口、TTL 与成本判断。176 收藏 -
多模态请求总超时通常不是单一网络问题：图片尺寸、编码体积、视觉分辨率和重试策略会共同放大耗时。本文用一条可观测链路拆解预处理、请求超时、重试边界和最终降级。164 收藏 -
科技周边 · 人工智能 | 1星期前 | websocket · 人工智能 · gemini · 实时语音 · Gemini Live API session resumption SessionResumptionUpdate GoAway
Gemini Live API 的 WebSocket 连接会周期性结束，单纯重连会丢掉上下文。本文用 session resumption 保存最新恢复句柄，再结合 GoAway.timeLeft、generationComplete 和上下文压缩处理重连时机与数据边界。436 收藏 -
更换 Embedding 模型后，旧向量与新向量的维度可能不一致，直接覆盖索引会让写入、查询和回滚同时失控。本文以双索引迁移为主线，拆解维度核对、查询路由、后台回填和回滚验收。229 收藏 -
科技周边 · 人工智能 | 1星期前 | 人工智能 · api设计 · Google AI · Gemini API · Context Caching · Gemini API Context Caching cachedContent 长提示词 generateContent
Gemini API 的 Context Caching 适合反复使用同一份长上下文的场景。本文用 cachedContents.create 创建缓存，再把 cache.name 绑定到 generateContent，讲清缓存内容、动态问题和 TTL 的边界。257 收藏 -
大模型返回的 JSON 偶尔缺字段、枚举值漂移或混入解释文字时，不能只继续堆提示词。本文按输出稳定性、供应商能力和业务风险比较提示词约束、结构化输出与服务端校验，给出可落地的组合选择和验收门槛。431 收藏 -
向量库里明明有数据，检索却返回空结果，常见根因不是数据库坏了，而是 embedding 维度、归一化方式和查询链路没有对齐。本文用一个最小 Go 实验把排查顺序固定下来。410 收藏 -
AI 流式回答中途断线时，真正要保留的不是一段模糊的重试状态，而是已确认的增量令牌、可续接的游标和明确的连接状态。本文用一个可落地的 StreamSession 设计，拆解重连、去重与失败归档的边界。184 收藏 -
科技周边 · 人工智能 | 1星期前 | API · 人工智能 · agent · gemini · 工程实践 · agent 工具调用 Interactions API Gemini 3.7 Flash 任务验收
围绕 Gemini 3.7 Flash 的托管 Agent 任务，拆解多步执行、工具结果、sandbox 边界与最终状态验收，并给出 Go 侧可复用的状态检查代码。176 收藏 -
Responses API 的图片输入不是把图片路径直接塞进字符串，而是把 input_text 与 input_image 放进同一条 user content；本文用 Go 代码拆开请求结构、图片 URL 与 output_text 的读取边界。444 收藏 -
RAG 系统如果只保存一段孤立文本，回答命中后很难解释它来自文档哪里。本文用 Go 设计带标题路径、页码和片段编号的 Chunk，演示切片、检索上下文和引用回链如何连成一条可复查的数据路径。163 收藏 -
RAG 系统不要只把文本片段交给模型。本文用 Go 设计带 source_id、标题和定位信息的检索结果接口，让生成答案可以回溯来源、处理空召回，并在调用失败时保留可验证的错误边界。178 收藏 -
RAG 应用回答看似流畅却总带错文档，通常不是模型突然失常，而是切分、召回和证据核对没有连成一条可追踪链路。本文用一个知识库排障场景，拆解如何定位错召回并验证修复效果。141 收藏 -
多模态接口处理图片时，分辨率越高不一定越划算。本文用图片尺寸、切片数量和 media_resolution 拆开 token 与延迟的关系，并给出调用前估算、缩放和结果复核方法。161 收藏