人工智能技术文章
-
多模态请求总超时通常不是单一网络问题：图片尺寸、编码体积、视觉分辨率和重试策略会共同放大耗时。本文用一条可观测链路拆解预处理、请求超时、重试边界和最终降级。164 收藏 -
RAG 系统如果只保存一段孤立文本，回答命中后很难解释它来自文档哪里。本文用 Go 设计带标题路径、页码和片段编号的 Chunk，演示切片、检索上下文和引用回链如何连成一条可复查的数据路径。163 收藏 -
AI 应用上线后，成本失控通常不是因为某一次请求特别贵，而是输入上下文、输出长度和重试叠加后没有预算边界。本文用一个请求预算器拆解 token 估算、费用计算、阈值判断和超额降级，并给出可验收的 Go 示例。162 收藏 -
LoRA 合并只处理 adapter 权重，不会自动替你保存正确的 tokenizer。本文用一套可复用的核对脚本检查词表、特殊 token、长度配置和嵌入尺寸，避免合并模型上线后出现输入映射不一致。162 收藏 -
多模态接口处理图片时，分辨率越高不一定越划算。本文用图片尺寸、切片数量和 media_resolution 拆开 token 与延迟的关系，并给出调用前估算、缩放和结果复核方法。161 收藏 -
AI Agent 的短期上下文负责当前线程，长期存储负责跨会话复用。本文从边界、数据类型、写入检索和权限保留四个方面给出一套可落地的记忆设计方法。155 收藏 -
图片输入的成本不只由文件大小决定，还受模型细节档位、有效分辨率和长图切分方式影响。本文用一套可复核的输入策略，判断何时用低细节、何时保留高分辨率，以及长图如何切成可验收的局部图片。152 收藏 -
RAG 应用里，回答看似有引用却指错段落，往往不是模型单独出错，而是切块编号、索引元数据和原文版本没有保持同一条链路。本文用文档快照、chunk_id 和回答后验校验，搭一套可定位、可回归的引用验收方法。148 收藏 -
Gemini Interactions API 将输出格式统一到 response_format，本文结合 Google 官方文档拆解 text、audio、image 配置迁移，以及 JSON Schema 格式正确但业务值仍需校验的边界。147 收藏 -
OCR 识别表格不能只保留文字，还要保存每个片段的坐标框，再通过行聚类、列排序和跨度判断重建二维结构。本文给出一套可落地的处理流程。147 收藏 -
embedding 归一化不是简单打开一个开关：先统一 query 与 document 的向量契约，再检查池化、attention_mask 和相似度度量。本文给出两种配置方式和一套可复用的排查清单。147 收藏 -
RAG 应用把检索结果直接拼进提示词，常会遇到重复段落挤占上下文、引用指向不稳定和答案被相似文档带偏的问题。本文用一条可回放的数据流说明候选文档如何去重、截断并组成引用上下文。146 收藏 -
Responses API 一次返回多个 function_call 时，不要只处理第一项；保留完整 response.output，按每个 call_id 执行工具并逐条回传 function_call_output，才能避免结果串线。146 收藏 -
在一次请求的流式窗口发生中断时，重发与否是关键风险点。本文给出以请求 ID、幂等键、状态回放与回退策略构成的恢复闭环。145 收藏 -
OCR 表格跨页合并不能简单拼接文本。本文从页级表格、重复表头、列位归一化和跨页断行四个边界入手，给出可落地的合并伪代码与结果检查清单。145 收藏