人工智能技术文章
-
科技周边 · 人工智能 | 1星期前 | openai · Responses API · AI应用开发 · OpenAI Responses API 上下文压缩 compaction conversation state
长对话和工具循环会不断消耗上下文。本文用 Go 拆解 Responses API 的 /responses/compact、type=compaction 项和续接请求，说明什么时候压缩、哪些状态不能丢，以及如何做回归检查。428 收藏 -
Gemini API 的 URL Context 能读取公开网页，但应用不能只看模型有没有输出。本文用 Go 检查 url_context_result、引用标注、输入 token 与失败回退，建立一条可验收的网页上下文链路。426 收藏 -
多轮对话变长后，简单截掉旧消息很容易让模型丢失用户约束。本文从上下文压缩的边界出发，拆解摘要漂移、关键事实遗漏和回放验收，用可重复的测试样例判断压缩是否真的可用。418 收藏 -
向量库里明明有数据，检索却返回空结果，常见根因不是数据库坏了，而是 embedding 维度、归一化方式和查询链路没有对齐。本文用一个最小 Go 实验把排查顺序固定下来。410 收藏 -
MCP 2026-07-28 将协议核心改成无会话请求，并用 MRTR 承接工具调用中的用户补充输入。本文从旧版会话依赖、请求路由、input_required 重试和灰度验收四个方面拆解迁移边界。407 收藏 -
AI 网关同时承载多路流式回答时，连接复用、异步回调和日志采集很容易把不同请求的片段混到一起。本文用 request_id 贯穿入口、上游连接、事件转发和落盘日志，再配合状态机与断言，把串线问题变成可以复现、定位和验收的工程流程。407 收藏 -
同一个模型请求失败，并不代表应该立刻换到下一个模型。本文按超时、限流、服务异常和内容拒答拆开处理，给出路由状态、重试边界、降级策略与可验收的实现路径。398 收藏 -
多模态知识库接入图片后，成本和延迟往往不是由文件大小单独决定。本文从图片任务、detail 级别、裁剪策略和上下文预算四个维度，给出可执行的输入分层与验收方法。394 收藏 -
RAG 检索命中并不等于答案可靠。本文从文档切块边界、条件与例外的证据链、引用片段校验三个角度，说明如何定位答案被带偏的原因并建立可复查的回归检查。385 收藏 -
科技周边 · 人工智能 | 1天前 | 人工智能 · openai · 工程实践 · 流式输出 · Responses API · SSE 断线重连 Responses API AI流式输出 事件游标
AI 流式输出断线后不要直接重发请求。本文以 OpenAI Responses API 的 SSE 事件为例，说明如何保存 response_id、sequence_number 和已展示片段，重连后消除重复内容，并用最终状态完成一次可审计的收尾。377 收藏 -
一个 AI 应用把危险请求挡住是安全表现，把正常请求误判为风险则是业务失败。本文用一组可回放的测试样本拆分安全拒答、过度拒答、正常通过和非安全业务错误，说明如何设计标签、计算指标并在上线前复核。377 收藏 -
Gemini Interactions API 迁移真正容易漏的是验收：steps 顺序、函数调用、服务端工具、无状态历史、response_format 和 SSE 事件都要分别断言。本文给出 REST 与 SDK 迁移后的 6 类检查。376 收藏 -
科技周边 · 人工智能 | 1星期前 | 人工智能 · transformers · Hugging Face · 文本生成 · 模型评估 · Hugging Face Transformers generate output_scores compute_transition_scores 长度惩罚 生成概率
Transformers 的 generate 默认只返回生成序列，不会直接给出每个 token 的分数。本文用 return_dict_in_generate、output_scores 和 compute_transition_scores 还原逐 token 对数概率，并说明 decoder-only 输入长度、beam search 和 length_penalty 的验收边界。374 收藏 -
Gemini Developer API 的零数据留存不是只设置一个 store=false：Interactions、File API、显式缓存、隐式缓存和 Live API 的保留边界不同。本文用一张核对表和最小请求示例说明如何逐项关闭或清理状态。374 收藏 -
多租户 AI 知识库最危险的故障不是检索变慢，而是把 A 租户的片段、缓存或引用带给 B 租户。本文从检索权限、缓存键、引用回显和审计证据四条线，拆解一套可验证的隔离方案。369 收藏