Go语言技术文章
-
连续批处理会同时影响推理吞吐与首 token 延迟。本文从 TTFT 分解、prefill token 预算、KV cache、调度策略和分位数指标入手，说明怎样按负载逐步调参。262 收藏 -
Prometheus原生直方图稳定化并不等于监控链路自动迁移。本文说明显式抓取、双格式保留、查询改写和远端兼容的规划方法，以及停止经典采集前的回退条件。262 收藏 -
Go 1.27 ppc64 ELFv2 解读：区分大端目标与系统 ABI，说明内核加载、cgo 和用户空间库要求，并给出部署兼容性排查与修复思路。262 收藏 -
向量检索的 top_k 越大不一定让 RAG 答案更好。本文用一个可运行的 Python 小实验说明如何按 source_id 分组、保留上下文多样性，再把有限的候选片段交给生成模型。261 收藏 -
通过最小化工具参数、固定工作区根目录、规范化路径和区分读写审批，限制 AI Agent 越权访问文件，并用结构化拒绝结果和日志保留可追踪性。261 收藏 -
GitHub 官方公告显示，Copilot CLI 从 1.0.94-0 起可在 /model 中发现运行中的本地 Ollama 模型，并与已配置模型、GitHub 云端模型一起选择。本文说明发现、添加、会话使用与离线模式的边界。261 收藏 -
视觉模型图片预处理需兼顾长宽比、裁剪范围和细节保留。本文用Pillow函数示例说明转正、只缩不放大与ROI尺寸记录，并区分业务图片准备和模型processor要求。261 收藏 -
多模型推理服务常见的问题不是请求发不出去，而是任务一拥而上把显存和上游连接同时压满。本文用 Python asyncio.Semaphore 限制并发入口，配合 TaskGroup、超时和结果核对，给出一套可验证的推理任务调度写法。260 收藏 -
围绕 MCP Tasks 的任务句柄、状态轮询、输入等待、终态取数和断线恢复，整理一套不依赖具体厂商编排的客户端处理边界。260 收藏 -
向量搜索选余弦距离还是内积，取决于 embedding 模型是否归一化，以及向量长度是否承载业务信息。本文用公式、Python 示例和选择表说明两者边界，并提醒区分相似度与数据库距离。260 收藏 -
OpenAI Responses API 迁移旧工具调用代码，需要调整工具声明、输出项解析与 call_id 结果回传。本文以只读查询示例解释响应链续接、严格参数和失败出口。260 收藏 -
OpenAI 在 2026 年 4 月介绍了 Responses API 的 WebSocket 模式。本文从 Agent 多轮调用的连接开销出发，拆解连接复用、吞吐指标、失败回退和灰度验收，帮助团队判断网络层优化是否真的转化为更短的用户等待时间。259 收藏 -
RAG 问答里反复出现相同段落，通常不是模型突然变笨，而是切块重叠、相邻片段、候选数量和证据合并共同造成的。本文用一组可复现的检索样例分层排查重复来源，再说明 MMR、多样性阈值和最终去重应该放在哪一层。259 收藏 -
GitHub 在 2026 年 8 月连续发生影响 Actions 与多项服务的故障，暴露出 CI/CD 对单一平台、凭据、制品和通知链路的依赖。本文把一次故障复盘转成企业可执行的依赖盘点、权限隔离、人工接管和回滚检查。259 收藏 -
Embedding 模型更换后，旧文档向量与新查询向量可能不在同一个向量空间；即使维度相同，语义方向、归一化和提示词约定也可能不同。本文给出双写、全量回填、离线验收、别名切换和回滚方案。259 收藏