Go语言技术文章
-
模型卡不是模型宣传页，而是上线前整理适用范围、潜在限制、数据与评测证据的入口。本文把 Hugging Face 模型卡字段整理成限制清单，并给出缺失字段的记录方式。318 收藏 -
LLM 可观测性不等于把 prompt 和回答原文写进日志。本文以 OpenAI 兼容的 Chat Completion 响应为例，说明怎样记录 prompt_tokens、completion_tokens、total_tokens 等用量元数据，并在应用边界完成字段白名单、敏感信息脱敏和流式 usage 处理。413 收藏 -
RAG检索片段应保持为不可信证据，而不是新的控制指令。本文讨论上下文分区、只读抽取和应用侧权限判定的取舍，说明提示词与摘要的局限，以及正常引用、过度拒绝和越权风险应分开观察。390 收藏 -
介绍语音转写前用 VAD 检测语音区间的方法，说明采样率、阈值、静音时长、边界 padding 和原始时间偏移如何配合，避免切掉词头词尾或让字幕时间轴失真。371 收藏 -
视觉模型返回的 OCR 片段常常不是阅读顺序。本文用统一坐标、垂直中心排序、动态行高阈值和行内 x 排序，把文字框稳定合并成可读文本，并说明多栏、竖排和低置信度结果的边界。461 收藏 -
连续批处理会同时影响推理吞吐与首 token 延迟。本文从 TTFT 分解、prefill token 预算、KV cache、调度策略和分位数指标入手，说明怎样按负载逐步调参。262 收藏 -
LLM 推理时，KV cache 显存主要随 batch、层数、KV 头数、head_dim、上下文 token 数和缓存精度线性增长。本文给出可手算的公式，用 GQA 示例比较 BF16 与 FP16，并说明静态缓存、滑动窗口、分页分配和量化缓存带来的实际差异。158 收藏 -
生成式回答成对评测应固定任务、隐藏系统身份并平衡展示位置。本文设计样本与偏好记录，区分平局、双差和无效票，用手算示例解释三种胜负口径，并说明按问题聚合和任务分层报告的边界。199 收藏 -
多 Agent 系统移交失败，通常不是模型不会推理，而是接手方没有拿到结构化目标、约束、已确认决定和当前产物。本文用移交信封、contextId/taskId 分层、上下文裁剪、版本与回滚说明怎样保留真正有用的任务上下文。119 收藏 -
AI 工具调用参数只允许固定集合时，应在 JSON Schema 中使用 enum，并在真实工具执行前再次校验。本文用一个报告工具说明枚举契约、非法参数拒绝、错误分类、重试边界和版本兼容策略。147 收藏 -
Embedding 结果不能只保存向量和相似度。本文用一份最小元数据结构，把文档版本、分块编号、字符起止位置与向量绑定，说明召回后如何回读原文，并处理文档更新导致的偏移失效。219 收藏 -
多租户 RAG 不能只在召回后过滤。本文从元数据设计、租户过滤器构造、向量检索和结果复核四个环节，给出一套可迁移的隔离实现方法。433 收藏 -
从切片边界、chunk_size 和 chunk_overlap 三个角度说明 RAG 文档怎样减少语义断裂，并给出按结构切分、按比例设置重叠区和观察召回结果的实用方法。297 收藏 -
CNCF 2026 OpenTofu Day 把基础设施即代码的讨论推进到供应边界、迁移治理、规模化运行和平台协作。本文根据官方活动资料整理四类议题，并给出一份可回滚的小型评估 PoC 清单。410 收藏 -
CNCF 公布的 KubeCon + CloudNativeCon North America 2026 可观测性议程，重点落在指标、日志、追踪的协同，以及遥测成本、数据质量、规模化采集、eBPF 和 AI/Agent 可观测性。本文按工程视角整理这些议题能转化成的检查项。238 收藏