Go语言技术文章
-
LLM 推理时，KV cache 显存主要随 batch、层数、KV 头数、head_dim、上下文 token 数和缓存精度线性增长。本文给出可手算的公式，用 GQA 示例比较 BF16 与 FP16，并说明静态缓存、滑动窗口、分页分配和量化缓存带来的实际差异。158 收藏 -
Redis 8.2 为 Streams 增加 XACKDEL、XDELEX，并扩展 XTRIM 的引用策略。本文按消费组责任、消息清理和升级风险说明 KEEPREF、DELREF、ACKED 的选择。153 收藏 -
比较Transformers批次分词的动态补齐与固定长度补齐，说明截断上限、collator组批职责和部署形状约束，并给出可复制代码与实际观测指标。153 收藏 -
AI 工具调用参数只允许固定集合时，应在 JSON Schema 中使用 enum，并在真实工具执行前再次校验。本文用一个报告工具说明枚举契约、非法参数拒绝、错误分类、重试边界和版本兼容策略。147 收藏 -
AI 评测分数异常偏高时，问题常不在指标本身，而在同源样本跨 split、预处理读到了测试集或公开基准已经进入训练语料。本文用来源分组、训练集拟合、冻结测试集和污染审计组成一套可落地的数据血缘方案。146 收藏 -
CNCF 公告里的会员升级、项目晋级和维护工具 rollout 代表的信号并不相同。本文用近期官方公告拆解事实、治理和采用三层证据，帮助读者形成可复核的开源项目判断清单。145 收藏 -
Embedding 做 L2 归一化后，向量长度不再参与点积排序，点积可以等价于余弦相似度。本文从公式、Sentence Transformers 用法和检索场景说明何时归一化，以及混用不同分数的风险。144 收藏 -
生成式回答的事实性评测不能只准备一组问题和一个总分。本文从样本边界、参考答案、事实原子、支持与矛盾判分以及人工复核五个方面，设计一套可比较的对照样本结构。144 收藏 -
模型流的网络字节、SSE 帧和 UTF-8 字符不是同一条边界。本文用 Go 的 unicode/utf8 保存不完整尾部，说明如何在增量渲染中避免半个字符变成乱码，并划清 SDK 文本事件与原始字节适配层的职责。140 收藏 -
Go 1.27.2 于 2026 年 10 月 8 日发布，官方摘要同时列出 go 命令和多个标准库的安全修复，以及编译器、链接器、运行时、cover、go fix、vet 等 bug 修复。本文按修复范围、尝试步骤与回归风险整理升级判断。134 收藏 -
RAG 的 top-k 不是越大越好。本文用候选召回、相关度过滤、片段去重和 token 预算拆解如何稳定组装上下文。133 收藏 -
本文围绕 PyTorch ONNX 导出的 dynamic_axes，说明如何为文本模型声明动态 batch 和序列长度，解释输入输出轴对齐，并区分传统导出路径与新 dynamo 导出器的 dynamic_shapes。131 收藏 -
科技周边 · 人工智能 | 4天前 | 人工智能 · Hugging Face Datasets streaming IterableDataset Dataset.shuffle shuffle buffer
Hugging Face Datasets 的 Dataset.shuffle 会为内存数据集建立全量索引映射，IterableDataset.shuffle 则通过 shard 顺序和有限 shuffle buffer 做近似随机。本文解释两者的访问模型、随机范围、性能代价与训练参数选择。130 收藏 -
OpenTofu Day 2026 将基础设施即代码的讨论从工具选择推进到供应边界、迁移治理、生产规模化和可观测性。本文根据 CNCF 官方资料拆解会议关注的问题，并给出适合团队评估的 PoC 清单。126 收藏 -
GitHub Copilot 浏览器工具 GA 后可以操作真实网页，但标签页共享、会话隔离、敏感权限和企业网络控制仍各有边界。本文按排查思路说明哪些能力可用、哪些动作必须批准。120 收藏