Go语言技术文章
-
Keras mixed_float16 训练出现 NaN 时,先用 float32 建立对照,再检查输入有限性、数值范围、前向损失和梯度,区分数据问题、低精度敏感计算与 loss scale 问题。本文给出最小排查代码和迁移修复顺序。337 收藏 -
模型从单体改成包装层后,旧检查点常因 module. 前缀出现 missing_keys 和 unexpected_keys。本文用目标模型键集合驱动映射,配合 strict=False 诊断并在对齐后恢复 strict=True。436 收藏 -
科技周边 · 人工智能 | 4天前 | 人工智能 · 深度学习 · 内存优化 · 内存 PyTorch 按需加载 mmap checkpoint torch.load map_location state_dict
torch.load 的 mmap=True 建立的是检查点文件映射,不是把全部参数立即复制进物理内存。本文结合首次访问、CPU 映射和 to(device) 迁移,解释虚拟地址、驻留页与设备副本的区别,并给出大检查点的加载取舍。475 收藏 -
Stack Overflow 2026 开发者调查显示,AI 已进入日常开发,但信任仍建立在可验证输出、来源归因和项目上下文之上。本文把调查数据转成工具选择与人工复核的实践规则。120 收藏 -
在 DeepSeek 相关 Ascend NPU 项目中,算子负责单卡计算,HCCL/HCOMM 负责跨卡通信,框架后端负责编排。本文按职责边界拆解 Ascend C、通信原语、MoE dispatch/combine 与多卡排查顺序。375 收藏 -
DeepSeek 在 2026 年 9 月 30 日公开面向华为 Ascend 的计算、通信与编译工具后,真正值得关注的是分层协作:模型团队开放高性能内核,硬件生态提供 NPU 工具链与验证环境,社区通过兼容接口把能力接入更大的软件栈。本文按公开仓库拆解这套模式及其落地边界。145 收藏 -
本地运行 GGUF 模型时,量化格式决定权重占用与精度取舍,上下文长度决定单次请求的提示词和生成空间。本文用一套可执行的判断顺序说明 Q4_K_M、Q5_K_M、Q8_0 与 --ctx-size 的配置方法。273 收藏 -
Google 开源周报把 MCP Dev Summit Toronto 的关注点落到 A2A 与 MCP 协同编排,官方议程则进一步覆盖协议底座、企业注册表、远程托管、生产集成和安全治理。本文按时间线和威胁模型拆解这次议题变化。273 收藏 -
vLLM 连续批处理并不是并发越高越快。本文从模型权重、KV Cache、序列数和批次 token 预算出发,给出显存与吞吐的调参顺序、压测方法和生产降级路径。209 收藏 -
科技周边 · 业界新闻 | 6天前 | 云原生 · MySQL · postgresql · 业界新闻 · mysql PostgreSQL AI应用 混合云 开源数据库 All Things Open 2026 DocumentDB
微软在 All Things Open 2026 的公开文章中,把 PostgreSQL 云原生扩展、开源 DocumentDB、托管 MySQL/PostgreSQL 与本地到云端的混合应用放在同一条技术叙事里。本文区分事实与推断,分析这些方向解决的问题、潜在风险和适合团队长期观察的指标。366 收藏 -
Reranker 通常只应处理召回后的有限候选。本文从延迟预算、候选规模、输入长度、批量和超时降级几个方面,给出一套可落地的检索重排控制方案。113 收藏 -
科技周边 · 业界新闻 | 6天前 | python · typescript · 开发工具 · AI编程 · 工程实践 · 业界新闻 · TypeScript Python 开源生态 开发者工具 GitHub Octoverse AI开发工具
GitHub 官方基于 2025 年数据的 Octoverse 解读显示,AI 已经影响语言、工具和开源项目的选择。本文从 TypeScript 成为最常用语言、Python 继续承载 AI 项目,以及快速可复现工具链三个信号出发,说明团队如何把趋势转成类型、构建、测试和协作检查点。169 收藏 -
Embedding 维度变化不是改一个配置值就结束。稳妥做法是新建版本化索引,回填历史数据,双写新数据,用固定查询集灰度比较后再切换。429 收藏 -
Python 3.15 通过显式 lazy import 把模块加载推迟到名称首次使用时,适合减少多子命令工具启动时的无效依赖开销。本文解释语法、兼容方式、风险边界与渐进迁移方法。181 收藏 -
智能体失败不一定是模型能力不足。本文用轨迹中的工具参数、工具响应、环境状态和模型后续决策建立证据分层,给出工具错误、模型错误与混合错误的判定规则、Python 记录结构和回归清单。239 收藏