Go语言技术文章
-
用局部上下文和预测入口示例说明 PyTorch 推理模式查询,解释布尔返回、线程局部性,并区分梯度开关、模型训练标记与推理状态。249 收藏 -
从基础设施选型场景解释 CNCF 孵化与毕业的成熟度含义,比较治理、采用证据和维护责任,并说明怎样将等级纳入工程决策。249 收藏 -
训练在 loss.backward() 阶段出现 NaN 或 Inf 梯度时,可以用 PyTorch autograd anomaly detection 保存前向 traceback,并结合 check_nan、isfinite 和梯度检查把范围收窄到具体算子与输入。248 收藏 -
用 PyTorch 的 torch.autocast 控制混合精度范围:明确前向与损失计算的作用域,演示局部关闭 autocast 保留 float32,并说明 GradScaler、推理和常见边界。248 收藏 -
科技周边 · 人工智能 | 3星期前 | python · 人工智能 · snapshot_download Hugging Face Hub HF_HUB_CACHE HF_HOME 模型缓存 huggingface_hub
Hugging Face Hub 的模型缓存可以通过 HF_HOME、HF_HUB_CACHE、HF_ASSETS_CACHE 和 HF_XET_CACHE 分开管理。本文从目录边界、环境变量导入时机、repo 缓存结构、下载函数与清理边界几个方面说明如何让模型文件可控地复用。247 收藏 -
OpenTelemetry 的价值不只是分别采集日志、指标和 Trace,而是让三类信号共享执行上下文与资源属性。本文从请求入口、日志字段、指标 exemplar、Collector 管线和失联排查五个角度说明统一上下文的原因与落地边界。247 收藏 -
说明 ONNX Runtime 如何根据硬件、安装包和运行库选择 CPU 或 CUDA provider,给出可用能力判断、CUDA 优先回退 CPU 的 Python 写法,并梳理 CUDA 与 cuDNN 的兼容边界。246 收藏 -
生成式 AI 应用应把提示词正文、工具定义和输出约束固定成不可变版本,再用 request_id 关联模型请求与输出。本文给出版本键、请求事件字段和敏感数据分层记录方法。243 收藏 -
用同一份 ONNX 模型比较 ONNX Runtime 动态量化与静态量化,说明校准数据、输入契约、量化格式和中间激活如何造成空输出或结果偏差,并给出可复用的排查清单。242 收藏 -
JSON Schema 约束模型输出教程:在 Responses API 配置 text.format、必填字段与空值,处理拒绝和未完成响应,区分结构正确与业务事实正确。241 收藏 -
科技周边 · 业界新闻 | 3星期前 | 并发 · pprof · 业界新闻 · 运行时 · net/http/pprof goroutineleak goroutine 泄漏 runtime/pprof Go 1.27 并发诊断
Go 1.27 将 goroutineleak profile 正式加入 runtime/pprof,并提供 net/http/pprof 诊断入口。本文解释泄漏画像如何借助 GC 可达性识别永久阻塞候选,演示读取方式,并梳理全局可达、IO 阻塞和自定义同步协议等边界。241 收藏 -
Kubernetes CronJob 默认允许同一个任务的 Job 并发运行。本文用 concurrencyPolicy: Forbid 配置不重叠执行,并解释 Allow、Replace、startingDeadlineSeconds、错过调度和 kubectl 检查之间的关系。241 收藏 -
PyTorch DistributedSampler 以共同 seed 与逐轮 set_epoch 控制打乱。本文说明调用位置、rank 划分、尾部处理和恢复训练时的索引复现范围,并给出小样本对照代码。241 收藏 -
Volcano v1.16.0 将 NamespaceQueue 的命名空间队列授权与 fairshare 的共享队列历史公平拆开。本文用 AI/GPU 多租户场景说明功能边界、配置顺序、验证证据和不能抢占运行中作业的限制。241 收藏 -
用 Dataset.to_dict(batched=True) 按 batch_size 分批导出列式字典,并对比 to_json、行式记录和 IterableDataset 的使用边界,避免一次聚合全量数据。241 收藏