Go语言技术文章
-
torch.compile 变慢或日志出现多个 FX 图时,先用 eager 基线排除代码错误,再用 fullgraph=True、TORCH_LOGS=graph_breaks 和 torch._dynamo.explain 定位断点。本文按值班手册给出改写、隔离和回退路径。475 收藏 -
科技周边 · 人工智能 | 1星期前 | 内存优化 · PyTorch DataLoader IterableDataset num_workers prefetch_factor pin_memory persistent_workers
PyTorch DataLoader 的多进程内存主要受单批大小、num_workers 和 prefetch_factor 共同影响。本文用预取批次数估算主机侧占用,并比较低内存、平衡吞吐和高吞吐配置,同时说明 pin_memory、persistent_workers 与 IterableDataset 的边界。319 收藏 -
OpenAI Realtime API 断线后不会替应用自动恢复业务上下文,稳定做法是把连接与会话状态分开保存,重连后重新配置 session,再按确认点重放摘要和未确认输入,最后只对完整的新输入触发 response.create。356 收藏 -
用 DataCollatorForLanguageModeling 组织语言模型训练批次,掌握 mlm、mlm_probability、padding 与 labels=-100 的对应关系。336 收藏 -
OpenAI API 提示词缓存需要稳定前缀与适用模型配置。通过显式缓存边界、读取和写入用量记录及完整请求组算例,判断重复输入是否真正降费,并区分旧模型参数。317 收藏 -
PyTorch activation checkpointing 用减少前向激活保存、反向阶段重计算来换取训练显存。本文围绕 torch.utils.checkpoint、use_reentrant=False、随机状态和 early_stop,说明适用边界与生产检查要点。370 收藏 -
科技周边 · 人工智能 | 1星期前 | 异步任务 · 人工智能 · openai · 批处理文件 OpenAI Batch API output_file_id error_file_id output_expires_after
OpenAI Batch API 的 output_expires_after 怎样设置?本文说明 created_at 锚点、seconds 的合法范围,以及如何区分批次完成窗口、输出文件和错误文件的读取时机。460 收藏 -
Redis Cluster 的 MOVED 提示槽位路由需要更新,ASK 则用于迁移中的单次请求。本文说明两者区别、ASKING 的连接范围,并用只读命令排查客户端模式、槽位拓扑和重定向目标不可达问题。490 收藏 -
Redis Sentinel 故障转移后,不要只凭一个地址判断成功。本文用当前主节点地址、实例角色和配置纪元三类信息,说明怎样确认切换已经完成。496 收藏 -
用 keyspace notification 实时观察 Redis 被 maxmemory 淘汰的键名,再用 INFO stats 的 evicted_keys 做累计核对,覆盖单机、断线和 Cluster 边界。378 收藏 -
Redis RESP3 并不是把数组随机改成 map,而是协议版本决定了命令返回类型。本文用 HGETALL 说明 RESP2 与 RESP3 的原始差异、HELLO 协商方式、客户端解码边界以及不能依赖 map 顺序的兼容性注意事项。367 收藏 -
Redis SETRANGE 按零基偏移覆盖字符串片段,key 不存在时按空字符串处理,偏移超过当前长度会补零字节。本文说明返回长度、字节偏移、go-redis 错误处理和大偏移的使用边界。288 收藏 -
Redis HINCRBYFLOAT 遇到不存在的 Hash 字段时会按 0 参与浮点递增并写回结果。本文区分直接累计、显式基线、非法数值和错误 key 类型,并给出 go-redis 的错误处理写法。430 收藏 -
Redis SET 可以用 NX 只在 key 不存在时写入,并用 EX 或 PX 同时设置过期时间,适合实现短生命周期幂等锁。本文说明抢锁返回值、唯一 token、安全释放和单实例适用边界。278 收藏 -
Redis ZRANGE 加上 WITHSCORES 后会把成员和分数交替返回。本文说明如何按相邻位置保留对应关系,并给出 go-redis 的结构化读取方式、空结果处理、索引范围与分数精度边界。404 收藏