Go语言技术文章
-
Accelerator.prepare 不只是把模型搬到设备上；训练时模型包装、参数位置、优化器参数组和状态必须保持一致，所以通常要把模型与优化器一起交给 Accelerate 准备。本文用最小训练骨架说明对象顺序、调度器和推理场景的边界。386 收藏 -
科技周边 · 人工智能 | 3天前 | 人工智能 · Hugging Face Datasets streaming IterableDataset Dataset.shuffle shuffle buffer
Hugging Face Datasets 的 Dataset.shuffle 会为内存数据集建立全量索引映射，IterableDataset.shuffle 则通过 shard 顺序和有限 shuffle buffer 做近似随机。本文解释两者的访问模型、随机范围、性能代价与训练参数选择。130 收藏 -
从文件职责、配置来源和参数命名区分LoRA适配器与基础模型，说明单适配器合并的适用范围、独立输出目录及回滚材料，避免把适配器误当完整模型交付。174 收藏 -
Hugging Face Datasets 用 map 转换样本时，可以通过 remove_columns 一次删除多个旧字段。本文说明单条与批量映射、同名覆盖、DatasetDict 和缓存边界。421 收藏 -
使用 Hugging Face PEFT 训练适配器后，检查点通常只包含适配器权重和配置，不会复制完整基础模型。本文从目录现象出发，说明保存设计、恢复加载、继续训练与合并导出的区别。301 收藏 -
Transformers 的 generate 返回完整序列时，GPT 类 decoder-only 模型会把输入提示词和新增 token 一起返回。本文用 token 长度切片、批量 padding 和 max_new_tokens 说明如何稳定取出真正生成的文本。111 收藏 -
讲清 Transformers generate 返回完整序列的原因，分别处理 decoder-only 与 encoder-decoder 模型，用输入长度切出新生成 token，并给出批量解码、特殊 token 和空结果的处理方式。461 收藏 -
使用 Transformers Fast tokenizer 的 offset_mapping 把 token 位置还原为原始文本片段，并处理特殊 token、批量溢出、成对输入与预分词边界。330 收藏 -
比较Transformers批次分词的动态补齐与固定长度补齐，说明截断上限、collator组批职责和部署形状约束，并给出可复制代码与实际观测指标。153 收藏 -
MCP 分页中的 cursor 是客户端携带、服务端解释的不透明令牌。本文用最小请求循环说明为什么客户端不能自己拼页码，以及服务端如何决定页大小、编码和结束信号。165 收藏 -
OpenJDK 虚拟线程降低了高并发等待型任务的线程成本，但是否真的改善服务端表现，仍要结合 JFR 观察 pinning、提交失败、阻塞事件与外部资源。本文给出一套从录制到判断的协同方法。480 收藏 -
跨文档 View Transition 让传统多页站点也能在同源导航时获得连续的页面切换效果。本文用一个列表页到详情页的小项目说明最小 CSS 配置、命名元素、事件定制与降级边界。338 收藏 -
GitHub 官方 Octoverse 报告显示，AI 已从代码补全进入仓库、工具链和代理式协作。本文把开发者增长、LLM SDK、类型系统、可复现环境与仓库治理串成一套观察框架，并给出低风险试用清单。233 收藏 -
Python 3.15 的 free-threaded 支持让多线程部署更值得重新评估，但带 C/C++ 扩展的项目不能只升级解释器。本文按解释器、扩展初始化、wheel 标签、abi3t 与兼容矩阵拆解发布前的检查顺序。300 收藏 -
科技周边 · 业界新闻 | 4天前 | 命令行 · 性能优化 · python · Python教程 · 语言特性 · Python 3.15 PEP 810 lazy imports CLI启动 启动性能
Python 3.15 的显式 lazy imports 把导入绑定与模块加载拆开，为 CLI 按子命令延迟依赖提供了更清晰的表达；本文同时说明异常时机、兼容旧版本和不适合延迟的边界。404 收藏