Go语言技术文章
-
Cilium 1.20 为 HTTPRoute 增加 Gateway API ExternalAuth 支持,可在请求进入应用前调用 HTTP 或 gRPC 外部认证服务。本文分析其平台边界、实验性 API、失败关闭、TLS、权限和上线验收影响。232 收藏 -
Hugging Face Datasets 的 streaming 模式会返回 IterableDataset,按迭代按需读取远程或本地分片。本文给出变换、缓冲区打乱、多 worker、训练轮次和检查点恢复的生产写法。337 收藏 -
CNCF Karmada 进入 Graduated 后,多集群团队应如何理解这一成熟度信号?本文从 Push/Pull 接入、策略调度、跨集群服务和工作负载边界拆解落地判断。386 收藏 -
梳理 Transformers generate 的 EOS、max_new_tokens、stop_strings 与自定义 StoppingCriteria,演示批量提示词、多候选返回、纯新增 token 解码和输出分组。133 收藏 -
Cloud Native Buildpacks 从 CNCF 毕业后,企业容器构建应把重点放在 builder、Platform API、SBOM、重基和灰度迁移,而不是盲目删除 Dockerfile。355 收藏 -
bitsandbytes 4-bit 量化只压缩冻结基座权重,LoRA 参数、梯度、优化器状态、激活与 CUDA 工作区仍会占用显存。本文给出 NF4 配置、峰值测量方法和 OOM 调整顺序,说明 QLoRA 单卡训练的真实边界。249 收藏 -
Kubeflow 成为 CNCF Graduated 项目,增强了治理、采用和安全流程方面的成熟度信号,但不等于所有发行版或子项目都自动适合企业。本文给出平台能力图、落地路径与选型矩阵。293 收藏 -
在同一个基础模型上预加载多个 PEFT LoRA 适配器,使用唯一名称和 set_adapter 按任务切换,并说明 delete_adapter、unload 与 hotswap 的生命周期边界。268 收藏 -
CNCF 2025 年度报告和 2026 年社区案例显示,云原生开源生态的关注点正从项目数量转向贡献者结构、维护工作和基础设施投入。本文用三个观察维度拆解这一变化,并给出企业参与开源的四级清单。137 收藏 -
PEFT 适配器合并理论上把增量权重写回基础模型,但浮点舍入、量化、基础模型版本、活跃适配器和生成参数差异都可能改变输出。本文给出固定条件、比较 logits、正确接收 merge_and_unload 返回值和定位大幅偏差的方法。221 收藏 -
模型能跑通只是起点。生产级 AI 还要解决 GPU 调度、推理路由、可观测性、版本发布和多租户治理。本文结合 CNCF 与 Kubernetes 官方资料,比较托管式服务和云原生组合平台的适用边界。146 收藏 -
按 decoder-only 生成、训练、encoder-only 和 encoder-decoder 任务拆解 Tokenizer 左右填充选择,并说明 attention_mask、pad_token 与标签屏蔽。399 收藏 -
梳理 CNCF 对 2026 云原生的五项判断,涵盖 Kubernetes、平台工程、AI 基础设施、可观测性、安全、FinOps 与开源治理,并给出团队采用清单。113 收藏 -
解释 Safetensors 如何用文件头中的 shape、dtype 与 data_offsets 定位权重切片,说明 get_slice、零拷贝、内存映射和 GPU 传输的真实边界。258 收藏 -
结合招商银行 CNCF 案例,拆解银行为何用 Kubernetes 统一异构算力、数据与监控,同时为训练和推理保留不同的队列、弹性与运行时策略。369 收藏