Go语言技术文章
-
在同一个基础模型上预加载多个 PEFT LoRA 适配器，使用唯一名称和 set_adapter 按任务切换，并说明 delete_adapter、unload 与 hotswap 的生命周期边界。268 收藏 -
CNCF 2025 年度报告和 2026 年社区案例显示，云原生开源生态的关注点正从项目数量转向贡献者结构、维护工作和基础设施投入。本文用三个观察维度拆解这一变化，并给出企业参与开源的四级清单。137 收藏 -
PEFT 适配器合并理论上把增量权重写回基础模型，但浮点舍入、量化、基础模型版本、活跃适配器和生成参数差异都可能改变输出。本文给出固定条件、比较 logits、正确接收 merge_and_unload 返回值和定位大幅偏差的方法。221 收藏 -
模型能跑通只是起点。生产级 AI 还要解决 GPU 调度、推理路由、可观测性、版本发布和多租户治理。本文结合 CNCF 与 Kubernetes 官方资料，比较托管式服务和云原生组合平台的适用边界。146 收藏 -
按 decoder-only 生成、训练、encoder-only 和 encoder-decoder 任务拆解 Tokenizer 左右填充选择，并说明 attention_mask、pad_token 与标签屏蔽。399 收藏 -
梳理 CNCF 对 2026 云原生的五项判断，涵盖 Kubernetes、平台工程、AI 基础设施、可观测性、安全、FinOps 与开源治理，并给出团队采用清单。113 收藏 -
解释 Safetensors 如何用文件头中的 shape、dtype 与 data_offsets 定位权重切片，说明 get_slice、零拷贝、内存映射和 GPU 传输的真实边界。258 收藏 -
结合招商银行 CNCF 案例，拆解银行为何用 Kubernetes 统一异构算力、数据与监控，同时为训练和推理保留不同的队列、弹性与运行时策略。369 收藏 -
MLflow Model Alias 可以把生产代码从固定模型版本号解耦出来。本文用 champion 别名串起模型注册、加载、发布切换和回滚边界，说明 Alias URI 的写法以及不能忽略的版本验证与审计记录。360 收藏 -
结合 CNCF 的 Subaru 案例，解释 30GB 以上 ML/CUDA 镜像为何成为 AI 训练迭代的关键路径，并拆解 Harbor、Envoy Gateway、MetalLB、GitOps 与 Argo Workflows 的分工。102 收藏 -
拆解 FAISS Index Factory 字符串的组合规则，用 Flat、IVF、PQ、SQ、PCA 和 OPQ 示例说明粗排、压缩、训练与 nprobe 参数应如何分工。100 收藏 -
科技周边 · 业界新闻 | 3星期前 | 云原生 · AI基础设施 Kubernetes 平台工程 CNCF Japan State of Cloud Native Development in Japan 2026
CNCF 与 SlashData 的日本云原生开发者报告显示，日本约有 95 万名云原生开发者，AI 正把讨论从模型能力推向推理、调度、可观测性和平台工程。本文拆解报告数据，说明本地部署与混合云并存时，团队应如何判断云原生和 AI 基础设施的真实采用价值。439 收藏 -
RAG 重排不要用同一个 TopK 同时控制召回和上下文。本文给出 candidate_k 与 final_top_k 的起始范围、三组评估指标、调参顺序和可直接落地的 Python 示例。468 收藏 -
CNCF 与 SlashData 的 2026 中国专项报告估算中国有 175 万云原生开发者，其中约 40 万同时从事云原生 AI；年轻后端和工业物联网采用尤为突出。更重要的信号是，AI 进入生产推理后，对可观测性、服务网格、多集群和韧性工程的要求明显上升。213 收藏 -
知识库切片重叠率会同时影响边界语义、重复召回、索引成本和上下文长度。本文用 LangChain 与 Hugging Face 的切分思路说明参数起点、评测方法和不同语料的边界处理。268 收藏