Go语言技术文章
-
从 CNCF 关于 Kubeflow、生产级 AI 和中国云原生发展的近期公告与报告出发，拆解云原生走向 AI 原生的真实含义，并给出资源、推理入口、观测和供应链四项落地清单。228 收藏 -
解读 OpenAI API 12小时提示词缓存更新，从长间隔复用、写入成本和稳定前缀版本管理出发，比较缓存寿命选择与工程落地边界。223 收藏 -
说明 Accelerate disk_offload 如何把模型权重映射到本地目录，区分已加载模型的 offload_dir 与检查点加载时的 device_map、offload_folder，并解释 execution_device、推理边界和磁盘性能影响。223 收藏 -
Transformers pipeline 支持列表、Dataset 和生成器输入。本文用文本分类场景说明如何设置 batch_size，解释 padding 与长文本造成的显存风险，并给出从小批次开始、同时记录吞吐和峰值显存的可回退配置方法。218 收藏 -
Gemini Interactions API GA 后，适合把多轮状态、工具调用、执行步骤和长任务统一成 Interaction 资源的代理场景。本文按任务边界说明 model、agent、previous_interaction_id、background 与 store 的选择。217 收藏 -
科技周边 · 人工智能 | 4天前 | 性能优化 · 人工智能 · 深度学习 · PyTorch CUDA SDPA scaled_dot_product_attention Flash Attention
PyTorch 的 scaled_dot_product_attention 默认会根据输入和设备选择可用实现。本文用 sdpa_kernel 说明如何做局部后端约束，并从 CUDA、dtype、mask、dropout、GQA 和数值精度几个条件判断 fused kernel 为什么回退。214 收藏 -
Kubernetes 里的 Pod 重启和容器重启不是同一件事。本文用 Pod UID、创建时间、restartCount、lastState、退出码、上一轮日志和事件建立一套只读排查顺序，帮助判断是同一 Pod 内的容器反复重启，还是控制器已经创建了新的 Pod。213 收藏 -
用 Transformers 做推理时，dtype 负责权重加载精度，autocast 负责前向计算精度。本文给出 float16、bfloat16 与 float32 的选择方法、代码示例和兼容性检查清单。212 收藏 -
Holo4 这类计算机使用代理可以跨桌面、网页和移动端执行长流程任务，但不应该只用一个总开关管理权限。本文按工具能力、资源范围、动作审批和隔离运行环境四层拆解权限，并给出浏览器、文件系统与 Shell 的策略示例。212 收藏 -
本文围绕 Gemini API 内置 URL Context，说明如何提交公开网页、如何读取 URL 引用与检索状态，以及 20 个 URL、34MB、登录墙和私有网络等输入边界。204 收藏 -
科技周边 · 业界新闻 | 6天前 | CI/CD · gitHub actions · 业界新闻 · 供应链安全 · GitHub Actions Dependabot actions.lock workflow lockfiles gh-actions-lock
GitHub Actions 的标签和分支引用可能随上游移动而改变实际执行代码。本文解释工作流依赖锁文件的固定边界，演示 gh-actions-lock、actions.lock、Dependabot 以及 verify-local 和 verify 的配合方式。203 收藏 -
科技周边 · 业界新闻 | 3天前 | 云原生 · kubernetes · 网络安全 · eBPF 网络策略 Cilium CiliumNetworkPolicy CiliumClusterwideNetworkPolicy toServices 节点策略
Cilium 网络策略要同时覆盖服务与节点，不能只把 Service 名称和节点标签塞进同一个选择器。本文按服务流量、Pod 到节点流量和主机网络策略拆开说明 toServices、fromNodes/toNodes 与 nodeSelector 的职责，并给出迁移清单。196 收藏 -
CNCF 年度调查、Technology Radar、Landscape 和项目指标回答的问题并不相同。本文把这些生态信息与团队约束、维护成本、治理要求和退出条件结合起来，给出一套从证据分层、路线评分到可回滚试点的云原生平台选型方法。196 收藏 -
通过 previous_interaction_id 继续 Gemini 多轮会话，说明游标持久化、每轮配置、并发分支与保留期限，并提供 Python 示例。187 收藏 -
说明 Triton dynamic batcher 的优先级等级、客户端 priority 参数和各级 queue policy，并给出分组延迟、拒绝率与吞吐的对照测量方法。187 收藏