Go语言技术文章
-
解读 GitHub 新 Dashboard 成为默认首页后的核心变化:工作模块集中、Feed 独立、列表筛选、Copilot 直接行动与旧体验回退。492 收藏 -
讲清 Hugging Face Catalog API 的模型与配方关系,并用 huggingface_hub 完成目录筛选、精确创建、状态等待和成本控制。333 收藏 -
GitHub App 安装令牌已完成无状态格式上线。本文解释约 520 字符的新令牌与旧格式的差异,并给出固定长度校验、存储容量、代理转发、日志脱敏和灰度验证的兼容检查清单。221 收藏 -
从 handler.py 的 EndpointHandler 结构、依赖管理、本地测试到 Custom 任务部署,说明 Hugging Face Inference Endpoint 编写自定义 Handler 的完整边界。145 收藏 -
开源项目毕业是重要的外部成熟度信号,但不是企业上线批准。本文给出双重证据门模式和六维清单,帮助团队评估业务适配、运行可靠性、安全供应链、升级退出与风险归属。471 收藏 -
模型服务的批处理不是把 batch size 调大就结束。本文用 Triton 动态批处理和 TGI 连续批处理说明如何设置排队等待上限、批量或令牌预算,并用队列长度、prefill/decode 时长与端到端 p95 验证吞吐收益。479 收藏 -
AI Agent 的工具调用失败可能是拒绝、超时或结果未知。本文给出失败分类、稳定幂等键、结果复用、指数退避与人工接管的完整设计,避免重复副作用。236 收藏 -
对比 Kubernetes 命名空间迁移方案,给出并行双跑、依赖重建、健康验收、受控切流与回滚窗口的零停机工程方法。490 收藏 -
讲清 Diffusers ControlNet 条件图与生成画布的尺寸匹配方法,覆盖等比补边、居中裁切、多 ControlNet 和批量输入检查。314 收藏 -
CNCF 的最新实践展示了 OpenBao 使用 CloudNativePG PostgreSQL 集群作为持久化后端的路径。本文按证书认证、表初始化、Helm 配置和高可用边界,拆解这套开源密钥管理组合。151 收藏 -
统一 Hugging Face Evaluate 输入时,应该统一 predictions 和 references 的批次外壳,同时以 metric.features 保留每个指标的元素类型与嵌套边界。本文给出适配器写法、compute 与 add_batch 共用方式,以及组合指标前必须检查的兼容条件。134 收藏 -
CNCF 数据显示 Kubernetes 已广泛进入 AI 推理,但高频模型交付仍有限。本文分析从实验到生产时,平台团队、AI 团队、SRE、治理与成本角色需要发生的组织变化。345 收藏 -
RAG 检索结果不要直接按 top_k 全量送入模型。本文用文档身份、规范化文本和语义多样性三层策略去重,再按系统指令、问题、证据与回答余量分配上下文预算,给出可迁移的 Python 实现与参数调优指标。357 收藏 -
梳理 OpenTelemetry 指标平台迁移的采集边界,说明如何冻结指标语义、通过 Collector 双写后端,并用内部遥测控制切换与回退。107 收藏 -
说明 decoder-only 模型批量生成时 padding_side 为什么应设为 left,并结合 input_ids、attention_mask 和生成起点排查对齐问题。206 收藏