Go语言技术文章
-
OpenAI API 的 Responses 流由带类型的语义事件组成。本文说明如何只提取 response.output_text.delta 文本增量，并分别处理 response.completed 与 error，避免控制事件混入回答。352 收藏 -
ONNX Runtime 普通 run 路径可能让输入输出在 CPU 与加速设备之间来回搬运。本文以 Python IOBinding 为主线，说明如何准备设备 OrtValue、预分配固定形状输出、调用 run_with_iobinding，并区分动态输出、CPU 回读和内存生命周期边界。352 收藏 -
云原生 AI 应用不应把业务规则、模型运行和 GPU 集群揉成一个平台。本文用三层边界说明业务团队、AI 平台团队与基础设施团队各自负责什么，并给出模型生命周期、反例和落地判断清单。352 收藏 -
从 KubeCon 官方议程里的 GPU 调度、DRA、拓扑感知和可观测性信号出发，拆解资源合同、队列策略、指标关联与多租户安全任务，帮助平台团队形成可排期、可验收的工程 backlog。351 收藏 -
ONNX Runtime 的线程数不是只改一个参数：intra_op_num_threads 控制算子内部并行，inter_op_num_threads 只在 ORT_PARALLEL 下控制算子之间并行。本文用 Python SessionOptions 说明两类线程池、等待策略和多会话场景的配置边界。351 收藏 -
Google 发布 Gemma 4 QAT 检查点后，模型选择不只是看参数量。本文从 Q4_0 权重格式、内存预算、LiteRT-LM 与 Transformers.js 部署路径拆解适用场景，并给出上线前的验收清单。350 收藏 -
RAG 明明已经写入知识库，回答却像没有检索到内容？从查询改写、文本分块、相似度阈值和召回日志四个位置建立一条可验证的排查路径。350 收藏 -
Kyverno PolicyReport 记录当前资源的策略结果。本文按五类结果、触发来源和资源关联，说明如何定位 Kubernetes 集群合规差距，并说明 Audit、Enforce 与 1.19 迁移边界。350 收藏 -
Hugging Face Datasets可用flatten把struct子字段展开成带层级前缀的独立列。本文通过原创样本区分Dataset与Features展开、列表拆行和索引整理，并说明下游列名契约。350 收藏 -
Agent Plugins 1.0 把 skills 与 MCP server 放进同一个可安装插件包，本文结合 plugin.json、skills/、mcp.json 和 managed-settings.json，拆解跨客户端迁移、企业治理与兼容边界。349 收藏 -
AI Agent工具调用不能把schema通过当作授权通过。本文以工单查询的假设故障区分输入契约、业务约束、可信身份与失败返回，说明权限拒绝、重试和结果未知的处理边界。349 收藏 -
RAG 入库前先做内容指纹，可以在向量化之前拦截完全重复片段，减少重复检索和上下文浪费。本文用 Python 演示文本规范化、SHA-256 指纹、元数据合并，以及近重复候选的处理边界。349 收藏 -
ONNX Runtime 服务中应按模型和会话配置创建一次 InferenceSession，再复用 session.run；并发数仍需按执行提供程序、输入状态和资源预算限制。本文用架构模式说明单会话、信号量、请求级输入与 DirectML 边界。349 收藏 -
KubeEdge 断云时可以依靠 EdgeCore 的本地元数据和设备状态继续自治，但业务任务进度仍应由应用自己持久化。本文按前置条件、检查点、部署和断连恢复步骤，拆开这两层状态并给出可执行的设计方法。349 收藏 -
ONNX Runtime 加载模型后，可以通过 InferenceSession.get_inputs() 读取每个输入 NodeArg 的名称、类型和形状。本文说明如何识别动态维度，并按真实输入名构造 feeds 映射。349 收藏