Go语言技术文章
-
OpenTelemetry Entity Events 用 entity.state 携带完整实体状态和 entity.relationships,关系增删通过重新发送当前快照表达,entity.delete 与 report interval 共同处理生命周期。280 收藏 -
从生命周期、生产采用、治理与维护者、社区健康、安全响应和退休信号六个角度,判断开源基金会公告是否足以支持长期维护结论。279 收藏 -
科技周边 · 业界新闻 | 4天前 | WEB开发 · PHP · parse_url PHP 8.5 Uri\Rfc3986\Uri URI extension Uri\WhatWg\Url WHATWG URL RFC 3986
PHP 8.5 内置 URI extension 后,项目可以把部分 parse_url、正则校验和字符串拼接迁移到标准 API。本文按 URI 语义选择 RFC 3986 或 WHATWG 实现,并说明解析失败、相对引用、组件修改与兼容性边界。273 收藏 -
Redis 8.10 的 Compact Hash 通过共享重复 Hash 的字段集合降低内存开销。本文从同构数据、HIMPORT、自动转换配置和内存指标四个角度,说明哪些场景值得关注,以及字段不稳定、字段过期和超宽 Hash 的边界。271 收藏 -
Cloud Native Buildpacks 通过 builder、buildpacks 和 lifecycle 把应用源码转换为 OCI 镜像。本文说明如何固定 builder、选择 pack build 导出目标、理解缓存与运行基镜像边界,并给出稳定交付检查清单。268 收藏 -
用 Gemini API 串联多个工具时,关键是把工具声明、模型决策、本地执行和结果回传拆开,并用依赖顺序控制调用链。265 收藏 -
科技周边 · 人工智能 | 1天前 | 人工智能 · vLLM KV Cache gpu-memory-utilization max-num-batched-tokens max-num-seqs 批处理显存
vLLM 的 gpu-memory-utilization 只划定单实例显存预算,不直接限制批处理条数。本文用 max-num-batched-tokens、max-num-seqs、max-num-active-seqs 和排队上限拆开说明显存、单轮批量与入口容量的配置边界。265 收藏 -
使用 ONNX Runtime get_overridable_initializers 读取可覆盖初始化器的名称、类型和形状,整理元数据报告,并区分空列表、加载异常、权重数值与性能结论。259 收藏 -
用 OpenTelemetry 把 AI 代理、模型、工具和下游依赖串成一棵 Trace 树,并用结构化事件记录重试、业务拒绝和异常原因。250 收藏 -
云原生平台强调端到端 AI 工作流,不是要让 Kubernetes 取代模型框架,而是把数据、训练、模型制品、推理交付、观测与治理连接成可追踪的工程路径。本文结合 CNCF 近期资料,拆解平台化需求的来源、评估检查点和渐进式落地顺序。249 收藏 -
用 PyTorch 的 torch.autocast 控制混合精度范围:明确前向与损失计算的作用域,演示局部关闭 autocast 保留 float32,并说明 GradScaler、推理和常见边界。248 收藏 -
Volcano v1.16.0 将 NamespaceQueue 的命名空间队列授权与 fairshare 的共享队列历史公平拆开。本文用 AI/GPU 多租户场景说明功能边界、配置顺序、验证证据和不能抢占运行中作业的限制。241 收藏 -
Triton 的 schedule policy 可以把 timeout 放进单个推理请求,让动态批处理队列按微秒值处理等待边界。本文说明模型队列策略、HTTP parameters.timeout、Python gRPC timeout 与 client_timeout 的区别。239 收藏 -
MLflow Prompt Registry如何把production别名切回稳定版本,通过load_prompt处理缓存和应用重载,并记录实际版本、模板变量与发布依赖。234 收藏 -
用 Ollama 的 /api/embed 把本地文档切成片段并批量转换为向量,保留文本、模型和元数据映射,再用同一模型生成查询向量完成语义检索。230 收藏