Go语言技术文章
-
Embedding 模型更换后，旧文档向量与新查询向量可能不在同一个向量空间；即使维度相同，语义方向、归一化和提示词约定也可能不同。本文给出双写、全量回填、离线验收、别名切换和回滚方案。259 收藏 -
多模态模型的图片成本不只取决于文件大小，还取决于处理器如何把像素切成视觉 token。本文以 Hugging Face Transformers 的 processor 为参照，说明服务端怎样读取 min_pixels、max_pixels，按像素预算等比例缩放，再决定压缩、裁剪和监控字段。259 收藏 -
本地量化模型显存不足时，先拆分权重、KV cache 和计算缓冲区，再按真实输入选择上下文长度。本文给出 2048、4096、8192 的起点判断，以及上下文、KV 缓存精度、批大小和量化档位的调节顺序。258 收藏 -
解释 Safetensors 如何用文件头中的 shape、dtype 与 data_offsets 定位权重切片，说明 get_slice、零拷贝、内存映射和 GPU 传输的真实边界。258 收藏 -
长文档问答不能只返回文件名。本文给出文档版本、章节锚点、内容块、引用卡片和答案断言的完整映射方法，并补充覆盖率、锚点解析、版本一致性、低证据拒答与回滚检查。257 收藏 -
围绕 PHP 8.5.7 的补丁升级，整理 CLI 与 FPM 基线、内置和 PECL 扩展盘点、Composer 平台检查、真实调用链回归、灰度放行与回滚条件。256 收藏 -
Go 1.27 允许具体方法声明自己的类型参数，但接口方法仍不能声明类型参数。本文从作用域、接口边界、函数迁移和兼容性清单四个方面说明升级后应先检查哪些代码。252 收藏 -
本地大模型推理中，KV cache 容量和 batch size 共享显存预算。本文从输入长度、并发、TTFT、TPOT 与长尾延迟出发，给出可落地的配置起点、压测矩阵和超限回退策略。251 收藏 -
说明 PEFT LoRA 的 target_modules 如何按模型模块树、任务范围和参数预算选择，并给出默认目标、all-linear、MoE 特例与命中检查方法。251 收藏 -
Go 1.27 允许具体方法声明自己的类型参数，集合转换等 API 不再只能堆在包级命名空间。本文从 Map 示例、链式调用、方法表达式、接口限制和兼容迁移出发，分析哪些 API 适合改成泛型方法，哪些仍应保留函数形式。250 收藏 -
科技周边 · 人工智能 | 1天前 | JSON · python · 人工智能 · 工程实践 · 结构化输出 · Pydantic JSON Schema AI 结构化输出 模型重试 兜底解析 大模型工程
模型稳定输出 JSON 不能只靠提示词。本文用 JSON Schema、Pydantic 校验、分类重试与受控兜底解析，搭建一条可观测的结构化输出链路。250 收藏 -
科技周边 · 业界新闻 | 3星期前 | kubernetes · 故障排查 · 业界新闻 · Kubernetes v1.37 PodFailurePolicy Job FailureTarget Pod失败策略
Kubernetes v1.37 环境中，PodFailurePolicy 仍按规则顺序把退出码和 Pod 条件分为 FailJob、Ignore、Count 或 FailIndex。本文用一份 Job 配置和 kubectl 核对方法，解释 FailureTarget、Failed 与 backoffLimit 的关系。249 收藏 -
WebAssembly Component Model 更适合拆分契约窄、状态少、权限可列举的规则计算、解析转换和租户插件；本文用 WIT 的 interface、world、imports 与 exports 说明如何判断边界，并列出不适合直接组件化的共享事务和高频状态服务。249 收藏 -
bitsandbytes 4-bit 量化只压缩冻结基座权重，LoRA 参数、梯度、优化器状态、激活与 CUDA 工作区仍会占用显存。本文给出 NF4 配置、峰值测量方法和 OOM 调整顺序，说明 QLoRA 单卡训练的真实边界。249 收藏 -
Redis Iris 里的 Context Retriever 和 Agent Memory 不是两个同义的检索组件：前者回答当前业务数据是什么，后者回答过去对话发生过什么。本文用实际问题拆开两者的边界、组合方式和选型误区。248 收藏