Go语言技术文章
-
用 PEFT 的 merge_and_unload 合并 LoRA adapter，固定 tokenizer、输入和生成参数，再通过 token 与 logits 对比判断合并前后是否一致。399 收藏 -
按 decoder-only 生成、训练、encoder-only 和 encoder-decoder 任务拆解 Tokenizer 左右填充选择，并说明 attention_mask、pad_token 与标签屏蔽。399 收藏 -
GitHub Copilot 在 VS Code 的2026年九月更新覆盖1.136至1.140。本文围绕任务上下文、运行环境和合并授权解释日常编码影响，区分预览能力与适用边界。399 收藏 -
Captum IntegratedGradients 返回的 convergence delta 是完整性差值的逐样本近似误差信号。本文说明它比较什么、如何读取，以及怎样结合 n_steps 和 method 做有边界的判断。399 收藏 -
同一个模型请求失败，并不代表应该立刻换到下一个模型。本文按超时、限流、服务异常和内容拒答拆开处理，给出路由状态、重试边界、降级策略与可验收的实现路径。398 收藏 -
说明 Gemini API 隐式缓存的启用范围、最低输入 token 门槛、公共前缀组织方式，以及如何用 usage.total_cached_tokens 核对命中。398 收藏 -
科技周边 · 业界新闻 | 2个月前 | github · 开发者工具 · GitHub Star API Star history REST API stargazers history 仓库 Star 统计
GitHub 新增 Star history REST API 后，开发者可以按周读取仓库 Star 总增量、按日读取七天分布，并通过分页回溯历史；接口不返回个人 stargazer 身份。本文用请求示例说明字段含义、分页顺序、时区边界以及旧列表脚本的迁移方式。398 收藏 -
模型输出 JSON 偶尔带有 Markdown 围栏时，先判断拒答和截断状态，再只清理首尾围栏，最后用 encoding/json 解码并执行字段级业务校验。398 收藏 -
量化推理选精度不能只看模型参数量，还要扣除 KV cache、激活、运行时余量和量化元数据。本文用显存预算、位宽估算和 Transformers BitsAndBytesConfig，说明何时选择 FP16/BF16、INT8 或 INT4，并给出吞吐与质量的验证边界。398 收藏 -
通过 traces、metrics、logs 三类 pipeline 的配置拆分，理解 OpenTelemetry Collector 中 receiver、processor、exporter 的复用边界与 fan-out 风险。398 收藏 -
多模态接口接入后，小图片能成功，大图片却报请求过大或上下文超限。本文从原始字节、base64 膨胀和 token 预算三层定位问题，再给出压缩、尺寸校验与请求组装的可复现处理顺序。397 收藏 -
科技周边 · 人工智能 | 1个月前 | 人工智能 · 性能排查 · 提示词工程 · 提示词缓存动态字段 DynamicCache KV缓存 Transformers缓存 past_key_values use_cache StaticCache
本文以 Hugging Face Transformers 的 DynamicCache 为例，说明提示词缓存动态字段的配置边界，覆盖 use_cache、past_key_values、迭代对话、窗口上限、回滚、显存排查以及切换 StaticCache 的判断方法。397 收藏 -
从候选列表、依赖刷新与面板插值拆解 Grafana 变量查询，说明环境服务关联、多值与全部选项的取舍，以及空列表、切换失配和面板无数据的处理方向。397 收藏 -
区分 vLLM 连续批处理的序列容量、token 预算、活跃请求和入口在途限制，给出配置示例、版本条件以及排队和多副本的适用边界。397 收藏 -
Git 2.56 迁移不应只看命令能否执行，还要检查脚本依赖的标准输出、标准错误和退出码。本文按基线、命令变化、稳定解析、隔离回归和灰度回滚整理一份兼容检查清单。397 收藏