Go语言技术文章
-
用 PEFT 的 merge_and_unload 合并 LoRA adapter，固定 tokenizer、输入和生成参数，再通过 token 与 logits 对比判断合并前后是否一致。399 收藏 -
按 decoder-only 生成、训练、encoder-only 和 encoder-decoder 任务拆解 Tokenizer 左右填充选择，并说明 attention_mask、pad_token 与标签屏蔽。399 收藏 -
同一个模型请求失败，并不代表应该立刻换到下一个模型。本文按超时、限流、服务异常和内容拒答拆开处理，给出路由状态、重试边界、降级策略与可验收的实现路径。398 收藏 -
说明 Gemini API 隐式缓存的启用范围、最低输入 token 门槛、公共前缀组织方式，以及如何用 usage.total_cached_tokens 核对命中。398 收藏 -
科技周边 · 业界新闻 | 1个月前 | github · 开发者工具 · GitHub Star API Star history REST API stargazers history 仓库 Star 统计
GitHub 新增 Star history REST API 后，开发者可以按周读取仓库 Star 总增量、按日读取七天分布，并通过分页回溯历史；接口不返回个人 stargazer 身份。本文用请求示例说明字段含义、分页顺序、时区边界以及旧列表脚本的迁移方式。398 收藏 -
模型输出 JSON 偶尔带有 Markdown 围栏时，先判断拒答和截断状态，再只清理首尾围栏，最后用 encoding/json 解码并执行字段级业务校验。398 收藏 -
量化推理选精度不能只看模型参数量，还要扣除 KV cache、激活、运行时余量和量化元数据。本文用显存预算、位宽估算和 Transformers BitsAndBytesConfig，说明何时选择 FP16/BF16、INT8 或 INT4，并给出吞吐与质量的验证边界。398 收藏 -
通过 traces、metrics、logs 三类 pipeline 的配置拆分，理解 OpenTelemetry Collector 中 receiver、processor、exporter 的复用边界与 fan-out 风险。398 收藏 -
多模态接口接入后，小图片能成功，大图片却报请求过大或上下文超限。本文从原始字节、base64 膨胀和 token 预算三层定位问题，再给出压缩、尺寸校验与请求组装的可复现处理顺序。397 收藏 -
科技周边 · 人工智能 | 3星期前 | 人工智能 · 性能排查 · 提示词工程 · 提示词缓存动态字段 DynamicCache KV缓存 Transformers缓存 past_key_values use_cache StaticCache
本文以 Hugging Face Transformers 的 DynamicCache 为例，说明提示词缓存动态字段的配置边界，覆盖 use_cache、past_key_values、迭代对话、窗口上限、回滚、显存排查以及切换 StaticCache 的判断方法。397 收藏 -
围绕 pyproject.toml 的 [project]、[build-system] 与 [tool] 三层配置，说明 Python 打包元数据迁移后如何拆分构建、产物检查和上传流水线，并给出 sdist 与 wheel 的验收清单。396 收藏 -
AI 接口采用流式输出后，JSON 可能被拆在多个数据块里，直接逐块反序列化会遇到半截对象和重复消费。本文用 Go 的缓冲区、边界扫描和字段完整性检查，构造一条可复现的流式解析链路。395 收藏 -
多模态知识库接入图片后，成本和延迟往往不是由文件大小单独决定。本文从图片任务、detail 级别、裁剪策略和上下文预算四个维度，给出可执行的输入分层与验收方法。394 收藏 -
Gemini Flex inference 用标准价格的一半换取可让渡容量，适合不赶实时结果的评测、数据丰富和后台链路。本文用 service_tier=flex 的请求示例拆开 429、503、超时、重试和 Batch 的边界，避免把低价请求误接到用户关键路径。394 收藏 -
科技周边 · 业界新闻 | 3星期前 | openai · 业界新闻 · AI工程 · OpenAI Responses API Assistants API Conversation previous_response_id
Assistants API 停止服务后，迁移到 Responses API 不能直接替换 Thread ID。本文按对象映射、历史消息转换、Conversation 与 previous_response_id 的选择以及兼容检查，说明旧状态如何安全落到新模型。394 收藏