Go语言技术文章
-
OpenJDK 虚拟线程降低了高并发等待型任务的线程成本，但是否真的改善服务端表现，仍要结合 JFR 观察 pinning、提交失败、阻塞事件与外部资源。本文给出一套从录制到判断的协同方法。480 收藏 -
CNCF 接纳 Meshery 为孵化项目。本文从项目状态、管理面职责和 AI 配置治理三个角度，解释 Meshery 如何组织基础设施模型、设计模式、集群状态与团队协作，并给出谨慎评估边界。480 收藏 -
Python 3.15 candidate 2 的正式版本名是 3.15.0rc2。本文按构建、ABI、运行回归和 wheel 发布四层，说明 C 扩展作者现在应先测什么，以及 abi3、abi3t 和版本专用包如何取舍。479 收藏 -
模型服务的批处理不是把 batch size 调大就结束。本文用 Triton 动态批处理和 TGI 连续批处理说明如何设置排队等待上限、批量或令牌预算，并用队列长度、prefill/decode 时长与端到端 p95 验证吞吐收益。479 收藏 -
OpenAI 近期公开的代理工作研究显示，工程团队正在从短对话转向长任务、并行代理和人工监督。真正值得借鉴的不是盲目放权，而是把任务拆成有依赖、有验收条件、可复盘的工作单元。478 收藏 -
torch.compile 出现 graph break 时，先用 fullgraph=True 暴露首个断点，再用 torch._dynamo.explain 和 TORCH_LOGS 分析原因，最后决定重写、隔离还是保留。478 收藏 -
科技周边 · 业界新闻 | 4星期前 | vs code · AI编程 · 业界新闻 · 开发者工具 · Copilot Codex Claude 开发流程 VS Code AI代理 Agent Host 代理会话
VS Code 正把代理会话、执行框架、工具调用和变更审查放进统一编辑体验。本文依据官方资料解读 Chat view、Agents window 与 Agent Host 的关系，以及团队试用时的流程和安全边界。478 收藏 -
Kubernetes Deployment 的 maxUnavailable 是滚动更新可用副本预算。本文用副本计算和排查场景说明百分比舍入、maxSurge、Ready与Available，以及发布停滞的判断。478 收藏 -
Reranker 分数不是通用的相关性刻度。本文从分数归一化、候选集标注、分层阈值和 top-k 兜底四个方面，说明如何减少相关答案被过滤的问题。477 收藏 -
避免 Chat Template 角色格式不一致的关键，是让训练、评测和推理共享同一份 role/content 消息契约，并统一交给 tokenizer.apply_chat_template 序列化。本文给出参数区别、重复特殊 token 的规避方法和集中封装示例。477 收藏 -
限制 vLLM 显存需区分实例比例预算、KV 缓存大小和上下文并发约束。本文给出保守启动示例，说明参数优先关系、共享GPU边界、失败回退与运行记录，不承诺固定节省比例。476 收藏 -
RAG 应用排障不能只盯着最终答案。本文用 context_recall、context_precision、faithfulness 和 answer_correctness 拆分检索与生成问题，并给出一套可接入回归集的评估方法。476 收藏 -
Go 官方为 pkg.go.dev 推出程序化 API，开发者可以通过稳定的 GET 接口查询模块、版本、包、符号和漏洞信息。本文从工具链接入场景出发，拆解 v1beta 端点、模块路径歧义、版本参数和落地边界。475 收藏 -
Redis 8.8 的 array 适合按数字索引访问、稀疏位置写入、滑动窗口和范围聚合。本文用 ARSET、ARGET、ARRING 等命令说明它与 List、Hash、Stream 的选择边界。475 收藏 -
科技周边 · 人工智能 | 3星期前 | 人工智能 · 深度学习 · 内存优化 · 内存 PyTorch 按需加载 mmap checkpoint torch.load map_location state_dict
torch.load 的 mmap=True 建立的是检查点文件映射，不是把全部参数立即复制进物理内存。本文结合首次访问、CPU 映射和 to(device) 迁移，解释虚拟地址、驻留页与设备副本的区别，并给出大检查点的加载取舍。475 收藏