Go语言技术文章
-
CNCF 接纳 Meshery 为孵化项目。本文从项目状态、管理面职责和 AI 配置治理三个角度，解释 Meshery 如何组织基础设施模型、设计模式、集群状态与团队协作，并给出谨慎评估边界。480 收藏 -
模型服务的批处理不是把 batch size 调大就结束。本文用 Triton 动态批处理和 TGI 连续批处理说明如何设置排队等待上限、批量或令牌预算，并用队列长度、prefill/decode 时长与端到端 p95 验证吞吐收益。479 收藏 -
科技周边 · 业界新闻 | 2星期前 | vs code · AI编程 · 业界新闻 · 开发者工具 · Copilot Codex Claude 开发流程 VS Code AI代理 Agent Host 代理会话
VS Code 正把代理会话、执行框架、工具调用和变更审查放进统一编辑体验。本文依据官方资料解读 Chat view、Agents window 与 Agent Host 的关系，以及团队试用时的流程和安全边界。478 收藏 -
Kubernetes Deployment 的 maxUnavailable 是滚动更新可用副本预算。本文用副本计算和排查场景说明百分比舍入、maxSurge、Ready与Available，以及发布停滞的判断。478 收藏 -
限制 vLLM 显存需区分实例比例预算、KV 缓存大小和上下文并发约束。本文给出保守启动示例，说明参数优先关系、共享GPU边界、失败回退与运行记录，不承诺固定节省比例。476 收藏 -
科技周边 · 人工智能 | 2星期前 | 人工智能 · 深度学习 · 内存优化 · 内存 PyTorch 按需加载 mmap checkpoint torch.load map_location state_dict
torch.load 的 mmap=True 建立的是检查点文件映射，不是把全部参数立即复制进物理内存。本文结合首次访问、CPU 映射和 to(device) 迁移，解释虚拟地址、驻留页与设备副本的区别，并给出大检查点的加载取舍。475 收藏 -
TGI 的输入长度不能只看 max_input_tokens。本文拆开 max_input_tokens、max_total_tokens、max_new_tokens 与模型上下文上限，给出配置示例、取舍和上线前检查方法。474 收藏 -
用 GitHub Actions 的 artifact attestations 为构建产物建立来源证明，再用 GitHub CLI 按仓库、签名工作流和来源提交核对；同时说明离线 bundle、trusted root 与 runner 环境的边界。474 收藏 -
Visual Studio Copilot 的九月更新把 Pull Request 探索、BYOM 模型接入和 NuGet 漏洞修复带进更完整的 IDE 工作流。本文按真实采用顺序拆解入口、依赖与迁移风险。474 收藏 -
Kubernetes Job 失败后，容器重启、Pod 重建和 Job 终态并不是同一件事。本文用 backoffLimit、activeDeadlineSeconds 与 podFailurePolicy 设计可控重试，并给出发布前检查方法。472 收藏 -
开源项目毕业是重要的外部成熟度信号，但不是企业上线批准。本文给出双重证据门模式和六维清单，帮助团队评估业务适配、运行可靠性、安全供应链、升级退出与风险归属。471 收藏 -
科技周边 · 人工智能 | 3星期前 | python · 人工智能 · shuffle Hugging Face Datasets streaming IterableDataset buffer_size
Hugging Face Datasets 的 streaming 模式可用 IterableDataset.shuffle 在有限缓冲区内随机采样，无需下载完整数据集。本文说明 buffer_size、seed、set_epoch、分片顺序以及 take/skip 的调用边界。470 收藏 -
AI 流式断线恢复需区分连接重建、原任务事件重放与重新生成。本文说明 EventSource 和 fetch 的差异，给出任务标识、事件游标、去重、保留窗口与完成状态的设计方法。470 收藏 -
Hugging Face pipelines 的 batch_size 适合在可批处理的数据集推理中逐步调节。本文说明参数放在哪里、GPU 与 CPU 的边界、sequence_length 对显存的影响，以及如何记录吞吐、延迟和 OOM 风险。469 收藏 -
Hugging Face Datasets 的 Dataset.unique 和 DatasetDict.unique 可以直接列出字段的不同取值。本文用最小示例说明字段检查、split 结果、返回顺序以及高基数字段的内存边界。469 收藏