人工智能技术文章
-
用 OpenTelemetry 的 trace、metric 和结构化日志记录 AI 应用的 token 用量与请求追踪信息，并比较日志、Collector 和厂商 SDK 的适用边界。323 收藏 -
Gemini API 的工具参数如果只有有限几个合法值，可以在 function declaration 的属性 Schema 中使用 enum 声明候选集合。本文从参数进入工具声明、模型返回调用到应用侧执行，说明 enum、required、description 和业务校验各自负责什么。322 收藏 -
科技周边 · 人工智能 | 2天前 | 内存优化 · PyTorch DataLoader IterableDataset num_workers prefetch_factor pin_memory persistent_workers
PyTorch DataLoader 的多进程内存主要受单批大小、num_workers 和 prefetch_factor 共同影响。本文用预取批次数估算主机侧占用，并比较低内存、平衡吞吐和高吞吐配置，同时说明 pin_memory、persistent_workers 与 IterableDataset 的边界。319 收藏 -
OpenAI API 提示词缓存需要稳定前缀与适用模型配置。通过显式缓存边界、读取和写入用量记录及完整请求组算例，判断重复输入是否真正降费，并区分旧模型参数。317 收藏 -
用一个完整的 MLflow Run 串起参数、手工指标、模型制品、注册模型版本和测试集评估结果：先固定实验与注册模型名，再用 registered_model_name 生成版本，最后通过 mlflow.models.evaluate 读取 accuracy、F1 等指标。313 收藏 -
vLLM prefix caching怎样复用共同前缀KV缓存：显式启用APC、稳定提示词结构，用冷暖对照观察首字延迟，并区分预填充优化与答案缓存。312 收藏 -
用 Hugging Face Tokenizers 添加领域词条后，如何保存并重新加载自定义词表？本文区分追加词条与重新训练词表，分别说明 save()、from_file() 与 save_pretrained() 的使用边界。311 收藏 -
librosa 的 onset_detect 默认返回帧编号，可用 frames_to_time 按 sr 和 hop_length 换算成秒，也可以直接设置 units="time"。本文说明参数一致性、n_fft 偏移和回溯检测的时间边界。306 收藏 -
Captum Saliency 的 abs 默认会把输入梯度取绝对值。本文用固定线性分类器对比 abs=True 与 abs=False，说明方向、幅度、target 和输入形状各自代表什么，以及如何避免把梯度误当成概率或因果结论。303 收藏 -
Optuna 的 MedianPruner 不会自动猜测训练进度，关键是让 objective 在每个可比较的步骤调用 report，再用 should_prune 响应剪枝判断。本文用一个单目标验证损失示例说明启动试验数、预热步骤、检查间隔和最小样本数如何配合。298 收藏 -
科技周边 · 人工智能 | 4天前 | 调试 · python · 人工智能 · start end span Spacy start_char end_char char_span 词元索引 字符偏移
用最小例子区分 spaCy Span 的词元索引与字符偏移，说明 start/end、start_char/end_char 和 char_span 对齐模式在字符串切片与实体标注中的不同用途。287 收藏 -
Captum IntegratedGradients 的 baseline 决定解释从哪里出发。本文按图像、表格、多输入和文本场景说明基线选择、参数对齐与 convergence delta 复盘方法。284 收藏 -
QLoRA 配置中，NF4 决定 4-bit 权重的数据类型，double quant 对量化常量再次量化，compute dtype 决定计算时使用的精度。本文用 BitsAndBytesConfig 给出一份适合 4-bit 训练的配置，并说明显存、训练和推理场景下的取舍。284 收藏 -
本文用 spaCy 的半开区间说明怎样从 Doc 中选择连续词元，构造带 label 的 Span，并把边界检查与 doc.spans、doc.ents 的承载选择放进一条稳定的处理链。283 收藏 -
说明scikit-learn LabelSpreading用整数-1标记未标注样本，提供保留原标签与来源掩码的示例，并区分transduction_、类别分布和应用合并视图的含义。283 收藏