人工智能技术文章
-
RAG 切片的 overlap 应结合统一计量单位、跨边界证据与重复上下文成本决定。本文用保留原文偏移的字符窗口示例解释边界覆盖，并区分目标重叠、实际切片和检索命中，避免套用通用最佳比例。278 收藏 -
Hugging Face Datasets 读取 JSON 的关键是先判断根结构：JSONL 通常直接加载，嵌套数组要用 field 指向数据字段；多个文件则用 data_files 映射到 train、validation 等 split。本文给出最小写法、字段推断观察方式和常见排错边界。266 收藏 -
科技周边 · 人工智能 | 2天前 | 人工智能 · 深度学习 · Keras RaggedTensor keras.Input ragged=True TensorFlow backend 模型保存 load_model 变长序列
Keras RaggedTensor 输入要把 TensorFlow backend、Input(ragged=True) 和调用时的 RaggedTensor 视为同一个契约。本文用一个最小变长序列模型演示如何保存为 .keras 并重新加载，解释动态长度、保存结构和多后端边界。250 收藏 -
Hugging Face Datasets 的列定义没有因为 with_format 或 set_format 自动改变；真正变化的是 __getitem__ 的读取视图。本文拆解两者的返回新对象与原地修改差异，并给出恢复默认格式和隔离训练视图的写法。228 收藏 -
LiteRT 转换遇到不支持算子时，不是看到报错就直接打开 Select TF Ops。本文从转换器错误边界、模型体积、目标平台运行时依赖和验收清单四个方面，说明什么时候启用、什么时候优先替换算子。226 收藏 -
围绕 Hugging Face Datasets 的 map(batched=True) 讲清返回列长度契约、remove_columns 的作用和最小诊断方法，帮助定位预处理函数中的扩行与错配问题。213 收藏 -
AI 工具调用不应把所有失败都重试。本文从参数校验、限流、超时、服务过载和业务拒绝五类场景出发，设计错误分类、指数退避、重试预算、幂等键与最终兜底。203 收藏 -
长文本超过模型输入上限时，用 Transformers tokenizer 的 stride 和 return_overflowing_tokens 生成带重叠的窗口，再通过 overflow_to_sample_mapping 与 offset_mapping 对齐原文。197 收藏 -
LiteRT 多输入模型接入时，不要把 tensor index 当成调用契约。本文从 signature key、输入输出名称和张量形状入手，演示如何读取签名、准备多个输入、执行 signature runner，并排查名称与并发边界。191 收藏 -
把 LLM 结构化输出拆成 JSON 解析、Schema 校验和业务规则三层，只对可定位的格式错误做有限修复，并用固定预算避免无限重试。187 收藏 -
训练翻译或摘要模型时，DataCollatorForSeq2Seq 的 label_pad_token_id 会决定补齐标签是否进入 loss。本文从 -100 的忽略语义、动态补齐和 decoder_input_ids 准备三条链路拆开排查。176 收藏 -
从文件职责、配置来源和参数命名区分LoRA适配器与基础模型，说明单适配器合并的适用范围、独立输出目录及回滚材料，避免把适配器误当完整模型交付。174 收藏 -
比较Transformers批次分词的动态补齐与固定长度补齐，说明截断上限、collator组批职责和部署形状约束，并给出可复制代码与实际观测指标。153 收藏 -
AI 评测分数异常偏高时，问题常不在指标本身，而在同源样本跨 split、预处理读到了测试集或公开基准已经进入训练语料。本文用来源分组、训练集拟合、冻结测试集和污染审计组成一套可落地的数据血缘方案。146 收藏 -
模型流的网络字节、SSE 帧和 UTF-8 字符不是同一条边界。本文用 Go 的 unicode/utf8 保存不完整尾部，说明如何在增量渲染中避免半个字符变成乱码，并划清 SDK 文本事件与原始字节适配层的职责。140 收藏