人工智能技术文章
-
用 JSONL 固定安全过滤回归样本的字段、动作和原因码，再按阶段定位误放行、误拦截与边界样本漂移。345 收藏 -
用 Hugging Face 风格的评估数据组织方式，拆解 RAG 引用支撑度的字段契约、覆盖检查、语义判定和分层排障方法。115 收藏 -
使用 Hugging Face TRL 做 LoRA 微调时，先把 instruction、input、output 等业务字段统一为 text、messages 或 prompt/completion，再分别排查聊天模板、损失目标和 target_modules 配置。171 收藏 -
科技周边 · 人工智能 | 1星期前 | 人工智能 · 性能排查 · 提示词工程 · 提示词缓存动态字段 DynamicCache KV缓存 Transformers缓存 past_key_values use_cache StaticCache
本文以 Hugging Face Transformers 的 DynamicCache 为例，说明提示词缓存动态字段的配置边界，覆盖 use_cache、past_key_values、迭代对话、窗口上限、回滚、显存排查以及切换 StaticCache 的判断方法。397 收藏 -
量化校准数据不是随便凑一批样本。本文对比不同量化路径的校准要求，给出样本配置清单、输入契约检查法和精度回归排查步骤。276 收藏 -
批量推理输入长度差异大时，固定 batch 会产生大量 padding。本文用 Hugging Face Transformers、PyTorch DataLoader 和 token 长度分桶说明配置方式，并给出显存、吞吐和结果顺序的排查清单。221 收藏 -
视觉表格识别前，先统一 xyxy 坐标、比例扩边和边界裁剪，再交给 Hugging Face image processor 做 resize、归一化等预处理。本文给出可复用代码和排查清单。387 收藏 -
以 Hugging Face 风格工具调用为例，说明 JSON Schema、tool_calls 参数形状与 Pydantic/业务规则校验的排查方法。264 收藏 -
以 Hugging Face InferenceClient 为例，拆解结构化输出失败的三层原因，用最小 JSON Schema 和检查清单快速定位配置、模型兼容性与解析问题。447 收藏 -
围绕真实初筛候选集配置 reranker 评估，说明 positive、negative、documents、candidate_k、rerank_k 的边界，并用 MRR@10、nDCG@10、MAP 对比基线与重排结果，定位召回、截断和分数解释问题。388 收藏 -
embedding 归一化不是简单打开一个开关：先统一 query 与 document 的向量契约，再检查池化、attention_mask 和相似度度量。本文给出两种配置方式和一套可复用的排查清单。147 收藏 -
从文档结构、token预算、重叠窗口和稳定元数据四个方面，说明RAG切块与引用定位的配置方法、排查顺序和常见误区。404 收藏 -
RAG 检索结果重复时，先按 source_id 做同来源去重，再保留 chunk_id、最高分和冲突标记形成证据组，避免重复上下文和来源误合并。484 收藏 -
AI 生成代码最容易失控的地方不是语法，而是修改范围。本文用单元测试、修改预算和 git diff 双重门禁，拆解如何让一次生成式改动保持可验收、可回退。366 收藏 -
OpenAI 提示词模板的变量主要负责替换输入，默认值、类型和必填校验应放在应用侧包装函数中。本文用 TypeScript 建立一层可复用契约。296 收藏