-
Hugging Face Tokenizers 的 normalizers.Sequence 会按列表顺序串联多个规范化规则。本文用 NFD、Lowercase 和 StripAccents 组成可读的处理链,说明如何先观察 normalize_str 的结果,再挂到 Tokenizer,并梳理顺序、空链和训练一致性的边界。
-
AI 工具调用中,JSON Schema 只负责参数形状与类型,业务校验还要判断权限、资源状态、幂等键和执行前置条件。本文用运行手册的方式拆分两层校验、错误分类、回滚与复盘字段。
-
模型路由不要只按模型名做分流。本文结合任务分类、质量与延迟约束、候选模型排序和失败回退,整理一套适合工程落地与审计的选择策略。
-
把模型客户端请求包在一个覆盖完整响应生命周期的 OpenTelemetry GenAI span 中,trace 会自动记录这次调用的持续时间;再用稳定语义属性和 histogram 做聚合延迟,注意流式响应、异常取消、敏感内容和重复埋点边界。
-
Moderation 返回的不只是一个 flagged。本文用一个小型 Python 规则层,把 categories、category_scores 和 category_applied_input_types 组合为可维护的放行、拦截与人工复核判断。
-
OpenAI API 的结构化输出不是只打开 JSON mode,而是把 JSON Schema 放进 Responses API 的 text.format 或 Chat Completions API 的 response_format,并配合 strict、required 与 additionalProperties false。本文用 Node.js 示例说明定义、读取和边界处理。