人工智能技术文章
-
模型路由不要只按模型名做分流。本文结合任务分类、质量与延迟约束、候选模型排序和失败回退，整理一套适合工程落地与审计的选择策略。104 收藏 -
MCP Elicitation 让服务器可以在工具调用过程中向用户请求缺失信息，但客户端必须处理接受、拒绝和取消三种结果。本文用一个日期范围查询示例，说明如何设计请求、校验结构化数据并安全收口。103 收藏 -
Embedding 已做 L2 归一化时，点积与余弦相似度在数学上等价，工程上通常优先点积以避免重复归一化；若输入状态不确定或链路混用，则应显式使用余弦并先统一预处理。103 收藏 -
接入多个大模型后，真正难处理的不是把请求转发出去，而是主模型超时、限流或返回异常时如何在有限时间内切换备用模型。本文用一个可落地的网关流程说明超时预算、降级条件和结果标记应该怎样设计。102 收藏 -
多模态模型返回的 JSON 即使能解析，也可能缺字段、类型漂移或混入不该出现的值。本文用一条可复现的处理链说明如何先解析、再校验、按错误类型决定修复或重试，并划清模型约束与业务校验的边界。102 收藏 -
把模型客户端请求包在一个覆盖完整响应生命周期的 OpenTelemetry GenAI span 中，trace 会自动记录这次调用的持续时间；再用稳定语义属性和 histogram 做聚合延迟，注意流式响应、异常取消、敏感内容和重复埋点边界。101 收藏 -
Moderation 返回的不只是一个 flagged。本文用一个小型 Python 规则层，把 categories、category_scores 和 category_applied_input_types 组合为可维护的放行、拦截与人工复核判断。101 收藏 -
OpenAI API 的结构化输出不是只打开 JSON mode，而是把 JSON Schema 放进 Responses API 的 text.format 或 Chat Completions API 的 response_format，并配合 strict、required 与 additionalProperties false。本文用 Node.js 示例说明定义、读取和边界处理。101 收藏 -
拆解 FAISS Index Factory 字符串的组合规则，用 Flat、IVF、PQ、SQ、PCA 和 OPQ 示例说明粗排、压缩、训练与 nprobe 参数应如何分工。100 收藏