人工智能技术文章
-
AI 输出过滤只负责内容风险,业务规则负责领域正确性。本文用三层状态和最小 Python 示例说明如何区分安全拒绝、结构重试、业务冲突与人工复核,避免把所有失败都记成一个 blocked。400 收藏 -
模型路由不应该只看一次调用的速度或单价。把延迟、成本、能力、健康状态和回退边界拆开,先用硬约束筛选,再按业务权重排序,才能让后端选择稳定可解释。314 收藏 -
RAG 评测不要只看最终答案分数。把检索上下文、模型回答和参考信息记录在同一条样本中,再分别使用 context precision、context recall、faithfulness 与答案正确性指标,才能判断问题来自召回排序还是生成阶段。419 收藏 -
多模态请求出错,常见原因不是图片不能上传,而是图片、说明文字和模型占位符失去对应关系。本文用 Hugging Face Transformers 的 content 列表说明如何建立稳定媒体引用、生成模型输入并在 Processor 前发现顺序错位。199 收藏 -
多租户模型服务复用上下文时,应把可信租户、主体、有效权限及资源版本纳入缓存描述,并保留命中授权与失效处理,避免仅凭相同问题共享私有材料。400 收藏 -
结构化输出遇到可选字段缺失时,不要简单把所有字段都改成必填。本文用 JSON Schema、解析后归一化和二次检查,区分缺失、null、空值与真正的结构错误。288 收藏 -
AI Agent 工具授权应拆分为动作、参数、资源、主体和任务有效期,并在可信后端执行默认拒绝。通过只读工单摘要示例,说明最小授权、逐次检查、拒绝处理与授权撤销的边界。484 收藏 -
从 trace、run、step 三层标识出发,设计 AI Agent 工具调用轨迹,保存输入输出与版本上下文,并用夹具和沙箱划清安全回放边界。444 收藏 -
时间敏感文档不能只靠向量相似度筛选。本文从过期内容仍被召回的故障切入,说明如何设计生效时间、失效时间和无期限状态,并在召回前加入有效期过滤。286 收藏 -
短文本 Embedding 的归一化要和相似度口径一起决定。本文从点积、余弦相似度和欧氏距离的差异出发,说明如何判断模型输出、统一查询与库内向量,并处理空输入与长度误判。229 收藏 -
RAG 分块不应让普通长文、代码和表格共用一套硬切规则。本文从召回偏移的常见症状出发,说明如何保留标题段落、函数符号、表头与行组边界,并用统一元数据和小样本查询复盘检索质量。443 收藏 -
RAG 应分开配置召回 top-k、重排考虑条数与最终 token 预算。本文给出按完整聊天模板试装片段的示例,说明输出预留、过长片段、重排降级与计数失败的处理方式。218 收藏 -
RAG 的 query rewrite 不是把问题改得更长,而是把实体、时间、范围等检索约束整理成稳定查询。本文用一个最小 Python 示例说明改写契约、召回接入和失败回退边界。416 收藏 -
直接下载 Hugging Face Hub 的 main 分支会让模型文件随仓库变化。本文用 huggingface_hub 与 hf CLI 解释 revision、标签和完整 commit hash 的区别,并给出固定单文件、整仓库快照与工程升级记录的实用写法。191 收藏 -
LLM 请求经过多个服务后,怎样把 trace_id、模型、状态、延迟和 token usage 归到同一次调用?本文用 Go 设计一个不记录提示词与密钥的观测链路,演示 span、context、统一 usage 结构和结构化日志的落地方式。296 收藏