人工智能技术文章
-
LiteRT int8 量化结果异常时，先检查代表性数据集是否复用了真实推理的预处理、shape、dtype 和数值分布。本文按输入契约拆解多输入签名、校准范围与样本覆盖的排查方法。348 收藏 -
OpenAI Responses API 保留多轮上下文有两条常用路径：用 conversation 保存可跨会话复用的状态，或用 previous_response_id 串联相邻响应。本文用最小 Node.js 示例说明两种写法、指令重发、token 计费和上下文窗口边界。348 收藏 -
模型服务出现限流、超时或参数错误时，AI 网关不能把所有失败都交给重试。本文从统一请求契约出发，拆分可降级、可重试和必须直返的错误，并用幂等键保护跨模型切换后的结果一致性。347 收藏 -
科技周边 · 人工智能 | 2个月前 | 人工智能 · gemini · 结构化输出 · 接口测试 · 结构化输出 JSON Schema Gemini 3 Function Calling 工具调用验收
Gemini 3 的工具调用和结构化输出解决的是两个不同阶段的问题：前者负责取得外部结果，后者约束最终回答。本文用订单查询场景拆开两段协议，给出 schema、工具结果、拒答和失败分支的验收方法。346 收藏 -
RAG 多版本文档不要只靠向量相似度区分新旧内容。本文用版本元数据、检索前过滤、索引和压测指标，给出一套可落地的候选过滤方案。346 收藏 -
模型返回枚举值错误时，先区分 schema 不匹配、拒答和输出不完整，再用 JSON Schema 的 enum 约束允许值，并保存脱敏原始响应。本文给出结构化输出的约束、解析、重试和监控做法。345 收藏 -
用 JSONL 固定安全过滤回归样本的字段、动作和原因码，再按阶段定位误放行、误拦截与边界样本漂移。345 收藏 -
Hugging Face Datasets 在 filter、select 或 shuffle 后可能通过索引映射访问原始数据。本文说明 flatten_indices 如何把这些逻辑行重新写成连续数据，并给出缓存路径、写入批次、内存和并行参数的选择方法。344 收藏 -
从任务拆解、难度信号、试测校准和分层抽样四个环节构建 LLM 评测集，让总分之外还能看清模型在哪个能力层级上变化。343 收藏 -
自定义 Keras train_step 时，正则损失可能被遗漏。本文说明如何在前向传播后读取 self.losses，与任务损失合并为 total_loss，并让梯度、fit 指标和 sample_weight 处理保持一致。343 收藏 -
MCP elicitation/create 允许服务器在工具调用过程中向用户请求结构化补充信息。本文用一个配置向导场景拆解能力声明、JSON Schema、accept/decline/cancel 响应，以及为什么 API 密钥和支付信息不能放进表单模式。340 收藏 -
科技周边 · 人工智能 | 1星期前 | python · 人工智能 · 结构化输出 · AI Hugging Face 结构化输出 JSON Schema TGI Inference Providers grammar response_format
AI JSON Schema 约束输出时，应把 Schema 作为 response_format 或 TGI grammar 的协议参数，并按解析、业务校验和下游处理的生命周期区分格式正确与答案正确。339 收藏 -
AI 流式输出最难防的不是一句脏话，而是外部内容诱导模型越权调用工具。本文用一个可落地的请求链说明权限隔离、增量输出过滤、审计字段和失败回收如何配合。338 收藏 -
Diffusers直接放入GPU通常速度更快但显存峰值更高，CPU卸载能降低常驻显存却增加设备搬运。本文对比两种方式及model级、sequential级卸载的选择边界。338 收藏 -
Hugging Face Datasets 的 streaming 模式会返回 IterableDataset，按迭代按需读取远程或本地分片。本文给出变换、缓冲区打乱、多 worker、训练轮次和检查点恢复的生产写法。337 收藏