人工智能技术文章
-
OpenAI Responses API 迁移旧工具调用代码,需要调整工具声明、输出项解析与 call_id 结果回传。本文以只读查询示例解释响应链续接、严格参数和失败出口。260 收藏 -
从工具清单、Agents API 执行环境、工作区挂载、网络白名单和凭据代理五个边界说明如何把 Agent 工具限制在沙箱内,避免把 workspace 路径误当成完整隔离。321 收藏 -
用 Responses API 的 usage 字段判断 prompt caching 是否命中,并通过稳定前缀、显式 breakpoint 与诊断信息排查缓存边界。150 收藏 -
Gemini API 多轮对话不能只发送当前问题:新项目可保存 interaction_id 续接服务端状态,generateContent 则要维护并重新提交 contents 历史。263 收藏 -
Gemini embeddings 的对称与非对称任务不能混用。本文结合 gemini-embedding-2 的文本任务前缀和 gemini-embedding-001 的 TaskType,说明搜索、语义相似度与向量索引迁移时如何保持查询和文档角色一致。378 收藏 -
以 generateContent 非流式 REST 响应为范围,区分 functionCall、text 和 finishReason,给出只分类不执行的 Python 示例,并解释工具结果回传、原始内容保留和最终回答边界。290 收藏 -
科技周边 · 人工智能 | 1星期前 | JSON · API · python · 人工智能 · 结构化输出 · 结构化输出 JSON Schema Gemini API response_schema response_mime_type additionalProperties
Gemini API 结构化输出要限制 JSON 字段,应把 response_mime_type 与 response_schema 一起配置,用 properties、required、enum 和额外字段策略约束形状,再在客户端校验业务语义。145 收藏 -
AI 网关应先按输入模态、工具、结构约束及业务允许范围过滤候选,再比较延迟和成本。本文说明端点能力登记、路由策略与故障回退边界,避免降级时丢失原请求语义。467 收藏 -
AI 模型评测实验集不能只把训练数据随机切一份。本文从样本契约、JSONL/Parquet 存储、validation 与 test 隔离、指标选择和版本记录五个方面,说明如何把评测边界固定下来,并用 Hugging Face Datasets 与 Evaluate 读取和计算结果。485 收藏 -
从稳定前缀、动态后缀、完整块、路由条件和租户隔离入手,说明 AI Prompt 前缀缓存怎样处理,以及为什么看起来相似的请求仍可能未命中。429 收藏 -
向量检索里的 top-k 不是越大越好,也不是相似度阈值。本文从接口契约出发,说明如何区分 top_k、候选过取、分数阈值、过滤和去重,并给出适合小数据集与大规模索引的参数设计。214 收藏 -
AI 流式断线恢复需区分连接重建、原任务事件重放与重新生成。本文说明 EventSource 和 fetch 的差异,给出任务标识、事件游标、去重、保留窗口与完成状态的设计方法。470 收藏 -
RAG 元数据过滤要先定义字段和权限边界,再把条件放进向量检索请求。本文用 Qdrant 风格示例说明字段类型、过滤组合、索引和空结果排查。223 收藏 -
科技周边 · 人工智能 | 2星期前 | python · 人工智能 · 结构化输出 · AI Hugging Face 结构化输出 JSON Schema TGI Inference Providers grammar response_format
AI JSON Schema 约束输出时,应把 Schema 作为 response_format 或 TGI grammar 的协议参数,并按解析、业务校验和下游处理的生命周期区分格式正确与答案正确。339 收藏 -
给 AI 应用的入口、模型调用和工具调用补上可关联的 OpenTelemetry trace,说明 span 边界、GenAI 语义属性、错误记录和敏感内容控制,帮助判断问题究竟慢在哪一层。219 收藏