人工智能技术文章
-
AI 流式输出遇到网络断开时,不能简单重试并把新片段直接拼到旧文本后面。本文从 SSE 事件序号入手,给出事件落盘、断点重放、重复片段去重和最终状态核对的最小实现。217 收藏 -
中文输入法候选词还没确认时,AI 聊天框把回车当成发送,会截断用户正在输入的句子。本文用 compositionstart、compositionend 和 InputEvent.isComposing 组合出稳定的回车发送规则,并补上移动端、粘贴和可访问性检查。217 收藏 -
用 Go 封装 Ollama 本地 API 健康检查:先确认服务版本,再核对模型清单,最后用短请求验证生成能力,并处理连接超时、模型未安装和常驻内存边界。216 收藏 -
Model Hardware Standard 把可编程设备的状态、操作和安全限制整理为代理可理解的驱动层。本文从 MHS 研究预览与官方站点出发,拆解接入前应保留的权限、确认和人工复核边界。216 收藏 -
AI 问答评测不稳定,通常不是模型分数本身的问题,而是提示、检索配置和数据集同时在变化。本文给出一套可重复的 RAG 评测拆分、数据字段和回归清单。215 收藏 -
工具调用参数校验失败时,不要直接重放可能产生副作用的工具。本文拆解 strict Schema、应用侧业务校验、tool_call_id 错误反馈、幂等键和有限重试的分工。215 收藏 -
科技周边 · 人工智能 | 1个月前 | 人工智能 · mcp · MCP Sampling sampling/createMessage MCP 2026-07-28 MRTR SEP-2577 大模型 API
MCP 2026-07-28 规范把 Roots、Sampling、Logging 标记为弃用,但旧接口至少保留过渡期。本文用 sampling/createMessage 的调用链说明变更原因,区分仍可运行与不宜新建的代码,并给出直连模型 API、工具参数和回归验收的迁移清单。213 收藏 -
大模型流式接口出现重复片段,通常不是模型把同一句话生成了两次,而是客户端把重试、重放或累计快照重复拼接。本文用可观测指标拆开增量事件、断线续传和去重边界。213 收藏 -
大模型接口返回 JSON 时,偶尔会带上 Markdown 代码围栏、解释文字或截断内容。本文从真实响应现场出发,给出 Go 解析、边界判断、重试与结构化响应约束的组合方案。213 收藏 -
重复把长文档或系统提示词发送给 Gemini API 时,可以用显式 Context Caching 保存公共上下文,再通过 cachedContents、TTL 和 usage.total_cached_tokens 验证缓存是否真的生效。209 收藏 -
关键词检索和向量检索各自找到了内容,合并后却出现重复段落、来源顺序混乱或引用丢失,问题往往出在结果融合阶段。本文用可运行的 Python 示例拆开去重、分组、来源优先级与引用回填,让多路 RAG 的合并结果可解释、可回归。208 收藏 -
科技周边 · 人工智能 | 2星期前 | 错误处理 · mcp · 工具调用 · AI工程 · MCP工具错误 isError structuredContent CallToolResult JSON-RPC错误
MCP 工具遇到业务失败时,应在正常工具结果中设置 isError,并把可行动信息放进 content;只有协议层故障才返回 JSON-RPC error。本文用 TypeScript 示例说明结构化错误的设计边界。208 收藏 -
RAG 检索结果很多却答不准时,先区分召回缺失、候选过杂和上下文丢失,再从语义切块、混合召回、元数据过滤、重排和固定评测集逐层改进。208 收藏 -
RAG 检索结果过多时,不要只调小 top_k。本文拆分候选去重、重排、上下文压缩与预算装箱,给出可落地的选择规则、Python 示例和四项排查指标。207 收藏 -
介绍 PyTorch ONNX 导出时如何用 dynamic_shapes 和 torch.export.Dim 声明动态批次、动态序列长度,并比较现代 dynamo 导出器与 legacy dynamic_axes 的选择边界。206 收藏