人工智能技术文章
-
电脑操作型智能体上线前,应同时限制运行环境、代理身份、目标站点、可执行动作与数据流,并为外发、购买、删除、授权等高后果动作设置逐次人工确认。本文给出分层护栏、风险矩阵、审计回滚和最小验证清单。286 收藏 -
本地运行 GGUF 模型时,量化格式决定权重占用与精度取舍,上下文长度决定单次请求的提示词和生成空间。本文用一套可执行的判断顺序说明 Q4_K_M、Q5_K_M、Q8_0 与 --ctx-size 的配置方法。273 收藏 -
工具调用型智能体会因超时、重试、工作流回放和多副本竞争重复触发有副作用的动作。本文给出稳定动作键、参数指纹、动作账本、租约、结果复用与外部幂等键的完整设计,并说明未知结果、补偿和监控边界。262 收藏 -
长文档问答不能只返回文件名。本文给出文档版本、章节锚点、内容块、引用卡片和答案断言的完整映射方法,并补充覆盖率、锚点解析、版本一致性、低证据拒答与回滚检查。257 收藏 -
科技周边 · 人工智能 | 6天前 | JSON · python · 人工智能 · 工程实践 · 结构化输出 · Pydantic JSON Schema AI 结构化输出 模型重试 兜底解析 大模型工程
模型稳定输出 JSON 不能只靠提示词。本文用 JSON Schema、Pydantic 校验、分类重试与受控兜底解析,搭建一条可观测的结构化输出链路。250 收藏 -
科技周边 · 人工智能 | 19小时前 | 人工智能 · 深度学习 · Keras RaggedTensor keras.Input ragged=True TensorFlow backend 模型保存 load_model 变长序列
Keras RaggedTensor 输入要把 TensorFlow backend、Input(ragged=True) 和调用时的 RaggedTensor 视为同一个契约。本文用一个最小变长序列模型演示如何保存为 .keras 并重新加载,解释动态长度、保存结构和多后端边界。250 收藏 -
多模态模型读图前,缩放与裁切会改变细节、图块、token和坐标关系。本文用任务分类、等比缩放、裁切偏移与对照实验说明如何在识别效果和成本之间取舍。247 收藏 -
智能体失败不一定是模型能力不足。本文用轨迹中的工具参数、工具响应、环境状态和模型后续决策建立证据分层,给出工具错误、模型错误与混合错误的判定规则、Python 记录结构和回归清单。239 收藏 -
智能体工具重试的关键不是固定重放,而是先分类失败,再用共享预算、幂等键、退避、熔断和审计日志控制风险。本文给出三种策略对比与可运行的 Python 控制器。236 收藏 -
模型路由不应只选模型,还要分别控制推理强度与硬上限。本文给出四档难度信号、升级条件、Go 路由示例和最小回归指标,帮助团队兼顾质量、延迟与成本。232 收藏 -
Hugging Face Datasets 的列定义没有因为 with_format 或 set_format 自动改变;真正变化的是 __getitem__ 的读取视图。本文拆解两者的返回新对象与原地修改差异,并给出恢复默认格式和隔离训练视图的写法。228 收藏 -
LiteRT 转换遇到不支持算子时,不是看到报错就直接打开 Select TF Ops。本文从转换器错误边界、模型体积、目标平台运行时依赖和验收清单四个方面,说明什么时候启用、什么时候优先替换算子。226 收藏 -
用固定节点、根递归引用和输出预算约束结构化输出中的树状字段,并区分正常结果、拒答与截断响应。215 收藏 -
围绕 Hugging Face Datasets 的 map(batched=True) 讲清返回列长度契约、remove_columns 的作用和最小诊断方法,帮助定位预处理函数中的扩行与错配问题。213 收藏 -
vLLM 连续批处理并不是并发越高越快。本文从模型权重、KV Cache、序列数和批次 token 预算出发,给出显存与吞吐的调参顺序、压测方法和生产降级路径。209 收藏