AI安全
已收录文章：2篇
-
把供应商手册、网页或用户上传文件接入 RAG 后，风险不只在回答是否跑题：检索片段里的恶意指令可能诱导模型越过原本任务。防护的重点不是相信一条更强硬的角色提示，而是把资料来源标成不可信、把工具能力做成固定的结构化边界，并为高影响动作设置确认与可追溯记录。149 收藏
-
2026 年 5 月多篇研究把 AI Agent 工作流注入推到开发团队面前。本文梳理风险边界、攻击面、排查流程和团队治理清单，帮助把新闻信号转成可落地的安全动作。107 收藏