本文基于Perplexity运营大规模AI代理系统的实践经验,系统分析了前沿AI代理在保密性、完整性与可用性方面的新安全威胁,重点识别了工具调用、连接器、托管边界和多智能体协同中的攻击面,尤其关注间接提示注入、混淆副手行为及长周期工作流中的级联故障,并评估了输入/模型层防护、沙箱执行与确定性策略控制等分层防御机制…
机构:Perplexity
来源:arXiv 2603.12230 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程