本文基于Perplexity运营大规模AI代理系统的实践经验,系统分析了前沿AI代理在保密性、完整性与可用性方面的新安全威胁,重点识别了工具调用、连接器、托管边界和多智能体协同中的攻击面,尤其关注间接提示注入、混淆副手行为及长周期工作流中的级联故障,并评估了输入/模型层防护、沙箱执行与确定性策略控制等分层防御机制…
机构:Perplexity
来源:arXiv 2603.12230 | AI4Papers 论文推荐平台