提出了一种基于分布鲁棒优化的概率验证框架,用于计算AI Agent策略违规概率的可靠上界,在标准基准测试中改善了安全与效用的权衡。
机构:DeepMind
来源:arXiv 2606.20510 | AI4Papers 论文推荐平台