研究了在多智能体环境中，为包括基于规则的代理在内的回报学习问题。提出了一种通过训练对抗智能体来有效地发现失败场景的方法，并通过简单环境和自动驾驶模拟器展示了该方法的有效性。

Mar, 2019

通过概率信任模型评估自动驾驶规划程序的鲁棒性，力求帮助研究人员评估机器学习规划器对抗攻击的保护措施。提议评估过程基于敌对性评估，即难度估计对手决定有效诱导不安全行为的条件，展示了该方法在基于基于摄像头的物体检测器的规划保护中的应用。

May, 2022

本文提出的自适应评估框架可以通过深度强化学习生成对自动驾驶车辆具有挑战性的敌对环境，应用了集合模型来表示不同本地最优解以及非参数贝叶斯方法来对敌对策略进行聚类，验证表明所生成的敌对环境可以明显降低被测试车辆的性能，通过此方法可以推断所测试车辆的缺陷。

Apr, 2020

本文提出了一种风险规避的强化学习算法，通过引入风险规避主角和风险趋避对手的方式，使用价值函数方差来建模风险，避免极端不良事件的发生，该算法在自动驾驶控制器上的实验中证明具有较高的鲁棒性。

Mar, 2019

该研究比较了 Robust Adversarial Reinforcement Learning 和 Neural Fictitious Self Play 算法在自动驾驶场景下的性能表现，将学习问题定义为自主系统与环境干扰之间的两人博弈，扩展为半竞争的情况，结果表明对手更好地捕捉了有意义的干扰，从而产生了更好的驾驶效率和减少了与传统强化学习方法相比的碰撞率。

Mar, 2019

通过对抗训练，可以增加高风险环境下 AI 安全性，本文以安全语言生成任务为测试，使用一系列对抗训练技术来寻找并消除分类器中的错误，提高输出的鲁棒性和可靠性。

May, 2022

本文提出了一种基于概率方法的安全性评估模拟方法，能够快速地对危险事件进行探测和评估，并证明了方法在统计和计算效率方面的优越性，最后在多种场景下进行了测试，证明了该方法对于开发和测试安全关键自主系统的敏感性分析和模型比较的重要性。

Aug, 2020

提出了一种稳健性的敌对训练 (robust adversarial reinforcement learning, RARL) 方法，该方法将敌对训练与零和极小优化相结合，通过训练一个智能体，使其能够在真实系统上的杂乱因素和不确定性下操作，并在多种环境中进行了验证。

Mar, 2017

我们提出了一种贝叶斯方法，将元学习策略与多臂老虎机框架相结合，以加速自动系统的故障检测、减少模拟运行时间，并通过学习参数和准确模拟的分布来评估新场景中的学习速度。通过在先进的 3D 驾驶模拟器中应用 16 个保真设置来展示我们的方法，以评估基于自动化车辆事故前个体的各种场景，结果表明与仅依赖于高保真模拟器的传统方法相比，我们的方法加快了模拟速度，最多高出 18 倍。

Sep, 2023

本文研究了针对对抗性样本的最新的防御方法和评估对抗性鲁棒性的方法，提出了 “对抗风险” 作为实现模型鲁棒性的目标，并将常用的攻击和评估度量框架化为真正的对抗风险的可行替代目标，指出模型可能会优化该替代目标而不是对抗风险，发展了识别混淆模型和设计透明模型的工具和启发式方法，并通过重新调整梯度自由优化技术为对抗攻击来证明这在实践中是一个重大问题，这被用于将几个最近提出的防御的准确性降低到接近零。我们希望我们的公式和结果能够帮助研究者开发更强大的防御措施。

Feb, 2018