使用贝叶斯优化验证控制器抵抗对抗性样本

Feb, 2018

使用贝叶斯优化验证控制器抵抗对抗性样本

Verifying Controllers Against Adversarial Examples with Bayesian Optimization

Shromona Ghosh, Felix Berkenkamp, Gireeja Ranade, Shaz Qadeer, Ashish Kapoor

TL;DR本文提出了一种基于贝叶斯优化和逻辑约束的主动测试框架，用于测试具有复杂安全规范的机器人行为。实验结果表明，该方法能够快速发现对抗性的案例。

Abstract

Recent successes in reinforcement learning have lead to the development of complex controllers for real-world robots. As these robots are deployed in safety-critical applications and interact with humans, it beco

reinforcement learning safety-critical applications active-testing framework bayesian optimization adversarial examples

发现论文，激发创造

具有安全约束的贝叶斯优化：机器人中的安全自动参数调整

该论文提出一种基于安全约束的 Bayesian 优化算法，通过高斯过程先验和上下文变量，在保证安全的前提下实现对机器人算法参数的快速优化。

Feb, 2016

安全贝叶斯优化的元学习先验

本文提出一种基于元学习的数据驱动方法，以从离线数据中元学习优化安全贝叶斯优化的先验知识，通过经验不确定度度量和前沿搜索算法选择符合安全限制的先验范围，加速了安全 BO 方法的收敛速度并保持了安全。

Oct, 2022

关于安全的安全贝叶斯优化

研究提出了一种基于安全保证的 SafeOpt 算法的改进，通过使用最新的高斯过程界限来保留所有的理论保证，并且引入了 Lipschitz-only Safe Bayesian Optimization 算法，它在没有 RKHS 边界假设的情况下保证了安全性，并且在多种函数类上表现出优于现有算法的性能，同时还提出了 Lipschitz-only GP-UCB 来扩展算法在高维问题上的适用性。

Mar, 2024

基于高斯过程的四旋翼安全控制优化

本文介绍一种为解决调参过程可能导致的安全失败问题而开发的安全优化算法 ——SafeOpt，该算法通过将性能度量建模为高斯过程并探索高于安全性能阈值的新控制器参数来自动优化控制器参数，以实现快速、自动和安全的控制器参数优化，实验数据表明该方法可以在不需要人工干预的情况下快速、自动、安全地优化控制器参数。

Sep, 2015

安全多任务贝叶斯优化

将健壮的高斯过程均匀误差边界扩展到多任务设置，通过后验超参数分布的马尔科夫链蒙特卡罗方法计算置信区间，应用贝叶斯优化来安全优化系统并结合模型的测量数据，仿真表明与其他最先进的安全贝叶斯优化方法相比，优化过程可以显著加速，取决于模型的准确性。

Dec, 2023

信息论安全贝叶斯优化

通过提出一种信息论安全探索准则，本研究结合贝叶斯优化采样函数，基于高斯过程推断直接识别最具信息价值的安全参数进行评估，从而实现连续领域的可行性约束优化。

Feb, 2024

黑盒系统的贝叶斯安全验证

本文提出了一种基于贝叶斯优化的安全验证算法，它通过迭代地适配概率代理模型来高效预测故障，并通过重要性采样来估计操作域内的故障概率。经实验表明，该算法在减少样本数和各种安全验证指标方面表现良好，并可用于补充机器学习组件的 FAA 认证过程。

May, 2023

阶段安全的高斯过程贝叶斯优化

本研究针对优化未知效用函数的绝对或偏好反馈时的安全性约束问题，提出了一种有效的安全贝叶斯优化算法 StageOpt，并通过理论和临床实验验证了 StageOpt 在扩展安全区域和最大化效用函数两个阶段上的高效性和效果优于现有方法的特点。

Jun, 2018

基于贝叶斯优化的目标驱动动态学习

通过基于贝叶斯优化的主动学习框架以及最优控制方案，采用特定任务方法，使用局部线性动态模型来设计给定任务的控制器，并通过对物理系统的实验来迭代地更新模型，最终在四旋翼实验台上进行仿真和实验，验证了该方法的有效性。

Mar, 2017

基于在线符合预测的正式安全保证的贝叶斯优化

本文提出了一种基于 Bayesian optimization 和在线 conformal prediction 的方法，称为 SAFE-BOCP，可以保证不会选择任何不安全的解决方案，同时具有高灵活性和实验验证。

Jun, 2023