高斯过程贝叶斯推断的鲁棒性保证

Sep, 2018

高斯过程贝叶斯推断的鲁棒性保证

Robustness Guarantees for Bayesian Inference with Gaussian Processes

Luca Cardelli, Marta Kwiatkowska, Luca Laurenti, Andrea Patane

TL;DR本文探讨了对于 Bayesian 推断模型的输入扰动的鲁棒性估计问题，通过使用高斯过程理论并提出算法计算当前模型在输入空间中的紧密强度，并应用于两个例子中：一个 GP 回归问题和一个全连接深度神经网络来研究 MNIST 数据集上的对抗性例子。

Abstract

bayesian inference and gaussian processes are widely used in applications ranging from robotics and control to biological systems. Many of these applications are safety-critical and require a characterization of

bayesian inference gaussian processes robustness measure formal guarantees adversarial examples

发现论文，激发创造

高斯过程在分类中的对抗性鲁棒性保证

本文研究了高斯过程分类模型的对抗鲁棒性，提出了一种计算 GPC 在输入空间中最小和最大分类概率的算法，并应用于 2D 合成数据集、SPAM 数据集和 MNIST 数据集的验证，表明我们的方法可用于 GPC 的可解释性分析和提高模型鲁棒性。

May, 2019

贝叶斯神经网络的鲁棒性的统计保证

引入了一种基于概率鲁棒性的贝叶斯神经网络（BNNs）的测量方法，定义为在某个有界集合内是否存在另一个点，使得 BNN 的预测在这两个点之间有差异的概率，并且可以用于量化对抗样本的存在概率。通过基于概率模型的统计验证技术，开发了一个框架，可以估计具有统计保证的 BNN 的概率鲁棒性，并在 MNIST 和 GTSRB 数据集的图像分类任务上提供了实验对比。结果可以在对抗环境中量化 BNN 预测的不确定性。

Mar, 2019

基于贝叶斯方法的不确定输入高斯过程回归

该研究提出了一种使用贝叶斯方法将观测数据的不确定性与高斯过程回归相结合的方法，因此在科学应用中可以更好地估计不确定性，并获得更稳健的预测结果。

May, 2023

高斯过程在对抗鲁棒优化中的应用

考虑高斯过程优化问题，在最大化函数时增加健壮性，提出基于置信界限的 StableOpt 算法，该算法在真实数据集上的实验表明可以成功找到稳定的极大值点。

Oct, 2018

高斯过程分类的对抗性漏洞边界

本文提出了一种防止黑客攻击，保护机器学习分类器免受对抗性样本的影响的方法，通过一个对抗边界来限制潜在的对抗攻击产生误分类的能力并测试了其效果。

Sep, 2019

参数高斯过程回归器

提出了两种可扩展的高斯过程回归方法，通过应用变分推断和直接处理后验预测分布来改善模型预测不确定性。

Oct, 2019

具有深度卷积高斯过程的贝叶斯图像分类

本研究提出了一种翻译不敏感的卷积核，并将高斯过程重新制定为多输出高斯过程，以实现深度卷积高斯过程。实验证明，与使用 dropout 的贝叶斯深度学习方法相比，我们的全贝叶斯方法在不确定性和边际似然估计方面的性能有所提高。

Feb, 2019

高斯过程的鲁棒滤波和平滑

提出了一种基于高斯过程模型的非参数鲁棒贝叶斯滤波和平滑方法，用于非线性随机动态系统的系统识别和控制。在机器学习，机器人和控制领域，这种现代的 “系统识别” 方法比参数化函数表示更具鲁棒性。数值评估表明，所提出的方法在其他最先进的高斯滤波器和平滑器无法处理的情况下表现出鲁棒性。

Mar, 2012

高斯过程回归的一致误差界及其在安全控制中的应用

本文利用高斯过程分布和连续性论证推导出一种新的弱假设下的统一误差界，分析了概率 Lipschitz 常数的演变和 Gaussian Process 模型控制未知动态系统的安全条件，且采用模拟程序验证了此方法的有效性。

Jun, 2019

高斯过程的伪边缘贝叶斯推断

本文提出了一种基于伪边缘法的马尔可夫链蒙特卡罗通用策略，有效地解决了使用高斯过程先验的精确贝叶斯推理和模型参数不确定性导致的数据预测问题。此外，Monte Carlo 积分可用于预测中的所有模型参数，这在高斯过程的层次统计模型中具有重要意义，并与最先进的概率分类器进行了广泛的比较。

Oct, 2013