高斯过程在分类中的对抗性鲁棒性保证

May, 2019

高斯过程在分类中的对抗性鲁棒性保证

Adversarial Robustness Guarantees for Classification with Gaussian Processes

Arno Blaas, Andrea Patane, Luca Laurenti, Luca Cardelli, Marta Kwiatkowska...

TL;DR本文研究了高斯过程分类模型的对抗鲁棒性，提出了一种计算 GPC 在输入空间中最小和最大分类概率的算法，并应用于 2D 合成数据集、SPAM 数据集和 MNIST 数据集的验证，表明我们的方法可用于 GPC 的可解释性分析和提高模型鲁棒性。

Abstract

We investigate adversarial robustness of gaussian process classification (GPC) models. Given a compact subset of the input space $T\subseteq \mathbb{R}^d$ enclosing a test point $x^*$ and a GPC trained on a datas

adversarial robustness gaussian process classification lower- and upper-bounding functions branch and bound optimisation interpretability analysis

发现论文，激发创造

高斯过程贝叶斯推断的鲁棒性保证

本文探讨了对于 Bayesian 推断模型的输入扰动的鲁棒性估计问题，通过使用高斯过程理论并提出算法计算当前模型在输入空间中的紧密强度，并应用于两个例子中：一个 GP 回归问题和一个全连接深度神经网络来研究 MNIST 数据集上的对抗性例子。

Sep, 2018

高斯过程在对抗鲁棒优化中的应用

考虑高斯过程优化问题，在最大化函数时增加健壮性，提出基于置信界限的 StableOpt 算法，该算法在真实数据集上的实验表明可以成功找到稳定的极大值点。

Oct, 2018

高斯过程分类的对抗性漏洞边界

本文提出了一种防止黑客攻击，保护机器学习分类器免受对抗性样本的影响的方法，通过一个对抗边界来限制潜在的对抗攻击产生误分类的能力并测试了其效果。

Sep, 2019

对于随机平滑分类器的严格对抗鲁棒性证明

采用输入随机化生成的分类器的集合可以具有很强的鲁棒性，该方法可扩展到更广泛的分布，特别是在离散情况下保证敌对的鲁棒性，并给出了相应的算法，此外，该研究有助于通过假设分类器的函数类来提高保证，并且具有图像和分子数据集上的实际应用。

Jun, 2019

通过最小化 PAC-Bayesian 广义化界限来学习高斯过程

该研究提出了一种使用 PAC-Bayesian 边界来直接优化 GPs 及其稀疏逼近的方法，相比于最大化边缘似然的常规方法，该方法具有更好的稳健性和泛化性能，并在多个回归基准数据集上获得了显着的泛化保证。

Oct, 2018

利用高斯过程进行鲁棒的超级水平集估计

该论文集中讨论了通过高概率确定函数超过给定阈值的尽可能大的区域的问题，提出了一种使用鲁棒性方差项的高斯过程来预测函数上阈值区域的体积，并给出了算法的探索效果的渐近保证，同时还通过各种数值实例表明我们的方法在实践中也优于现有技术。

Nov, 2018

对抗鲁棒高斯分类具有尖锐的统计保证

本篇论文提出的高斯混合模型广义对抗信噪比概念下，对于对抗鲁棒分类的超额风险给出了最优极小 / 极大保证，并且建立了达到最优风险下界的计算有效估计量。

Jun, 2020

高斯过程模型可扩展的交叉验证损失

通过交叉验证和最近邻截断，我们引入了一种简单可扩展的高斯过程模型训练方法，并采用泊松伽玛辅助变量和变分推断来适应二元和多元分类，通过与其他方法的比较，我们发现我们的方法提供了快速训练和出色的预测性能，这可以归因于预测分布的非参数性质和交叉验证损失对模型错误说明的鲁棒性。

May, 2021

AutoGP: 探索高斯过程模型的能力和限制

该论文研究了高斯过程模型的能力和局限性，提出了一种具有可扩展性和统计效率的推理方法，探索了灵活的内核和用于学习超参数的客观函数。通过实验结果表明，这种方法在标准 MNIST 数据集上的性能优于所有之前报告的 GP 方法，并在 MNIST8M 数据集上突破了 1％的误差率，同时展示了它在分类问题中的可扩展性。总的来说，该方法在内核方法和 GP 模型方面取得了重大突破，缩小了深度学习方法和内核机器之间的差距。

Oct, 2016

高斯过程赌博机的对抗攻击

本文从攻击者的角度研究了在高代价和潜在噪音条件下使用 Gaussian processes 进行优化的问题，并提出了不同假设攻击者强度和先前信息的不同对策，通过对函数 $f$ 进行干扰而导致算法朝着目标区域移动。作者设计了白盒和黑盒攻击方法，并展示了这些攻击在低攻击预算下能够成功地将算法强制推向目标区域，并在各种客观函数上测试了攻击的有效性。

Oct, 2021