WWWFeb, 2020

通过随机平滑证明社区检测对抗性结构扰动的鲁棒性

PDF
TL;DR本研究致力于解决社区检测中在可信核心结构遭受敌对攻击的问题，提出了第一个针对此情况的验证鲁棒性保证方法，并通过在多个真实世界图上的地面实验对方法进行了评估。
发现论文，激发创造
  • 图神经网络对抗性结构扰动的可靠鲁棒性认证

    本研究针对图形结构数据，基于随机平滑技术，开发出可证明鲁棒性的图神经网络，证明其对于节点和图分类具有结构扰动的认证鲁棒性保证，并在多个 GNN 和多个基准数据集上进行了实证评估。

    Aug, 2020

  • 网络中社群结构的稳健性

    本研究提出了一种方法来解决如何确定网络结构中的社区结构是否具有统计显著性的问题，即通过计算网络结构对微小扰动的鲁棒性来量化社区结构的显著性，同时利用该方法来评估各种真实和计算机生成的网络中社区结构的显著性。

    Sep, 2007

  • 基于结构的图分类稳健性证明

    本文介绍了一种基于随机平滑法的加性异向噪声分布的结构感知证书方法，此方法相对于传统的邻接矩阵的 $l_{0}$ 范围更加有效，并且能够在图的不同预定义结构之间产生鲁棒性证书，可用于保证图形分类器的鲁棒性

    Jun, 2023

  • 集体鲁棒认证的本地随机平滑

    本文提出了一种基于新型局部化随机平滑方法的更普遍的模型合集鲁棒性认证方法，并在图像分割和节点分类任务上得到更高的准确性和更强的认证。

    Oct, 2022

  • 图形扰动的可验证鲁棒性

    本文提出了一种针对图神经网络和标签 / 特征传播模型的验证可证（非）鲁棒性的方法，并通过 PageRank 和马尔可夫决策过程的相关性来计算证书。我们同时研究了一种鲁棒性训练程序，以增加可证明鲁棒性节点的数量，同时保持或提高了干净的预测准确性。

    Oct, 2019

  • 中心平缓化：针对具有结构化输出网络的认证健壮性

    本研究将证明对抗鲁棒性的研究扩展到具有更一般和结构化输出的问题，并将输出空间建模为度量空间，利用距离 / 相似函数等技术应用于图像分割，物体检测和生成模型等机器学习问题。本研究中的中心平滑程序使用随机平滑技术产生确保在输入的任何有界范数对抗扰动时，由距离度量测量的输出变化保持较小的模型。并应用于创建具有不同输出空间的可证明的强鲁棒模型，展示此方法可以产生有意义的证书，同时不会过度降低模型的性能。

    Feb, 2021

  • 基于机器学习的恶意软件检测器的认证对抗鲁棒性：(去) 随机平滑

    本研究提出了一种针对补丁攻击的可验证防御机制，通过将可执行文件划分为非重叠的块，并采用多数投票的方式计算最终预测结果，从而最小化注入内容的影响。此外，引入了预处理步骤，将部分和标头的大小固定为块大小的倍数，从而确保恶意内容仅存在于整数个块中，同时保证对内容插入攻击具有认证的鲁棒性保证。经过广泛的消融研究，结果表明我们的方法在强攻击下展现出无与伦比的鲁棒性，优于文献中基于随机平滑的防御方法。

    May, 2024

  • 随机平滑用于稳健性保证的扩展和限制

    通过随机平滑来证明分类器决策对于对抗性噪声不变，同时对噪声稳健性的保证受到多种因素的影响，例如平滑度量之间的差异和拟合威胁模型的选择。此外，该研究证明随着 p 的增加，随机平滑受到了维度诅咒的影响。

    Jun, 2020

  • 基于随机平滑的黑盒认证：一种基于函数优化的框架

    通过一种新的框架，使用非高斯噪声和更广泛类型的攻击来实现在深度学习中的认证鲁棒性，并且比之前的方法提供更好的认证结果和新的随机平滑方法的视角。

    Feb, 2020

  • 重新审视图机器学习的鲁棒性

    本文提出一种更加原则性的对抗图的定义，研究表明当前的 GNN 存在 “过于健壮” 的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

    May, 2023