Apr, 2023

GREAT Score：使用生成模型对对抗扰动的全局鲁棒性进行评估

PDF
TL;DR本文提出了一个称为 GREAT Score 的新框架，用于利用生成模型对对抗扰动进行全球鲁棒性评估。该方法具有高效性、可扩展性、适用于隐私敏感的黑盒模型等多个优点。
adversarial robustnessgreat scoregenerative modelsglobal statisticsample complexity
发现论文，激发创造
  • 通过基于分数的对抗图像生成评估鲁棒性

    此研究介绍了基于评分的对抗生成（ScoreAG）框架，利用评分模型生成超越 $p$ 范数约束的对抗样本，既能保持图像的核心语义，又能生成逼真的对抗样本，进一步提高分类器的鲁棒性。通过广泛的实证评估，ScoreAG 在多个基准测试上与当前最先进的攻击和防御方法表现相当，强调了对抗样本在语义边界上的研究的重要性。

    Oct, 2023

  • 精准、可靠、快速的鲁棒性评估

    在神经网络的研究中，我们开发了一种新的梯度基础的对抗攻击方法，相较于已有的攻击方法，它更可靠，可以适应广泛的对抗标准，并且在提高效率的同时，不需要进行超参数调整，这将对神经网络的鲁棒性评估做出有益的贡献。

    Jul, 2019

  • 为深度神经网络认证全局稳健性

    通过利用 PAC 验证框架和统计方法，本研究提出了一种对深度神经网络进行全局鲁棒性评估和验证的高效方法，该方法在评估全局鲁棒性的同时能够有效地找出稀有和多样化的对抗训练的反例。

    May, 2024

  • 对抗多样性与艰难正样例生成

    我们提出了一种新的心理测量感知对抗性相似性评分（PASS）方法，用于量化对抗性图像，并引入了艰难正例生成的概念，使用广泛的对抗扰动 - 而不仅仅是最接近的对抗扰动 - 进行数据增强。我们介绍了一种新颖的热 / 冷方法来生成对抗性例子，为每个单独的图像提供多个可能的对抗扰动，这些扰动通常对应于语义上有意义的图像结构，并允许更大的灵活性来缩放扰动幅度，从而产生更多样化的对抗图像。最后，我们证明了在 MNIST 和 ImageNet 数据集上通过使用我们的方法训练的深度神经网络相对于现有方法的鲁棒性更强。

    May, 2016

  • 图形稳健性基准测试：基准测试图形机器学习的对抗稳健性

    本文介绍 Graph Robustness Benchmark (GRB) 以及如何利用其提供的标准化攻击和防御过程、统一评估协议、公共排行榜评估和数据处理来发展更为健壮的图机器学习模型。

    Nov, 2021

  • 通过基于分数的优化提高对抗鲁棒性

    我们引入了一个名为 ScoreOpt 的新的对抗防御方案，通过在测试时优化对抗样本，向原始清数据在得分优先的方向

    Jul, 2023

  • 生成对抗网络质量度量的鲁棒性研究

    本文评估了生成模型质量测量的强度，指出 Inception Score 和 Fréchet Inception Distance 可被插入的噪点影响。作者还测试了最先进的 StyleGANv2 网络及其体系结构，并提供了一种增强版本的 FID 来减轻网络极度震荡的效果。

    Jan, 2022

  • 评估语义分割模型的对抗鲁棒性

    该研究提出了一种基于梯度的迭代攻击方法来评估在语义图像分割领域中防御对抗扰动的模型的鲁棒性，并发现只有使用对抗样本进行训练才能获得鲁棒性，并分析了鲁棒性和准确性之间的权衡。

    Jun, 2023

  • 面向现实世界的定制健壮性通用框架：基于群体的健壮性

    本文旨在通过定义一种补充现有度量方式的量化指标 —— 群体韧性，更好地评估模型在特定攻击情境下的表现并提出了两种损失函数、三种新的攻击策略，证明了该指标对于区分对特定威胁模型的脆弱性有更好的效果，并提出了一种防御方法，可以将群体韧性提高 3.52 倍。

    Jun, 2023

  • GAN 是否平等？ 大规模研究

    这篇论文通过对多个 GAN 算法的大规模实验研究得出，大多数模型在经过足够的超参数优化和随机重启后可以达到类似的分数，建议未来的 GAN 研究应该基于更系统和客观的评估程序，同时提出了一些可用于计算精度和召回率的数据集。

    Nov, 2017