Jan, 2022

对好事者的对抗样本：对抗样本引导下的不平衡学习

PDF
TL;DR本文研究了对抗样本在不平衡学习中的应用，在训练中引入 Guiding Adversarial Examples (GAEs) 方法，通过调整有偏的决策边界，将该方法应用在少数派类别样本的分类任务中，证明其能有效提高少数派类别样本的准确率，而对大多数派样本的准确率影响较小，该方法可与现有最先进方法媲美。据我们所知，我们是第一个应用对抗样本处理不平衡学习问题的研究。
adversarial examplesimbalanced learningbiased decision boundaryguiding adversarial examplesminority classes
发现论文，激发创造
  • 现代机器学习中的对抗样本：一次回顾

    本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

    Nov, 2019

  • 物理世界中的对抗样本

    本文研究表明即使在物理世界的情境下，机器学习系统仍然容易受到敌对样本的攻击，并通过将手机摄像头获取的对抗性图像输入 ImageNet Inception 分类器，并测量系统的分类精度来证明了这一点。

    Jul, 2016

  • 对抗样本 - 现象的完整特征描述

    本研究提供了对毒瘤样本现象的完整刻画，目的在于涵盖研究领域的所有重要方面：（1）毒瘤样本存在的假设，（2）对安全性、可靠性和稳健性的影响，（3）生成和保护对抗样本的方法，（4）毒瘤样本在不同机器学习模型之间的转移能力。（5）本文提供充足的背景信息，可作为调查、教程或使用毒瘤样本进行攻击和防御的目录。

    Oct, 2018

  • 朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

    研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

    Jul, 2020

  • 规模化对抗机器学习

    将对抗训练应用于 ImageNet，并提出了如何将对抗训练成功扩展到大型模型和数据集的建议，发现对抗训练能增加对单步攻击方法的鲁棒性，单步攻击方法比多步攻击方法更难以传递，使其成为发动黑盒攻击的最佳选择。研究还揭示了 “标签泄漏” 效应，因为对抗样本构建过程使用真实标签，模型可以学习利用构建过程的规律，使经过对抗训练的模型在对抗示例上表现比正常示例更好。

    Nov, 2016

  • 良性对抗攻击：欺骗模型以取得好结果

    本文提出了利用对抗样本的善意攻击来探索攻击的本质并尝试解决机器学习中的对抗性问题。我们将对抗样本归因于模型和人类之间在使用非语义特征方面的差异，并针对此特性提出了三个方向的创新性应用：对抗图灵测试、拒绝恶意模型应用和对抗数据增强。

    Jul, 2021

  • 对抗样本可作为无监督机器学习的有效数据增强

    本研究提出一种生成无监督模型的对抗性示例的框架，使用相互信息神经估计器作为无监督信息理论相似度测量，建议使用此框架将对抗性样本作为简单的插入数据增强工具进行模型再训练，以大幅提高在不同无监督任务和数据集上的性能。

    Mar, 2021

  • 生成自然对抗样本

    本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

    Oct, 2017

  • 对抗样本研究中的游戏规则动机

    本文介绍如何通过建立人们更真实可靠的威胁模型，从而更好地保护机器学习在实际应用中的安全性。

    Jul, 2018

  • 对抗样本是噪声下测试误差的自然结果

    该研究提供了实证和理论证据表明对抗鲁棒性和图像损坏鲁棒性研究项目之间存在紧密联系，从而建议未来的对抗性防御应该考虑评估它们的方法对分布转移的鲁棒性。

    Jan, 2019