Jul, 2023

NSA: 自然支持工件提升网络可信度

PDF
TL;DR我们提出了自然支持工件（NSA）的概念，这些工件通过使用 DC-GAN 进行工件培训生成，具有高视觉保真度，在场景中增加这些工件有助于提高预测置信度。我们在 Imagenette 数据集上进行了对自然污染的测试，并观察到预测置信度得分提高了四倍。我们还展示了 NSA 提高 8％的对抗准确率的能力。最后，我们利用显著性图 qualitatively 分析了 NSA，以了解它们如何帮助提高预测置信度。
发现论文，激发创造
  • 自监督异常检测和定位的自然合成异常

    通过自监督学习中的一种简单而直观的任务 ——Natural Synthetic Anomalies (NSA)，本文利用正常训练数据培训端到端模型进行异常检测和定位。NSA 技术使用 Poisson 图像编辑，无缝地混合来自不同图像的各种规模的缩放补丁，创造出一种更类似于自然子图像的不规则性的合成异常。我们使用自然和医学图像评估了所提出的方法。在 MVTec AD 数据集上的实验表明，使用本文提出的 NSA 技术训练的模型推广到检测出不同类型的制造缺陷，取得了 97.2 的总体检测 AUROC，优于所有先前的不使用额外数据集进行学习的方法。

    Sep, 2021

  • 通过增强自然语言处理数据来应对自然语言推断任务中的注释人为错误

    本研究旨在研究 Annotation Artifacts 在大型预先训练的 NLP 模型中的表现，分析其在自然语言推断任务中的限制、通过数据增强技术解决注释工件所引起的偏差，以及评估该方法的有效性。

    Feb, 2023

  • 自然语言推理的多尺度数据增强方法用于降低伪影和优化预训练模型

    研究机器学习模型在自然语言推断（NLI）中学习数据集人工特征的问题，并提供一种多层次的数据增强方法以减轻数据集的人工特征带来的影响。

    Dec, 2022

  • 使神经网络对多种图像污染具有鲁棒性的简单方法

    该研究论文证明，通过对图像识别模型进行简单但适当的高斯噪声和斑点噪声训练，可以使其具有更好的泛化能力和对不同类型损坏更强的鲁棒性，并结合敌对训练方法进一步提高性能。

    Jan, 2020

  • 生成（非软件）错误以愚弄分类器

    本文提出了生成自然对抗样本的系统化方法，通过一些自然变化来模仿某种对象或信号，结果表明可以在图像分类模型和语音分类模型中成功生成对抗样本。

    Nov, 2019

  • 生成自然对抗样本

    本文提出了一种使用生成敌对网络在语义空间中搜索自然和易读的对抗性样本的框架，以验证黑盒子分类器的鲁棒性，并证明该方法可在图像分类，文本蕴含和机器翻译等广泛应用中有效。

    Oct, 2017

  • 神经哨兵：保护神经网络的可靠性和可信性

    为了解决人工智能模型的可靠性和可信度问题，本文提出了一个名为 NeuralSentinel（NS）的工具，结合攻击和防御策略以及解释性概念来验证 AI 模型的可靠性和可信度，并帮助非专业人员通过理解模型决策来增强他们对这一新系统的信心。该工具在一个黑客马拉松活动中部署和使用，用于评估皮肤癌检测器的可靠性，并通过攻击和防御活动学习出导致模型错误分类的最重要因素和最有效的技术，同时检测 NS 的局限性并收集反馈以进行进一步改进。

    Feb, 2024

  • 隐形的贴片：自然黑盒对目标检测器的敌对攻击

    该研究提出一种基于生成对抗网络（GAN）图像流形和物理世界的无梯度攻击方法，用于生成自然物理的对抗贴片以欺骗对目标物体检测器的分类。结果表明，该方法在数字和物理场景下均有效。

    Mar, 2023

  • 通过统计检验和自动数据增强解析自然语言推理中的词汇偏见数据集以减少人为影响

    通过利用一种新颖的统计测试方法，我们发现词汇分布与文本蕴含类之间存在显著关联，强调词汇是一种明显的偏差源。为了减轻这些问题，我们提出了几种自动数据增强策略，从字符到词级别。通过对 ELECTRA 预训练语言模型进行微调，我们将有增强数据的模型与基准模型进行了比较。实验证明，所提出的方法可以有效提高模型准确性，并分别减少偏差约 0.66% 和 1.14%。

    Dec, 2023

  • 影子可能很危险：自然现象导致的隐蔽高效实物世界敌对攻击

    本文研究了利用自然现象 —— 影子生成干扰以实现自然和偷偷摸摸的物理世界对抗攻击的新型光学对抗样本，并在模拟和真实环境下进行了广泛评估，结果表明此攻击的成功率达到了 98.23% 和 90.47%，而且可以在真实场景下连续欺骗移动摄像机 95% 以上的时间。

    Mar, 2022