Jul, 2018

对抗性鲁棒性工具箱 v1.0.0

PDF
TL;DRAdversarial Robustness Toolbox 是一个 Python 库，旨在帮助开发者和研究人员保卫机器学习模型，使其更加安全可靠，包括对付针对模型的对抗样本的防御工具、攻击模块以及针对模型鲁棒性的验证方法和硬化方法等。
adversarial robustness toolboxmachine learningdefendingadversarial attacksruntime detection
发现论文，激发创造
  • 通过构件设计的对抗鲁棒性

    在交通标志识别领域中，我们提出了一种改进对抗鲁棒性的新方法，通过重新定义标准并进行微小的变化来抵御对抗样本。与最先进的方法相比，我们的方法在两种攻击类型下，以及对于良性输入，显著提高了鲁棒准确率，达到高达 25.18％的提升。

    Feb, 2024

  • 迁移学习的艺术：一种自适应和鲁棒的流程

    本文提出了一种灵活的迁移学习方法 —— 自适应强健迁移学习（ART）。引入了 ART 整合的机器，验证了其有效性和实现了许多成功的实验。

    Apr, 2023

  • RobustART：建筑设计和训练技术鲁棒性基准测试

    提出了 RobustART，对 ImageNet 的 ARchitecture 设计和 Training 技术进行了全面的稳健性调查基准，验证了对于 Transformer 和 MLP-Mixer，Adversarial 训练在稳健性方面是有效的，CNNs > Transformers > MLP-Mixers 在稳健性方面表现更好，RobustART 为深入了解设计强大的 DNNs 机制提供了新的视角。

    Sep, 2021

  • DeepRobust: 一个用于对抗攻击和防御的 PyTorch 库

    DeepRobust 是一个用于 PyTorch 的对抗学习库，包含图像领域中超过 10 个攻击算法和 8 个防御算法，以及图领域中的 9 个攻击算法和 4 个防御算法，并支持多种深度学习架构。

    May, 2020

  • 深度学习模型的整体对抗鲁棒性

    该研究论文综述了深度学习模型对抗鲁棒性的研究主题和基本原则，包括攻击、防御、验证和新应用。

    Feb, 2022

  • AART：多元数据生成的 AI 辅助红队技术用于新 LLM 技术应用

    通过自动生成敌对评估数据集，提供了一种新的方法，用于测试大型语言模型在新的下游应用中生成结果的安全性，为了减少人工工作量并能够更早地集成敌对测试，使用 AI 辅助的可重复和可定制的数据生成和增强流程，生成具有高内容特征多样性的评估数据集，结果显示与一些最先进的工具相比，在概念覆盖和数据质量方面具有很大的潜力。

    Nov, 2023

  • 基于 PyTorch 的对抗性鲁棒性工具箱 advertorch v0.1

    advertorch 是一个用于对抗鲁棒性研究的工具箱，它包含多种攻击、防御和鲁棒训练方法的实现，并构建在 PyTorch 之上，利用动态计算图的优势提供简洁高效的参考实现。

    Feb, 2019

  • 建立稳健模型的简单结构

    通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略，我们建议了一个简单的架构来构建具有一定鲁棒性的模型，该模型能够适应许多不同的对抗攻击，并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。

    Apr, 2022

  • 无需强鲁棒机器学习来管理对抗攻击风险

    本文综述了关于机器学习鲁棒性的现状，并探讨了对抗性攻击的实际威胁以及如何管理这些风险，指出许多情况下不需要在模型的准确性和鲁棒性之间做出抉择。

    Jun, 2023

  • 面向数据中心强健学习的抵抗基于迁移的对抗性攻击的深度学习模型

    该研究提出了一种名为数据中心稳健学习（DRL）的新的防御范例，通过在训练之前进行一次性的对抗性增强来提高对迁移攻击的稳健性，并且在黑盒稳健性上超过了多种常用的对抗训练技术。此外，DRL 还具有模型的泛化能力和稳健公平性。

    Oct, 2023