Nov, 2023

对 Adversarial CAPTCHA 的历史、分类和生成的调查

PDF
TL;DR通过将敌对示例与 CAPTCHA 结合，生成能够欺骗深度模型的敌对 CAPTCHA，以解决安全性和可用性的权衡问题，本文分类方法并系统回顾生成敌对示例和敌对 CAPTCHA 的常用方法，并分析可用于防御敌对 CAPTCHA 的一些防御方法和潜在威胁，最后探讨了敌对 CAPTCHA 的未来研究方向。
发现论文，激发创造
  • 对抗性验证码

    本研究旨在设计对抗性 CAPTCHA，提高其安全性，同时维持相似的易用性，我们建立了对抗性 CAPTCHA 生成和验证系统，使用了 10 种图像预处理技术，9 种 CAPTCHA 攻击，4 种基线对抗性 CAPTCHA 生成方法，以及 8 种新的对抗性 CAPTCHA 生成方法，并进行扩展的安全性和易用性评估，结果表明，生成的对抗性 CAPTCHA 能够大幅提高普通 CAPTCHA 的安全性，同时保持相似的易用性，我们也开放了 aCAPTCHA 系统源代码、训练模型、数据集和可用性评估界面，以促进 CAPTCHA 安全研究。

    Jan, 2019

  • 使用深度学习对验证码进行漏洞分析

    该研究旨在调查 CAPTCHA 生成系统中的缺陷和漏洞，以设计更具弹性的 CAPTCHA。通过创建 CapNet，我们提出了一种卷积神经网络平台，旨在评估数字和字母数字 CAPTCHA，从而提高网站的安全性。

    Feb, 2023

  • 攻击即为防御：利用对自动语音识别系统的攻击设计鲁棒音频验证码

    本研究旨在针对当前文字型验证码安全性不足的情况，通过对语音识别技术的攻击论文进行比较分类，提出了一种基于容易理解但难以被自动转录的音频机制验证码来提升 Web 的安全及无障碍性，具有较高的可靠性和难以通过语音转文字技术识别等优势。

    Mar, 2022

  • 图像分类中的对抗机器学习：从防御者的视角进行调查

    这篇论文探讨了深度学习在图像分类中的安全问题，介绍了针对对抗攻击和对抗防御的新分类方法，提供了研究者需要考虑的相关指导，并讨论了未来研究的方向。

    Sep, 2020

  • 对抗样本 - 现象的完整特征描述

    本研究提供了对毒瘤样本现象的完整刻画，目的在于涵盖研究领域的所有重要方面：（1）毒瘤样本存在的假设，（2）对安全性、可靠性和稳健性的影响，（3）生成和保护对抗样本的方法，（4）毒瘤样本在不同机器学习模型之间的转移能力。（5）本文提供充足的背景信息，可作为调查、教程或使用毒瘤样本进行攻击和防御的目录。

    Oct, 2018

  • 人类和机器生成的文本分类词级对抗样本对比

    本研究探讨了在维持语义和语法约束的前提下进行对抗样本攻击的可行性，通过 crowdsourcing 实验发现人类可以通过语义保持的词汇替换生成大量的对抗样本，这些人类生成的对抗样本虽然比最好的算法更加高效，但在自然性、情感及语法方面的表现并不高于最佳算法。

    Sep, 2021

  • 现代机器学习中的对抗样本：一次回顾

    本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

    Nov, 2019

  • 欺骗计算机视觉和受时间限制的人的对抗样本

    通过将计算机视觉模型的对抗性样本转移到具有未知参数和架构的其他模型，并匹配人类视觉系统的初始处理，我们发现在计算机视觉模型之间强烈转移的对抗性样本会影响人类观察者的分类。

    Feb, 2018

  • GAT：生成对抗训练用于对抗例检测和强化分类

    对付对抗性样本的一个新的检测方法：使用基于二进制分类器的技巧来区分干净样本和受到敌意扰动的样本，并通过生成方法来检测和分类对抗性样本。

    May, 2019

  • 物理世界中的对抗样本

    本文研究表明即使在物理世界的情境下，机器学习系统仍然容易受到敌对样本的攻击，并通过将手机摄像头获取的对抗性图像输入 ImageNet Inception 分类器，并测量系统的分类精度来证明了这一点。

    Jul, 2016