ICLRMar, 2021

利用优化的混淆生成对抗性计算机程序

PDF
TL;DR利用程序混淆技术来对具有通用性的机器学习模型进行对抗修改，进而确定其对抗鲁棒性的合理方式，使用形式化的对抗程序，同时应用多种程序混淆变换，设计一些优化算法来确定如何选择程序的哪些部分进行变换，并找到合适的变换方式，从而在程序汇总问题上取得了较好的效果与进一步抗干扰能力提升。
machine learningprogram obfuscationadversarial robustnessoptimizationprogramming language
发现论文，激发创造
  • 神经网络对抗重编程

    该研究提出使用单个对抗性扰动来重新编程目标模板，以执行攻击者选择的任务，即使模型没有为此任务进行训练，成功演示了多个模型的此类攻击。

    Jun, 2018

  • 代码的对抗鲁棒性

    本文探讨神经模型在代码领域中的敌对鲁棒性问题，通过实例化针对代码的对抗攻击，并结合现有和新技术提高模型鲁棒性，同时保持高准确性。

    Feb, 2020

  • 代码模型对抗性样本

    该研究证明神经编程模型易受到对抗性攻击，并介绍了一种新方法 Discrete Adversarial Manipulation of Programs，通过引入微小的扰动来制造对抗性样本，以迫使预训练模型做出不正确的预测，从而攻击训练模型。该方法在三种神经架构：code2vec，GGNN 和 GNN-FiLM 中均可行，对 Java 和 C# 两种语言均适用，并展示了防御模型的各种方法和他们的权衡取舍。

    Oct, 2019

  • 源代码模型的语义鲁棒性

    研究表明，在源代码模型中，深度神经网络容易受到对代码功能保留的参数语义程序转换序列引起的对抗性示例的影响，我们发现对抗性训练可以显著提高模型的鲁棒性。

    Feb, 2020

  • 通过混淆机制规避基于深度学习的恶意软件检测器：一种深度强化学习方法

    通过使用开源加密工具和强化学习框架，成功地对恶意软件进行了混淆，以逃避最先进的恶意软件检测引擎，并且在使用高级修改方法的技术中表现优异，提高了逃避率。

    Feb, 2024

  • 数据增广提升 AI 攻击代码生成器的鲁棒性

    本文利用自然语言中新的输入，即代码描述的扰动，在安全导向的代码环境下分析了这些扰动对 AI 进攻代码生成器性能的影响，并使用该方法进行了数据增强以增加训练数据的变化和多样性，证明其对扰动和非扰动代码描述的有效性。

    Jun, 2023

  • 攻击算法交易者的对抗扰动：接管股票市场

    本研究探讨在算法交易系统中，使用对抗性学习技术对输入数据流进行实时操纵的攻击，并评估其在现实市场数据流上的有效性和在白盒和黑盒设置中的影响。我们提出了各种缓解方法并讨论其限制，旨在提醒金融界对自动化学习模型使用所带来的潜在风险，并促进进一步研究。

    Oct, 2020

  • 机器翻译模型面对敌对攻击表现强劲

    深度学习模型中的对抗攻击通过对输入进行微小扰动，从而导致输出发生重大变化。我们的研究重点是这种对抗攻击对序列到序列（seq2seq）模型的影响，特别是机器翻译模型。我们引入了基本的文本扰动启发式算法和更高级的策略，例如基于梯度的攻击，该攻击利用可微分逼近的非可微分翻译度量。通过我们的调查，我们提供了证据表明机器翻译模型对已知最佳对抗攻击显示出鲁棒性，因为输出中的扰动程度与输入中的扰动成正比。然而，在次优方法中，我们的攻击方法优于其他方法，提供了最佳的相对性能。另一个有力的候选方法是基于混合单个字符的攻击。

    Sep, 2023

  • CodeAttack：预训练编程语言模型的基于代码的对抗性攻击

    CodeAttack 是一个基于代码结构的黑盒攻击模型，检测了最先进的预训练编程语言模型对特定于代码的对抗攻击的脆弱性，并成功地在不同编程语言的多个代码 - 代码和代码 - NL 任务中实现了最佳性能下降。

    May, 2022

  • 建立稳健模型的简单结构

    通过添加一个用于协作训练的对抗样本检测网络和设计一种新的数据采样策略，我们建议了一个简单的架构来构建具有一定鲁棒性的模型，该模型能够适应许多不同的对抗攻击，并针对 Cifar10 dataset 的实验表明这种设计对模型的鲁棒性具有积极影响。

    Apr, 2022