本文提出了一种针对代码模型的黑盒对抗攻击方法 ALERT，通过在保留原始输入的基础上考虑代码的自然语义，使得对抗样本更符合人类判断，并在三项下游任务中取得了高攻击成功率，最后对对抗性微调的效果进行了研究。

Jan, 2022

现代大型语言模型（LLMs）在编码任务中表现出令人印象深刻的能力，如 ChatGPT，改进了以前的神经网络代码模型，例如 code2seq 或 seq2seq，这些模型在执行诸如代码摘要和识别代码漏洞等任务时已经表现出有竞争力的结果。然而，这些以前的代码模型被显示为易受对抗性示例的攻击，即不改变程序语义的小的句法扰动，例如通过虚假条件包含 “死代码” 或添加无关紧要的打印语句，专为 “愚弄” 模型而设计。LLMs 也可能容易受到相同对抗性扰动的攻击，但迄今为止对此问题缺乏详细研究。本文旨在研究对 LLMs 的编码任务的对抗性扰动的影响。具体而言，我们研究通过对较小的代码模型进行白盒攻击生成的对抗性示例对 LLMs 的可转移性。此外，为了使 LLMs 对此类对手更加强大，而无需重新训练的成本，我们提出了基于提示的防御措施，其中修改提示以包括经过对抗性扰动的代码示例的附加信息和反转对抗性扰动的明确指示。我们的实验证明，使用较小的代码模型获得的对抗性示例确实具有可转移性，削弱了 LLMs 的性能。提出的防御措施显示出改善模型的韧性的潜力，为与代码相关的应用的 LLMs 提供更加稳健的防御解决方案铺平了道路。

Nov, 2023

本文探讨神经模型在代码领域中的敌对鲁棒性问题，通过实例化针对代码的对抗攻击，并结合现有和新技术提高模型鲁棒性，同时保持高准确性。

Feb, 2020

通过将自然语言输入转化为代码输入，CodeAttack 框架揭示了大型语言模型的安全泛化性问题，并发现了代码领域中的新安全风险，需要更健壮的安全对齐算法来匹配大型语言模型的代码功能。

Mar, 2024

基于 Transformer 的预训练代码模型（PTMC）在许多关键任务中被广泛利用，并取得了最先进的性能。然而，它们可能容易受到通过标识符替换或代码风格转换进行的对抗性攻击，这可能会显著降低准确性并引发安全问题。本研究从效果、效率和生成样本的质量三个方面系统地分析了五种最先进的对抗性攻击方法，结果表明没有一种方法能够完全平衡这些方面。基于这些发现，我们提出了一种新方法，该方法在各种任务中优先考虑不同类型的语句，并进一步利用束搜索生成对抗性样本，评估结果表明它在有效性和效率方面优于最先进的 ALERT，并保持了生成的对抗性样本的自然性。

Nov, 2023

该研究证明神经编程模型易受到对抗性攻击，并介绍了一种新方法 Discrete Adversarial Manipulation of Programs，通过引入微小的扰动来制造对抗性样本，以迫使预训练模型做出不正确的预测，从而攻击训练模型。该方法在三种神经架构：code2vec，GGNN 和 GNN-FiLM 中均可行，对 Java 和 C# 两种语言均适用，并展示了防御模型的各种方法和他们的权衡取舍。

Oct, 2019

本文提出针对预训练代码模型的任务不可知后门攻击，包括受害模型隐藏蓄意损坏的策略和触发器，可以在多种代码生成和理解任务中成功实现目标攻击。

Jun, 2023

本研究主要调查了 Code-PLMs 在 R 语言中的代码实体的脆弱性，结果显示标识符是最容易受到攻击的代码实体，其次是一些特定于 R 语言的语法标记，这些结果对于理解标记类型的重要性以及开发 R 语言的代码摘要和方法名预测模型具有指导意义。

Feb, 2024

通过建立令牌频率统计与学习令牌嵌入之间的关系，我们构建了一种简单有效的无梯度方法，用于对代码模型生成最先进的对抗性示例。

Sep, 2020

本文提出一种语义保持的对抗代码嵌入方法，用于提高预训练语言模型在代码理解中的性能和防御对抗攻击。实验证明该方法可以在不降低性能的情况下提高模型的稳定性。

Sep, 2022