通过对现有的预训练模型进行全面评估和改进，本研究提出了一种名为 Mango 的方法，在嵌入空间中学习多模态对抗性噪声生成器，使得预训练的视觉-语言模型的鲁棒性得到了大幅度提升，并在七项鲁棒性测试中创造了新的最高水平。

Dec, 2020

大规模语言模型在很多语言任务上取得了最先进的性能。然而，它们在针对对抗性语言示例时失败了，这些句子被精心优化以欺骗语言模型，但对人类来说具有类似的语义意义。我们的方法可以动态地适应输入句子并使用屏蔽词的预测结果，从而修复许多语言对抗攻击，而不需要任何训练。在两个流行的句子分类数据集上进行的可视化和实证结果表明，我们的方法能够修复超过65%的对抗性语言攻击。

Oct, 2023

过去十年来，人们对神经网络的鲁棒性进行了广泛的研究，但这个问题依然没有得到很好的解决。在这篇论文中，我们提出了改进新方法的鲁棒性评估和减少错误评估的第一组先决条件，同时指出了面向开源模型中恶意内容生成的嵌入空间攻击作为另一个可行的威胁模型。最后，我们通过一个最近提出的防御方法进行演示，展示了在没有针对大型语言模型的最佳实践的情况下，过高估计新方法的鲁棒性的容易性。

Oct, 2023

NLP中的鲁棒性问题仍未解决，对模型鲁棒性的评估方法也需要重新评估。

Nov, 2023

用语言模型的激活进行对抗性攻击的研究表明，操纵模型激活的相对较小的子集可以精确控制大量（最多达到1000个）随后的标记预测，并发现对输入空间的控制与对输出空间的控制存在一致性，并且攻击模型的激活比攻击标记要强得多，这为对多模式和选定检索模型的攻击提供了新的可能性。

Dec, 2023

通过将代码风格的指示替代自然语言指示，本文提供了更精确的指示，并增强了大语言模型的鲁棒性。同时，通过使用干净和对抗样本来构建上下文演示，我们进一步提高了大语言模型的鲁棒性。实验结果表明，我们的方法在八个鲁棒性数据集上持续优于自然语言指令的大语言模型。

Feb, 2024

对大型语言模型的鲁棒性进行了攻击和评估，并在五项不同的文本分类任务上建立了新的鲁棒性基准，研究结果对可靠部署语言模型并推动可信人工智能系统的发展具有重要意义。

May, 2024

机视语言模型在研究和实际应用中取得了突破，但其对抗性攻击的鲁棒性至关重要。本研究系统地研究了模型设计选择对机视语言模型在图像攻击方面的抗打击能力的影响。此外，我们引入了新颖且经济的方法通过提示格式来增强鲁棒性。通过改写问题和建议可能的对抗性扰动，我们在抵御强大的图像攻击（如Auto-PGD）方面实现了显著的改进。我们的发现为开发更具鲁棒性的机视语言模型提供了重要指导，尤其是在安全关键环境中的部署。

Jul, 2024

本研究解决了大型语言模型（LLMs）在实践应用中的效率与对抗鲁棒性之间的平衡问题。我们设计了一个框架，通过比较三种不同复杂度和效率的模型，揭示了简化架构在效率、性能与对抗鲁棒性之间的潜在平衡。这些发现为在资源受限和对抗攻击抵御能力至关重要的应用提供了有价值的见解。

Aug, 2024

本研究解决了大型语言模型（LLMs）在效率和对抗鲁棒性之间的权衡问题，通过设计一个框架比较三种复杂性和效率不同的模型。研究发现，尽管Gated Linear Attention Transformer和MatMul-Free LM在GLUE任务上准确率稍低，但在AdvGLUE任务中展示了更高的效率和鲁棒性，揭示了简化架构在资源有限且对抗攻击环境中具有良好平衡的潜力。

Aug, 2024