本文提出了第一种证明（非）稳健性的图卷积网络方法，该方法能够在考虑特定攻击模型的情况下，保证节点属性的L0-范围内的扰动。最后，我们还提出了一种鲁棒的半监督训练过程，通过实验证明我们的方法证明了图神经网络的鲁棒性，对预测精度的影响最小。

Jun, 2019

本文提出一种更加原则性的对抗图的定义，研究表明当前的GNN存在“过于健壮”的问题，而该问题可以通过将标签结构纳入推断过程进行解决。

May, 2023

我们进行了第一个敌对鲁棒性研究，针对比传统的消息传递神经网络（MPNNs）更强大的图神经网络（GNNs）。具体而言，我们使用敌对鲁棒性作为一种工具，揭示了它们在理论上可能的表达能力与实际达到的表达能力之间的显著差距，并针对GNNs计算特定子图模式的能力，这是一种已建立的表达能力度量，将敌对鲁棒性的概念扩展到了该任务上。基于此，我们开发了有效的对抗攻击子图计数，并表明更强大的GNNs甚至无法适应对图结构的轻微扰动。此外，我们还展示了这种架构在超出分布的图上也无法计算子结构。

Aug, 2023

过去十年来，人们对神经网络的鲁棒性进行了广泛的研究，但这个问题依然没有得到很好的解决。在这篇论文中，我们提出了改进新方法的鲁棒性评估和减少错误评估的第一组先决条件，同时指出了面向开源模型中恶意内容生成的嵌入空间攻击作为另一个可行的威胁模型。最后，我们通过一个最近提出的防御方法进行演示，展示了在没有针对大型语言模型的最佳实践的情况下，过高估计新方法的鲁棒性的容易性。

Oct, 2023

在这项工作中，我们从理论上定义了属性图背景下的预期稳健性概念，并将其与图表示学习文献中的敌对鲁棒性概念相关联。我们的定义使我们能够得出图卷积网络和图同构网络在节点特征攻击下预期稳健性的上界，并基于这些发现将图卷积正交稳健网络（Graph Convolutional Orthonormal Robust Networks）作为对敌对攻击更稳健的变体提出，将GNN的预期稳健性与其权重矩阵的正交性联系起来。我们进一步引入了一种概率方法来估计预期稳健性，这使我们能够评估GCORN在几个真实世界数据集上的有效性。实验结果表明，GCORN优于现有的防御方法。

Apr, 2024

对大型语言模型的鲁棒性进行了攻击和评估，并在五项不同的文本分类任务上建立了新的鲁棒性基准，研究结果对可靠部署语言模型并推动可信人工智能系统的发展具有重要意义。

May, 2024

本文提出了一种通过知识图谱来评估大型语言模型在对抗攻击场景下的鲁棒性的框架，并通过生成原始提示和毒化的对抗提示来评估模型的鲁棒性。实验证明，ChatGPT家族的对抗鲁棒性在GPT-4-turbo > GPT-4o > GPT-3.5-turbo，而大型语言模型的鲁棒性受其所操作的专业领域的影响。

Jun, 2024

图神经网络 (GNNs) 的脆弱性研究，通过系统性地考虑图数据模式、模型特定因素和对抗样本的传递性，揭示了对抗攻击对 GNN 的影响，从而为提高 GNN 的对抗鲁棒性提供了相关的准则和原则。

Jun, 2024

探索大型语言模型在图上的抵抗对抗攻击能力，并发现相较于浅层模型，大型语言模型作为增强器和预测器在结构和文本攻击方面都表现出更强的稳健性。

Jul, 2024

本研究解决了传统图神经网络在处理异质图时的局限性，因其过度依赖同质性假设。作者提出了一种新颖的两阶段框架，通过增强边缘鉴别和引导边缘重加权，利用大语言模型来更有效地解读异质图中的文本数据。实验结果表明，该方法能显著提升节点分类的效果，具有重要的实际应用潜力。

Aug, 2024