基于图结构的动态正则化的图对抗训练

Feb, 2019

基于图结构的动态正则化的图对抗训练

Graph Adversarial Training: Dynamically Regularizing Based on Graph Structure

Fuli Feng, Xiangnan He, Jie Tang, Tat-Seng Chua

TL;DR研究表明神经网络的视觉分类任务受到小幅但有意的输入特征扰动的影响。基于连接的示例引起了对目标示例影响的干扰，图对神经网络的影响更大。针对此问题，本文提出了一种动态正则化技术 —— 图形对抗训练（Graph Adversarial Training，GraphAT），该技术结合了输入特征中的干扰和连接示例的影响，并将其应用于图卷积网络（Graph Convolutional Network，GCN）的目标节点分类任务中，实验结果表明，GraphAT 可以提高模型的鲁棒性。

Abstract

Recent efforts show that neural networks are vulnerable to small but intentional perturbations on input features in visual classification tasks. Due to the additional consideration of connections between examples (\eg articles with citation link tend to be in the same class), graph

neural networks adversarial training graph neural networks graph convolutional network model robustness

发现论文，激发创造

鲁棒图神经网络的频谱对抗训练

本文提出 Spectral Adversarial Training （SAT），基于频谱分解的简单但有效的对抗训练方法，用于提高图神经网络（GNN）对抗攻击的鲁棒性，实验结果表明 SAT 显著提高了 GNN 对抗攻击的鲁棒性，而不影响分类准确性和训练效率。

Nov, 2022

图结构正则化对抗训练方法

本文提出一种名为 GReAT 的正则化方法，以提高深度学习模型的分类性能，通过将数据图结构引入对抗性训练过程中，增强模型的鲁棒性，并在对抗攻击中提供更好的测试性能和防御能力。

Oct, 2023

对抗鲁棒性和可解释性的二阶优化

提出了一种使用二次近似的拟合函数的新型规则化器，并通过迭代计算逼近最坏情况二次损失，从而在具有良好的鲁棒性的同时避免了梯度混淆和降低了训练时间。实验证明，该模型产生的人类可解释性特征优于其他几何正则化技术，并且这些鲁棒特征可用于提供人性化的模型预测解释。

Sep, 2020

图神经网络的对抗性训练

本文介绍了对抗训练在解决图神经网络中的结构扰动方面的局限并展示了基于可学习图扩散的灵活图神经网络和针对多节点和全局约束的结构扰动攻击，进一步证明了对抗训练作为对抗性结构扰动的最先进防御手段。

Jun, 2023

图卷积网络批量虚拟对抗训练

本文基于 graph convolutional networks (GCNs) 提出了 batch virtual adversarial training (BVAT) 的正则化方法，并验证了其在半监督节点分类任务中较好的效果。

Feb, 2019

对抗鲁棒性的一种一致性正则化方法

本文提出了一种通过优化辅助一致性规则损失来避免鲁棒过度拟合的有效正则化技术，在 Adversarial training 过程中使用数据扩增来强制攻击后的预测分布相似。实验结果表明，这种简单的方法可以显著提高各种 AT 方法的测试准确性，并对模型作出更具实际意义的泛化。

Mar, 2021

多上下文联合实体和关系抽取的对抗训练

本文介绍了一种名为对抗训练的正则化方法，利用该方法可以通过在训练数据中添加微小扰动，提高神经网络方法的稳健性，并演示如何将其应用于实体识别和关系提取等任务，以提高不同上下文（如新闻、生物医学和房地产数据）和不同语言（如英语和荷兰语）的数据集的效果。

Aug, 2018

采用对抗训练方法学习图嵌入

该论文提出了一个新的对手正则化框架来进行图嵌入，通过对手正则化的方法来保证所得到的隐藏代码满足先验高斯或均匀分布，之后得到两个 Adversarially Regularized Graph Autoencoder (ARGA) 和 Adversarially Regularized Variational Graph Autoencoder (ARVGA) 的变种来学习图嵌入，实验表明我们的方法在链接预测和图聚类中执行良好。

Jan, 2019

注意力遇到扰动：通过对抗训练实现鲁棒性和可解释性的注意力机制

本文提出对自然语言处理任务进行通用训练的技术，包括关注力对抗训练（Attention AT）和更易于解释的关注力对抗训练（Attention iAT）。该方法通过引入对抗扰动，增强了句子注意力的差异，提高了模型的预测性能和可解释性，并且尤其适用于关注力机制。实验表明，Attention iAT 在十项任务中表现最佳，并且其结果的注意力与基于梯度的单词重要性的相关性更强。此外，该方法不太依赖于对抗扰动的大小。

Sep, 2020

增强扩散以提高强健性泛化能力

本文提出了一种名为 Diffusion Enhanced Adversarial Training (DEAT) 的新方法，以改善 Adversarial Training 中的 generalization 问题，理论上证明了 DEAT 比主要 AT 框架 ——Projected Gradient Descent Adversarial Training (PGD-AT) 更紧密的泛化界限，并通过广泛的实证调查证实了 DEAT 的优越性。

Jun, 2023