交叉任务攻击：基于注意力转移的自监督生成框架
提出利用Attention Loss替代传统Cross entropy loss拓展Attack on Attention（AoA）的方法，生成了50000个对多个DNNs均有效的对抗样本，建立了全新的对抗数据集DAmageNet
Jan, 2020
本文针对自主驾驶感知任务中的多任务视觉感知深度网络，进行了细致的对抗攻击研究，并提出了简单的防御方法。实验考虑了针对性和非针对性的白盒和黑盒攻击，以及在攻击一个任务时检查对其他任务的影响，同时还检查了应用简单防御方法的效果。最后通过对实验结果进行比较和讨论，提出了一些结论和未来研究方向。
Jul, 2021
本文研究多任务学习中的单任务机器学习攻击，提出了基于平均相对损失变化的动态梯度平衡攻击方法（DGBA），并在两个流行的多任务学习基准测试库上进行了广泛评估。结果显示参数共享会提高任务准确性，但对提高模型健壮性有贡献。
May, 2023
在本研究中，我们首次针对变形Transformer模型进行了注意力劫持的对抗攻击，我们证明了这些攻击不会传递到变形Transformer，这是由于其稀疏的注意力结构。我们的实验表明，仅对输入领域的1%施加了修复区域就能导致0%的AP，并且我们还展示了这些攻击能够有效支持不同的攻击者场景，因为它们能够在攻击者的控制下重定向注意力。
Nov, 2023
该研究论文调查了针对多任务分类器中隐藏任务的攻击的可行性，提出了一种新颖的敌对攻击方法，利用非目标任务的知识和多任务模型的共享主干网络迫使模型遗忘与目标任务相关的知识，实验证明了该方法在削弱隐藏任务的准确性方面的有效性，并且保留了可见任务的性能，有助于了解多任务分类器中的敌对性漏洞。
May, 2024
本研究解决了多模态模型在攻击中表现不足的问题，提出了创新的CrossFire方法，通过将攻击者选择的目标输入转化为原始图像或音频文件的匹配格式，并将攻击形式化为优化问题，以最小化嵌入之间的角度偏差。实验结果显示，CrossFire显著优于现有攻击方法，能够有效操控下游任务，同时当前的防御策略无法有效抵御CrossFire。
Sep, 2024
本研究解决了跨模态对抗攻击缺乏有效性的问题，提出了多形式攻击策略，采用基于梯度进化的双层优化框架，以实现不同模态之间的高效扰动传递。通过在多个异构数据集上的广泛测试，结果表明多形式攻击在增强对抗攻击的可转移性方面优于现有技术，为跨模态系统的安全漏洞理解提供了新的视角。
Sep, 2024