May, 2022

PGADA: 基于扰动引导的少样本学习支持集 - 查询集偏移对齐

PDF
TL;DR提出了一种新的对抗数据增强方法 PGADA 和正则化的最优输运平面方法，用于解决 Few-Shot Learning 中由于支持集和查询集之间的分布偏移导致的模型性能下降问题。实验表明，该方法在三个基准数据集上显著优于当前最先进的方法。
发现论文，激发创造
  • 逼真支持 - 查询转移少样本学习的双重对抗对齐

    提出了一个新的挑战，RSQS，侧重于现实的支持 - 查询偏移少样本学习。使用统一的对抗特征对齐方法（DuaL）从两个方面缓解了 RSQS，即跨域偏差和内域变异。在 RSQS 基准测试中，DuaL 明显优于其他方法。

    Sep, 2023

  • 自我引导适应：逐步表示对齐的领域自适应目标检测

    提出了一种名为 “自主引导自适应” 的方法，该方法通过计算难度因素来提高跨域对象检测模型的鲁棒性，并表现出在大范围领域转移方面的有效性。

    Mar, 2020

  • GeoDA: 一个基于几何的黑盒对抗攻击框架

    本文提出一种有效的黑盒攻击算法，用于生成三维深度神经网络的对抗样例，该算法利用网络决策边界以及小曲率特性来生成具有小 l_p 范数的有效迭代算法，该算法获得了比现有算法更好的结果。

    Mar, 2020

  • 从几何感知的角度提高语言模型的鲁棒性

    通过友好对抗样本扩充和几何感知对抗训练技术，用更少的步骤达到更强的鲁棒性，实验结果表明在两个数据集上的三种预训练语言模型中，GAT 可以在更少的步骤中获得更强的鲁棒性。

    Apr, 2022

  • 使用隐藏空间增强和自监督对比适应改进 QA 领域的领域适应

    本文提出了一种名为 QADA 的自监督框架，其中引入了一种新颖的数据增强管道，通过隐藏空间增强来丰富 QA 样本，引入多跳同义词和样本增强的令牌嵌入以及自定义注意抽样策略来新开发语境增强的方法，并针对 QA 领域自监督域适应，使用注意力权重建立差异估计的信息特征，帮助 QA 模型在源领域和目标领域之间分离答案并实现泛化。我们的评估显示，QADA 在 QA 领域适应的多个目标数据集上显着提高了比现有技术基线的表现。

    Oct, 2022

  • 具有对抗数据增强的正 - 无监督学习用于知识图谱补全

    本篇研究提出正 / 无标签学习与对抗数据增强（PUDA）方法以完成知识图谱，同时解决误删和数据稀疏问题，并在实际数据集上展现较好的应用效果。

    May, 2022

  • 分布式对抗攻击

    本文提出了一种解决最优对抗数据分布的方法 —— 分布式对抗攻击（DAA），通过在潜在数据分布空间上进行优化，使攻击样本具有更好的泛化性，实验表明其在对抗训练的模型上的攻击效果优于其他对抗攻击方法。

    Aug, 2018

  • 多样性帮助：基于分布偏移的数据增强实现无监督少样本学习

    本文提出了一种名为 ULDA 的无监督少样本学习框架，通过数据增强中的分布偏移建立预文本少样本任务，重视分布多样性，扩展训练而实现良好的泛化性能并获得了既定少样本学习任务中的最新结果。

    Apr, 2020

  • MIXPGD: 语音识别系统的混合对抗训练

    本文提出 mixPGD 对抗训练方法以提高基于深度神经网络的自动语音识别系统的鲁棒性，实验表明该方法比以前的最佳模型在白盒对抗攻击设置下性能提高了 4.1％WER，并且在黑盒攻击设置下也表现出一定的防御能力。

    Mar, 2023

  • 通过增强分布对齐的半监督学习

    本文提出了一种简单而有效的半监督学习方法，称为增强分布对齐，以解决有限标记样本导致的采样偏差问题，并介绍了一些实现策略（比如采用对抗式训练、插值策略等），同时在 SVHN 和 CIFAR10 数据集上进行了验证。

    May, 2019