CVPRMay, 2023

图像检索中通过对抗学习的边界感知的向后兼容表示

PDF
TL;DR介绍了在视觉检索系统中，从传统模型更新到新模型需要重新计算所有图片嵌入，所以引入兼容性训练（BCT）的方法，并提出了 Adversarial Backward-Compatible Training（AdvBCT）方法进行对比实验，表明其在兼容性和辨别性方面均优于其他 BCT 方法。
image retrievalvisual retrieval systembackward-compatible trainingadversarial learningvector database
发现论文，激发创造
  • 基于可转移模型嵌入的黑盒对抗攻击

    本文提出了一种新的黑盒对抗攻击方法，通过使用预训练模型学习低维嵌入，然后在此嵌入空间内进行高效搜索，从而攻击未知目标网络。该方法能够生成具有高级语义模式的对抗性扰动，易于迁移，可大大提高黑盒对抗攻击的查询效率。作者在 MNIST、ImageNet 和 Google Cloud Vision API 上进行评估，并在 CIFAR10 和 ImageNet 上攻击对抗性防御网络，取得了良好的攻击效果。

    Nov, 2019

  • 对比对抗训练中通过认知失调缓解实现健壮性

    本文介绍了一种新的神经网络训练框架，通过将对比学习与对抗训练相结合，增强了模型对对抗攻击的鲁棒性，同时保持高干净度的准确性。作者发现对比学习有助于提高对抗性鲁棒性，并使用 CIFAR-10 数据集验证了他们的方法，发现其优于其他监督和自监督方法。

    Mar, 2022

  • 基于概念的弱监督对抗学习用于跨语言词嵌入

    本论文提出了一种基于概念的弱监督对抗训练方法，通过将单词映射到连续向量的分布表示法，实现不需要大量平行数据（如字典或句子对齐语料库）的语言间互译，并针对语言间距离大的情况，在大多数语言上改善了以前无监督的对抗方法的性能。

    Apr, 2019

  • 评估大型语言模型的基于检索上下文学习的对抗鲁棒性

    通过引入检索增强联系学习方法，利用检索器提取语义相关示例作为演示，提高模型对测试样本的攻击稳健性，并引入一种无需训练的对抗防御方法 DARD，通过丰富示例池来改进模型性能和稳健性。

    May, 2024

  • 级联对抗机器学习，用统一嵌入进行正则化

    本文介绍了一种级联对抗训练的方法，它利用嵌入空间进行分类和低层次相似性学习，能有效提高对迭代攻击的鲁棒性，但有可能导致对一步攻击的鲁棒性下降，并证明了将这两种技术相结合可以改善情况最劣的黑盒攻击场景下的鲁棒性。

    Aug, 2017

  • 半监督信息检索的对抗采样和训练

    本文提出一种针对 ad-hoc 检索模型的数据不平衡及神经网络模型易受对抗干扰等问题的对抗性采样和训练框架，通过增强点击示例和获得非常信息化的非点击示例来学习 ad-hoc 检索模型，并在常见 ad-hoc 检索任务（如网络搜索，项目推荐和问答）的基准数据集上进行实验，结果表明该方法在高排名文档方面显着优于强基线，并且在使用仅占 5％的已标记数据对 IRGAN 在 NDCG@5 上实现更好的表现。

    Nov, 2018

  • 语义扰动下的互模态对抗攻击

    我们提出了一种新的方法，在互模态优化方案中生成对抗性攻击，利用预训练的 CLIP 模型进行视觉攻击和文本防御，并通过迭代训练策略实现攻击的转移性。我们的方法在多个基准数据集上得到了验证，表明我们的互模态攻击策略能够有效产生高可转移攻击，并且优于最先进的攻击方法，可作为即插即用解决方案。

    Dec, 2023

  • 表示插值的反事实对抗学习

    本文提出了一个基于因果关系的 Counterfactual Adversarial Training 框架（CAT），通过对单个样本生成对应的反事实表示，动态调整样本特有的损失权重，以此鼓励模型探索真实的因果关系，实现在句子分类、自然语言推理和问答等领域的显著性能提升。

    Sep, 2021

  • 探索未学习的扩散模型：可转移的对抗攻击视角

    針對高級文字到圖像擴散模型在身份隱私侵犯、版權侵犯和不宜上班的內容生成方面引起的安全問題，本文旨在利用對抗攻擊的可轉移性來探測黑盒情景下的不學習強健性。

    Apr, 2024

  • 在连续攻击中，基于线性语言模型的高效对抗训练

    通过在 LLM 的连续嵌入空间中计算对抗攻击来提高对离散攻击的鲁棒性，我们提出了一种快速的对抗训练算法 (C-AdvUL)，通过对对抗行为数据集上计算的连续嵌入攻击使模型变得鲁棒；我们还引入了 C-AdvIPO，这是一种对抗的 IPO 变体，不需要效用数据进行对抗性鲁棒对齐。我们的实证评估表明，这两个算法显著提高了 LLM 对离散攻击的鲁棒性，并保持了效用。这些结果表明，对连续扰动的鲁棒性可以外推到离散的威胁模型，为大规模对抗训练算法的鲁棒对齐 LLM 提供了一条路径。

    May, 2024