Aug, 2023

针对密集检索模型的黑盒对抗攻击：一种多视图对比学习方法

PDF
TL;DR针对密集检索模型的鲁棒性，我们提出了对抗性检索攻击（AREA）任务，并借鉴对神经排名模型的攻击方法，通过在多视图表示空间中鼓励每个视图表示与目标文档以及对应的查看者之间的一致性，以小的不可察觉的文本干扰显著提高攻击效果。
neural ranking modelsdense retrieval modelsadversarial retrieval attackrobustnesscontrastive learning
发现论文，激发创造
  • 文本检索中对抗性排序攻击的防御：通过检测进行基准和基线

    建立了一个基准数据集，针对神经排序模型的对抗文档进行了两类检测任务的研究，并对多个检测基线的性能进行了综合调查，实验结果表明，使用监督分类器可以有效缓解已知攻击，但对于未知攻击效果很差。此外，这样的分类器应避免使用查询文本以防止学习相关性分类，以免误分类相关文件。

    Jul, 2023

  • 域和相关性分离建模用于可适应的密集检索

    提出一种名为 Disentangled Dense Retrieval（DDR）的新型 Dense Retrieval 框架来支持 DR 模型的有效和灵活的领域自适应，该框架包括一个 Relevance Estimation Module（REM）和几个 Domain Adaption Modules（DAMs），通过使 REM 和 DAMs 分离，DDR 实现了一种灵活的训练范式，在不同的领域和语言中都表现出比强大的 DR 基线更好的排名性能。

    Aug, 2022

  • 视频质量评估模型的漏洞：对抗性攻击的挑战

    通过黑盒攻击评估非参考视频质量评估模型的鲁棒性。

    Sep, 2023

  • 深度排序中的对抗攻击和防御

    本文提出两种针对深度排名系统的攻击，即候选攻击和查询攻击，还提出了一种反折叠三元组防御来提高排序模型的鲁棒性，并通过提出的经验鲁棒性评分来全面度量排名模型的鲁棒性，实验结果表明，我们的防御措施可以显著提高排名系统的鲁棒性，并同时缓解各种攻击。

    Jun, 2021

  • 黑盒对抗攻击查询效率提升

    本文提出了一种基于神经过程的黑盒对抗攻击方法（NP-Attack），利用神经过程对图像结构信息进行建模，以提高查询效率，实验结果表明，NP-Attack 能显著减少黑盒情况下的查询次数。

    Sep, 2020

  • 开放领域问答的低资源稠密检索：一份综合调查报告

    本文探讨了基于预训练语言模型的致密检索方法，并提供了在低资源情境下实现致密检索的主流技术概览，根据技术需要的资源将其分为文档、文档和问题，以及文档和问题答案对三个类别，并对每个技术的算法、开放问题和优缺点进行了介绍和总结，最后提出了未来研究的方向。

    Aug, 2022

  • 稠密文本检索的对抗性检索 - 排序器

    提出 Adversarial Retriever-Ranker（AR2），其中包括双编码器 Retrieval Model 和交叉编码器 Ranking Model，以解决当前的稠密文本检索模型面临的两个主要挑战，既快速索引和搜索，也考虑更细粒度的词级相互作用，同时为了建立负面文件，其模型训练高度依赖于负采样技术。在三个基准测试中，实验结果显示 AR2 在所有测试中 consistently and significantly outperforms 现有的关键词检索方法并 achievs 新的 state-of-the-art 结果。

    Oct, 2021

  • 如何训练你的龙：向通用密集检索的多样化增强

    通过数据增强、对比学习等方法，本研究提出了一种新的稠密检索算法 DRAGON，使其在有监督检索和零样本检索方面均达到了最新水平，并与复杂的后期交互模型竞争。

    Feb, 2023

  • 多粒度对抗攻击黑盒神经排序模型

    利用多粒度干扰生成高质量对抗性实例，通过转换为顺序决策过程实现由强化学习进行多粒度对抗攻击，两个代理共同寻找并组织干扰候选项以达到攻击目标，实验证明了该方法在攻击效果和感知隐蔽性方面优于现有基线。

    Apr, 2024

  • 对抗性排名攻击和防御

    本文提出了两种针对深度排序系统的攻击方法，即候选攻击和查询攻击，并且也提出了一种防御方法来提高排序系统的鲁棒性，我们的攻击和防御方法在 MNIST、Fashion-MNIST 和 Stanford-Online-Products 数据集中进行了评估。实验结果表明，我们的攻击可以有效地攻击典型的深度排序系统，同时使用我们的防御方法可以中等程度地提高系统的鲁棒性，此外，我们的攻击展示了可以实现黑盒攻击的可能性。

    Feb, 2020