本文提出两种针对深度排名系统的攻击，即候选攻击和查询攻击，还提出了一种反折叠三元组防御来提高排序模型的鲁棒性，并通过提出的经验鲁棒性评分来全面度量排名模型的鲁棒性，实验结果表明，我们的防御措施可以显著提高排名系统的鲁棒性，并同时缓解各种攻击。

Jun, 2021

本文提出了两种针对深度排序系统的攻击方法，即候选攻击和查询攻击，并且也提出了一种防御方法来提高排序系统的鲁棒性，我们的攻击和防御方法在 MNIST、Fashion-MNIST 和 Stanford-Online-Products 数据集中进行了评估。实验结果表明，我们的攻击可以有效地攻击典型的深度排序系统，同时使用我们的防御方法可以中等程度地提高系统的鲁棒性，此外，我们的攻击展示了可以实现黑盒攻击的可能性。

Feb, 2020

本文旨在探索检测针对 NLP 模型的对抗攻击的方法，提出基于密度估计的 Competitive Baseline，并提供包括 4 个数据集上 4 种流行攻击方法和 4 种模型在内的数据集，以便进一步研究。

Mar, 2022

针对密集检索模型的鲁棒性，我们提出了对抗性检索攻击（AREA）任务，并借鉴对神经排名模型的攻击方法，通过在多视图表示空间中鼓励每个视图表示与目标文档以及对应的查看者之间的一致性，以小的不可察觉的文本干扰显著提高攻击效果。

Aug, 2023

本研究提出了一种名为 Imperceptible DocumEnt Manipulation (IDEM) 的框架，该框架可以生成对算法和人类来说更难察觉的对抗性文档，并通过在不引入易于检测错误的情况下指导已建立的生成语言模型（例如 BART）生成连接语句，同时采用分离的位置合并策略来平衡扰动文本的相关性和一致性。实验结果表明，IDEM 可以在保持目标文档的流畅性和正确性的同时，胜过强的基准，并且将对抗文本生成与替代 NRM 的分离使 IDEM 更加强健，不受替代 NRM 质量的影响。

May, 2023

本文提出了基于梯度的算法，利用少量词语成功实现高相关或非相关文档的大幅度排名变化，同时发现 BERT-rankers 对文档的初始部分有很大的依赖性，并且在不同数据集中存在主题偏好，具有潜在的偏见。

Jun, 2022

本文研究 Web 检索中排名函数的鲁棒性，使用不同定义和方法进行形式化分析。通过证明对线性排名函数的正则化可以增加排名鲁棒性，我们提出了几种量化排名鲁棒性的方法，并使用它们来分析文档作者之间的排名竞赛。经验证实了我们的研究成果和猜想。

Jun, 2018

本文提出了一种模仿对抗攻击的方法，通过基于梯度的攻击方法生成对抗触发器，对各种最先进的神经排名模型进行排序伪造，从而对抗黑盒神经通道排名模型的扰动攻击。

Sep, 2022

本文提出了一个对抗性基准测试，旨在测试虚假新闻检测器推理现实世界事实的能力，使用 BERT 分类器 fine-tuned 在 LIAR arXiv:arch-ive/1705648 和 Kaggle Fake-News 数据集上，结果显示这两种模型在处理组合语义、词汇关系和修饰符等方面的意思变化上存在失败的情况。这表明虚假新闻检测器需要与其他事实检查方法一起使用。

Jan, 2022

使用对抗性例子的神经排序模型（NRMs）在信息检索（IR）中取得了巨大的成功，但是可以通过添加不可察觉的扰动来操纵它们的预测结果。本研究通过将对抗性例子融入训练数据，建立了关于 NRMs 中效果和鲁棒性的权衡的理论保证，并设计了一种新的具有扰动不变性的对抗训练（PIAT）方法，以实现更好的效果和鲁棒性的权衡。实验结果表明，PITA 在多个排序模型上相对于现有的对抗防御方法具有优越性。

Dec, 2023