本文提出了对于神经网络的输出解释的一种新方法——基于特征归因向量，探究了该方法的“稀疏性”及“稳定性”，对单层网络进行理论探索证明使用对抗训练可以获得稀疏的特征归因向量，该特性不仅在单层网络中适用，而且在深度神经网络中也具有普适性；并对现有的网络训练方法进行对比探究。

Oct, 2018

本文提出一种针对ad-hoc检索模型的数据不平衡及神经网络模型易受对抗干扰等问题的对抗性采样和训练框架，通过增强点击示例和获得非常信息化的非点击示例来学习ad-hoc检索模型，并在常见ad-hoc检索任务（如网络搜索，项目推荐和问答）的基准数据集上进行实验，结果表明该方法在高排名文档方面显着优于强基线，并且在使用仅占5％的已标记数据对IRGAN在NDCG@5上实现更好的表现。

Nov, 2018

本文提出了一种名为产品量化对抗生成（PQ-AG）的方法，在处理大规模数据集时更高效，但存在输入小细微扰动的漏洞，实验表明该方法能成功创建这种扰动，并显著降低白盒和黑盒环境下的检索性能。

Feb, 2020

通过开发深度学习模型来识别搜索中的信息不匹配，可以显著提高电商用户体验和排名性能。

May, 2020

本文提出两种针对深度排名系统的攻击，即候选攻击和查询攻击，还提出了一种反折叠三元组防御来提高排序模型的鲁棒性，并通过提出的经验鲁棒性评分来全面度量排名模型的鲁棒性，实验结果表明，我们的防御措施可以显著提高排名系统的鲁棒性，并同时缓解各种攻击。

Jun, 2021

本文针对神经检索模型易受打字错误、分布偏移和恶意攻击的问题，研究了对抗训练作为提高模型鲁棒性的可能解决方案之一。研究中采用了两种主要类型的BERT-based神经检索模型，并表明最简单的对抗训练技术Fast Gradient Sign Method (FGSM)可以提高模型的鲁棒性和效果。

Jan, 2023

本文提出了一种有效的多语言模型，该模型不仅利用已经处理好的类平衡数据集，还通过多任务预训练获得更一般化的表示。作者采用了 mlm 任务、分类任务和对比学习任务，在微调阶段采用自信学习、EMA、FGM 和 R-Drop 等方法提高模型的泛化能力和鲁棒性，采用多粒度语义单元来寻找查询和产品文本元数据，以增强模型的表示能力。该方法在三个任务中排名前八。

Jan, 2023

从学习理论的角度研究鲁棒学习的可行性，考虑样本复杂性，研究了鲁棒学习在拥有随机样本、满足Lipschitz条件的数据分布和更强学习能力的情况下的对抗性攻击的脆弱性，提出了基于经验风险最小化的鲁棒算法，并给出了查询复杂性的上下界。

Aug, 2023

使用对抗性例子的神经排序模型（NRMs）在信息检索（IR）中取得了巨大的成功，但是可以通过添加不可察觉的扰动来操纵它们的预测结果。本研究通过将对抗性例子融入训练数据，建立了关于NRMs中效果和鲁棒性的权衡的理论保证，并设计了一种新的具有扰动不变性的对抗训练（PIAT）方法，以实现更好的效果和鲁棒性的权衡。实验结果表明，PITA在多个排序模型上相对于现有的对抗防御方法具有优越性。

Dec, 2023

神经信息检索（IR）模型的稳健性是确保其在实践中可靠性的重要方面，本文对稳健IR进行了综述，关注对抗性攻击、超出分布场景和性能差异的稳健解决方案，提供了现有方法、数据集和评估指标的深入讨论，并介绍了一个用于稳健神经信息检索的评估基准（BestIR）。该研究希望为未来的IR模型稳健性研究提供有价值的线索，并有助于开发可信赖的搜索引擎。

Jul, 2024