EMNLPFeb, 2023

通过测试时间自适应实现对分布偏移的鲁棒问答：一项实证研究

PDF
TL;DR本研究旨在探讨如何通过测试时间适应（TTA）方法，提高已部署的问题回答（QA）模型的性能，评估了多种 TTA 方法（包括一种新方法 - OIL）在一个统一的 QA 评估基准（COLDQA）下的鲁棒性，研究表明，在已进行鲁棒性调优（RT）之后，应用 TTA 方法可以显著提高 QA 模型的性能。
question answeringrobustness tuningtest-time adaptationtext corruptiononline imitation learning
发现论文，激发创造
  • 分布偏移下测试时间适应的综合调查

    本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

    Mar, 2023

  • 扰动一致性学习下的测试时自适应

    本文介绍了一种名为 PCL 的简单的测试时间自适应方法，用于解决分布转移问题和提高预测的稳定性。实验结果表明，与强大的 PLM 骨干和先前的 TTA 方法相比，该方法能够在更短的推理时间内实现更高或可比较的性能。

    Apr, 2023

  • 通过权重集成、多样性加权和先验校正实现通用的测试时适应

    本文提出了一种名为 ROID 的方法，该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段，解决了在线测试时自适应的问题，以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估，并在普遍 TTA 领域取得了新的标准。

    Jun, 2023

  • 盲目图像质量评估的测试时间适应

    通过引入组对比损失和相对排序损失，使用测试分布中的少量图像批次可以显著提高模型性能，使盲目图像质量评估模型具备质量感知能力并适应目标数据。

    Jul, 2023

  • 可靠的测试时间适应性通过线上协议

    通过对测试数据的自适应方法（TTA）进行评估和校准，解决了分布转移时的困难，同时提出了关于 OOD 准确性估计和超参数调整的可靠方法。

    Oct, 2023

  • 关于测试时适应性的陷阱

    本文提出了针对测试时间适应（TTA）的测试基准 TTAB，通过实验表明：在线批次依赖性使得选择适当的超参数尤其是选择模型极为困难，TTA 的有效性取决于模型的质量和属性，并且即使在最优算法条件下，现有方法也无法处理所有常见类型的分布转移，因此需要在更广泛的模型和转移集上进行严格评估和重新审视 TTA 的实证成功条件。

    Jun, 2023

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023

  • 连续动态场景下的广义鲁棒测试时间自适应

    在测试期间，通过使用未标记的测试数据流独占地对预先训练的模型进行适应，测试时间适应（TTA）在实际应用中具有重要价值。本研究引入了一个更具挑战性的实用测试时间适应（PTTA）设置，并提出了一种广义鲁棒的测试时间适应（GRoTTA）方法来有效解决困难问题。通过稳定地通过鲁棒参数适应使模型平衡预测测试样本，实验表明 GRoTTA 在 PTTA 设置下明显优于现有竞争对手，有助于在实际应用中采用。

    Oct, 2023

  • 寻找失落的在线测试时间自适应：一项调查

    本研究综述了在线测试时间适应（OTTA）的全貌，着重研究机器学习模型在新数据分布上的适应能力。通过将 OTTA 技术归类为三个主要类别，并使用强大的 Vision Transformer（ViT）基础模型进行基准测试，我们揭示了真正有效的策略。同时，引入了新的评估指标以衡量在在线场景中的效率和适应精确度与计算开销之间的权衡。研究结果表明，变换器表现出对不同领域转换的高度弹性，很多 OTTA 方法的功效取决于充足的批次大小，并且在适应过程中对优化的稳定性和对干扰的抵抗力至关重要，特别是在批次大小为 1 的情况下。基于这些发现，我们指出了未来研究的有希望的方向。源代码将会公开。

    Oct, 2023

  • 重访在线评估下的测试时间适应

    该论文提出了一种新颖的在线评估协议，用于对测试时间自适应（TTA）方法进行评估，通过为较慢的方法提供更少的自适应样本来惩罚它们。我们将该协议应用于多个数据集和场景中，评估了几种 TTA 方法，并表明当考虑推理速度时，简单快速的方法可以胜过更复杂但较慢的方法。

    Apr, 2023