本研究综述了在线测试时间适应（OTTA）的全貌，着重研究机器学习模型在新数据分布上的适应能力。通过将 OTTA 技术归类为三个主要类别，并使用强大的 Vision Transformer（ViT）基础模型进行基准测试，我们揭示了真正有效的策略。同时，引入了新的评估指标以衡量在在线场景中的效率和适应精确度与计算开销之间的权衡。研究结果表明，变换器表现出对不同领域转换的高度弹性，很多 OTTA 方法的功效取决于充足的批次大小，并且在适应过程中对优化的稳定性和对干扰的抵抗力至关重要，特别是在批次大小为 1 的情况下。基于这些发现，我们指出了未来研究的有希望的方向。源代码将会公开。

Oct, 2023

本文提出了一种名为 ROID 的方法，该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段，解决了在线测试时自适应的问题，以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估，并在普遍 TTA 领域取得了新的标准。

Jun, 2023

提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法，在长期内实现了所有神经网络参数的适应，同时有效避免了疾病遗忘和噪声伪标签带来的错误积累，该方法处理的问题主要集中在测试时间域适应和深度学习等领域。

Mar, 2022

提出了一种称为统一熵优化（UniEnt）的简单而有效的框架，用于同时适应协变量转移内分布数据和检测协变量转移外分布数据，并通过引入 UniEnt+ 来减轻由于硬数据分区而引起的噪声。在 CIFAR 基准和 Tiny-ImageNet-C 上进行的广泛实验显示了我们框架的优越性。

Apr, 2024

提出了一种名为 Robust Entropy Adaptive Loss Minimization (REALM) 的方法，通过改进 F-TTA 中的噪声样本问题，提高了自适应过程的准确性。

Sep, 2023

通过以熵最小化为灵感来源的样本选择方法，我们过滤掉适应模型中的置信度值降低的样本，从而解决测试时自适应方法中由于错误预测导致的噪音问题，显著改善了图像分类和语义分割的长期适应性能。

Aug, 2023

本文研究了针对分布漂移进行测试时间自适应（TTA）的方法，在各种函数类中元学习 TTA loss 能够迅速获得与熵函数类似的 loss 函数，并基于最优 loss 函数提供了更好的 TTA 方法。同时，在新型的 supervised training loss 函数中，我们的方法也显示了优异的表现，为改善测试时间自适应提供了广阔的框架。

Jul, 2022

采用 Fisher 信息矩阵为基础的算法，通过引入逐层自动加权的方法，实现在不断变化的目标分布环境中的模型自适应，以减少遗忘和错误积累，并大大降低计算负载。

Nov, 2023

本文提出了一种基于最优传输的领域适应方法，使用仿射映射的封闭形式解决方案，并学习一个嵌入空间，使得该解决方案是最优且计算复杂性较低的。我们证明了该方法在同质和异质适应设置中均有效，并且优于或与其他基于传统 OT 和不可比空间的著名基线相当。此外，我们展示了我们的方法大大降低了计算复杂性。

May, 2023

本研究提出了一种基于简洁的对称交叉熵损失与对比学习的鲁棒性平均教师方法（RMT），可以在测试时自适应地应对连续和逐渐变化的数据分布转移，实验结果表明，在多个基准测试集上达到了最先进的结果。

Nov, 2022