Oct, 2023

寻找失落的在线测试时间自适应：一项调查

PDF
TL;DR本研究综述了在线测试时间适应（OTTA）的全貌，着重研究机器学习模型在新数据分布上的适应能力。通过将 OTTA 技术归类为三个主要类别，并使用强大的 Vision Transformer（ViT）基础模型进行基准测试，我们揭示了真正有效的策略。同时，引入了新的评估指标以衡量在在线场景中的效率和适应精确度与计算开销之间的权衡。研究结果表明，变换器表现出对不同领域转换的高度弹性，很多 OTTA 方法的功效取决于充足的批次大小，并且在适应过程中对优化的稳定性和对干扰的抵抗力至关重要，特别是在批次大小为 1 的情况下。基于这些发现，我们指出了未来研究的有希望的方向。源代码将会公开。
online test-time adaptationmachine learning modelsbenchmarksvision transformeradaptation accuracy
发现论文，激发创造
  • 分布偏移下测试时间适应的综合调查

    本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

    Mar, 2023

  • 图像分类中针对分布偏移的实时适应性评估

    通过建立一个基准测试来评估和比较测试时间调整方法在提高模型稳健性和泛化性能方面的有效性，我们提供了一个可靠的评估方式，并探索了不同测试时间调整方法与不同网络骨干的兼容性。

    Jul, 2023

  • 使用特征权重余弦对准进行增强的在线测试时自适应

    在线测试时间适应（OTTA）是一种有效的策略，可以在推理期间用新的目标领域对预训练模型进行即时适应，无需源数据。本文引入了一种新的余弦对齐优化方法和双目标损失函数，以提高类别预测的精度和对新领域的适应性，克服了熵最小化方法的噪声梯度和不正确的低熵预测的限制。我们的方法在多个数据集中（包括 CIFAR-10-C，CIFAR-100-C，ImageNet-C，Office-Home 和 DomainNet 数据集）超越了最先进的技术，并建立了新的基准，展示了对各种损坏和领域变化的高准确性和鲁棒性。

    May, 2024

  • 重访在线评估下的测试时间适应

    该论文提出了一种新颖的在线评估协议，用于对测试时间自适应（TTA）方法进行评估，通过为较慢的方法提供更少的自适应样本来惩罚它们。我们将该协议应用于多个数据集和场景中，评估了几种 TTA 方法，并表明当考虑推理速度时，简单快速的方法可以胜过更复杂但较慢的方法。

    Apr, 2023

  • 关于测试时适应性的陷阱

    本文提出了针对测试时间适应（TTA）的测试基准 TTAB，通过实验表明：在线批次依赖性使得选择适当的超参数尤其是选择模型极为困难，TTA 的有效性取决于模型的质量和属性，并且即使在最优算法条件下，现有方法也无法处理所有常见类型的分布转移，因此需要在更广泛的模型和转移集上进行严格评估和重新审视 TTA 的实证成功条件。

    Jun, 2023

  • 动态场景下的鲁棒性测试时间适应

    本研究提出了一种适用于实际测试数据流的鲁棒测试时间自适应方法，其中包括批量归一化方案、内存库和师生模型，能够稳定地应用于动态实际应用场景中。

    Mar, 2023

  • 无遗忘的高效测试时间模型自适应

    本研究提出了一种主动样本选择的准则，以确定可靠和不冗余的样本，从而使模型更新以最小化测试时适应的熵损失。 同时，引入了一个 Fisher 正则化器，约束重要的模型参数使其不会发生剧烈变化，从而缓解 “灾难性遗忘” 的问题。

    Apr, 2022

  • AR-TTA：一种用于现实世界中连续测试时适应的简单方法

    提出了一种名为 AR-TTA 的方法，该方法在自主驾驶领域中进行了测试时间适应，以处理不同程度的领域转变，并在维护源模型知识和适应动态变化的数据流方面表现优越。

    Sep, 2023

  • 无需参数的在线测试时间自适应

    为了使现有的视觉模型适应于不同的下游场景，本文探讨了在线测试时间自适应方法在各种真实世界场景下的表现，并针对该方法的局限性提出了一种特别保守的方法 —— 使用 LAME 目标来解决问题，并通过高效的凸凹过程求解该目标，从而使其在场景中表现更佳。

    Jan, 2022

  • 通过权重集成、多样性加权和先验校正实现通用的测试时适应

    本文提出了一种名为 ROID 的方法，该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段，解决了在线测试时自适应的问题，以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估，并在普遍 TTA 领域取得了新的标准。

    Jun, 2023