Oct, 2023

从聚类视角改进基于熵的测试时适应性

PDF
TL;DR领域转移是现实世界中常见的问题，完全测试时间适应（TTA）利用测试时间遇到的未标记数据来调整模型。我们从聚类的视角介绍了熵基于 TTA 方法（EBTTA），解释了为什么现有的 EBTTA 方法对初始分配、异常值和批次大小敏感，并提出了改进的方法。实验结果表明，我们的方法在各种数据集上都能取得一致的改进。
domain shiftfully test-time adaptationentropy-based ttaclusteringrobust label assignment
发现论文，激发创造
  • 无遗忘的不确定性校准的测试时间模型适应

    测试时间适应 (Test-time adaptation，TTA) 在适应给定模型到任何测试样本，以解决训练与测试数据之间的潜在分布差异。然而，现有方法在每个测试样本上执行反向传播，导致对许多应用而言无法承受的优化成本，并且现有的 TTA 在无分布数据上可以显著提高测试性能，但在分布数据上经常遭受严重的性能退化（即遗忘）。为了解决这个问题，我们提出了一种高效的抗遗忘测试时间适应（Efficient Anti-Forgetting Test-Time Adaptation，EATA）方法，该方法通过开发主动样本选择准则来识别可靠且非冗余的测试样本，以实现测试时间熵的最小化。为了减轻遗忘，EATA 引入了一种从测试样本估计的 Fisher 正则化约束重要模型参数以防止剧烈变化的方法。然而，在 EATA 中，采用的熵损失通常将更高的置信度分配给不确定的样本，导致过度自信的预测。为了解决这个问题，我们进一步提出了用校准（Calibration）的 EATA（EATA-C）来分别利用可减小的模型不确定性和固有数据不确定性进行校准的 TTA。具体来说，我们通过完整网络和其子网络之间的预测差异来衡量模型不确定性，为此我们提出了一种差异损失来鼓励一致的预测而不是过度自信的预测。为了进一步重新校准预测置信度，我们利用预测标签之间的差异作为数据不确定性的指标，然后设计了一种最小最大熵正则化器来有选择地增加和减小不同样本的预测置信度。图像分类和语义分割的实验验证了我们方法的有效性。

    Mar, 2024

  • 共轭伪标签测试时调整

    本文研究了针对分布漂移进行测试时间自适应（TTA）的方法，在各种函数类中元学习 TTA loss 能够迅速获得与熵函数类似的 loss 函数，并基于最优 loss 函数提供了更好的 TTA 方法。同时，在新型的 supervised training loss 函数中，我们的方法也显示了优异的表现，为改善测试时间自适应提供了广阔的框架。

    Jul, 2022

  • 使用 InTEnt 进行医学图像分割：整合熵权重的单图像测试时适应性

    通过使用在训练和测试统计数据之间进行的基于熵统计的加权目标域统计估计的预测整合方法，我们解决了在只有单个无标签测试图像的情况下，适应医学图像分割模型的任务。

    Feb, 2024

  • 分布偏移下测试时间适应的综合调查

    本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

    Mar, 2023

  • 无遗忘的高效测试时间模型自适应

    本研究提出了一种主动样本选择的准则，以确定可靠和不冗余的样本，从而使模型更新以最小化测试时适应的熵损失。 同时，引入了一个 Fisher 正则化器，约束重要的模型参数使其不会发生剧烈变化，从而缓解 “灾难性遗忘” 的问题。

    Apr, 2022

  • 基于群体智慧的熵最小化方法，实现测试时的开放集适应

    通过以熵最小化为灵感来源的样本选择方法，我们过滤掉适应模型中的置信度值降低的样本，从而解决测试时自适应方法中由于错误预测导致的噪音问题，显著改善了图像分类和语义分割的长期适应性能。

    Aug, 2023

  • 主动测试时间适应：理论分析与算法

    使用主动学习在完全的测试时间适应设置中，通过限制标记测试实例的数量，提高测试领域之间的整体性能，同时避免灾难性遗忘，从而在测试时间适应（TTA）下解决领域偏移的问题。

    Apr, 2024

  • 通过权重集成、多样性加权和先验校正实现通用的测试时适应

    本文提出了一种名为 ROID 的方法，该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段，解决了在线测试时自适应的问题，以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估，并在普遍 TTA 领域取得了新的标准。

    Jun, 2023

  • 动态野外环境中稳定的测试时适应性

    论文通过分析测试样本及训练数据的分配差异，发现批处理层对测试时间调整法的不稳定性有重要影响。作者提出了一种基于群组及层规范化的调整稳定方法，并提出一种名为 SAR 的方法，通过消除嘈杂测试样本及鼓励模型权重保持平稳的最小值，从两个方面进一步稳定 TTA，效果比先前方法更稳定，且在上述野外测试方案下计算效率更高。

    Feb, 2023

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023