图像分类中针对分布偏移的实时适应性评估

Jul, 2023

图像分类中针对分布偏移的实时适应性评估

Benchmarking Test-Time Adaptation against Distribution Shifts in Image Classification

Yongcan Yu, Lijun Sheng, Ran He, Jian Liang

TL;DR通过建立一个基准测试来评估和比较测试时间调整方法在提高模型稳健性和泛化性能方面的有效性，我们提供了一个可靠的评估方式，并探索了不同测试时间调整方法与不同网络骨干的兼容性。

Abstract

test-time adaptation (TTA) is a technique aimed at enhancing the generalization performance of models by leveraging unlabeled samples solely during prediction. Given the need for robustness in →

test-time adaptation generalization performance neural network systems benchmark model robustness

发现论文，激发创造

分布偏移下测试时间适应的综合调查

本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

Mar, 2023

关于测试时适应性的陷阱

本文提出了针对测试时间适应（TTA）的测试基准 TTAB，通过实验表明：在线批次依赖性使得选择适当的超参数尤其是选择模型极为困难，TTA 的有效性取决于模型的质量和属性，并且即使在最优算法条件下，现有方法也无法处理所有常见类型的分布转移，因此需要在更广泛的模型和转移集上进行严格评估和重新审视 TTA 的实证成功条件。

Jun, 2023

单幅图像测试时自适应分割

优化自监督损失进行测试时间段的自适应图像分割模型，采用多种基线方法及改进，并引入对抗训练来提高性能。

Sep, 2023

重访在线评估下的测试时间适应

该论文提出了一种新颖的在线评估协议，用于对测试时间自适应（TTA）方法进行评估，通过为较慢的方法提供更少的自适应样本来惩罚它们。我们将该协议应用于多个数据集和场景中，评估了几种 TTA 方法，并表明当考虑推理速度时，简单快速的方法可以胜过更复杂但较慢的方法。

Apr, 2023

盲目图像质量评估的测试时间适应

通过引入组对比损失和相对排序损失，使用测试分布中的少量图像批次可以显著提高模型性能，使盲目图像质量评估模型具备质量感知能力并适应目标数据。

Jul, 2023

无遗忘的高效测试时间模型自适应

本研究提出了一种主动样本选择的准则，以确定可靠和不冗余的样本，从而使模型更新以最小化测试时适应的熵损失。同时，引入了一个 Fisher 正则化器，约束重要的模型参数使其不会发生剧烈变化，从而缓解 “灾难性遗忘” 的问题。