领域泛化的改进测试时适应
本次研究调查了测试时间适应(TTA)在机器学习中的应用与优化方法。针对不同的学习场景,研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类,总结了高级算法的分类方法,探讨了 TTA 的应用与未来研究的挑战。
Mar, 2023
在测试期间,通过使用未标记的测试数据流独占地对预先训练的模型进行适应,测试时间适应(TTA)在实际应用中具有重要价值。本研究引入了一个更具挑战性的实用测试时间适应(PTTA)设置,并提出了一种广义鲁棒的测试时间适应(GRoTTA)方法来有效解决困难问题。通过稳定地通过鲁棒参数适应使模型平衡预测测试样本,实验表明 GRoTTA 在 PTTA 设置下明显优于现有竞争对手,有助于在实际应用中采用。
Oct, 2023
通过无监督领域变化检测方法,该论文解决了传统测试时适应方法在动态环境中适应连续变化的目标分布时所面临的挑战,包括之前学习的有价值源知识的灾难性遗忘和由于错误标签的错误校准而导致的渐进性误差积累问题。
Nov, 2023
提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法,在长期内实现了所有神经网络参数的适应,同时有效避免了疾病遗忘和噪声伪标签带来的错误积累,该方法处理的问题主要集中在测试时间域适应和深度学习等领域。
Mar, 2022
使用主动学习在完全的测试时间适应设置中,通过限制标记测试实例的数量,提高测试领域之间的整体性能,同时避免灾难性遗忘,从而在测试时间适应(TTA)下解决领域偏移的问题。
Apr, 2024
通过建立一个基准测试来评估和比较测试时间调整方法在提高模型稳健性和泛化性能方面的有效性,我们提供了一个可靠的评估方式,并探索了不同测试时间调整方法与不同网络骨干的兼容性。
Jul, 2023
本研究提出了一种主动样本选择的准则,以确定可靠和不冗余的样本,从而使模型更新以最小化测试时适应的熵损失。 同时,引入了一个 Fisher 正则化器,约束重要的模型参数使其不会发生剧烈变化,从而缓解 “灾难性遗忘” 的问题。
Apr, 2022
本文提出了一种名为 ROID 的方法,该方法通过使用确定性和多样性加权、源模型和自适应模型的加权平均以及自适应添加先验校正方案等多项技术手段,解决了在线测试时自适应的问题,以及由于多种因素引起的模型性能下降问题。该方法在多种数据集、模型和场景下进行了评估,并在普遍 TTA 领域取得了新的标准。
Jun, 2023
该研究探讨了测试时间自适应的方法,使用特征修正、自我蒸馏以及空间本地化聚类等技术,提高了医学图像分割任务的性能,进一步提高了现有测试时间适应方法的性能表现。
Mar, 2023
提出了一种名为 AR-TTA 的方法,该方法在自主驾驶领域中进行了测试时间适应,以处理不同程度的领域转变,并在维护源模型知识和适应动态变化的数据流方面表现优越。
Sep, 2023