BECoTTA:针对输入的在线专家混合用于持续测试时间适应
提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法,在长期内实现了所有神经网络参数的适应,同时有效避免了疾病遗忘和噪声伪标签带来的错误积累,该方法处理的问题主要集中在测试时间域适应和深度学习等领域。
Mar, 2022
通过引入一种新颖的方法,即 C-CoTTA,它明确防止任何单个类别侵占其他类别,从而减轻不可控转换引起的各类别之间的相互影响,减少模型对领域转换的敏感性,从而降低类别转变的程度。
May, 2024
本文研究了在不断变化的目标领域中将源预训练模型适应的困难任务,发现源模型对目标数据流分布的不断改变表现出高度偏向的预测,本文提出了一种解决偏见问题的方法,并在现有的连续测试时间适应方法基础上取得了显著的性能提升,而适应时间开销并不大。
Mar, 2024
本文介绍了一种通过视觉提示的动态提示核心集方法来实现持续的测试时间自适应(TTA),该方法不仅保留了先前访问的领域的知识,而且适应了新潜在领域的学习。经过广泛的测试,包括 ImageNet-C,CIFAR100-C 和 CIFAR10-C 等基准,显示出我们的方法始终优于最先进的替代方法,在动态变化的环境中表现突出,特别是在遇到灾难性遗忘和误差累积等挑战时。
Jun, 2024
本文提出了一种改进的测试时间自适应方法(ITTA),通过引入一个可学习的一致性损失,用于更新辅助测试任务,并且只在测试阶段更新可训练参数,从而解决了域泛化中分布偏移问题,实验表明,该方法在多个评估基准上具有卓越的性能。
Apr, 2023
通过无监督领域变化检测方法,该论文解决了传统测试时适应方法在动态环境中适应连续变化的目标分布时所面临的挑战,包括之前学习的有价值源知识的灾难性遗忘和由于错误标签的错误校准而导致的渐进性误差积累问题。
Nov, 2023
本文提出了一个简单而有效的方法,以在内存效率的前提下改善持续的测试时间适应性的执行,该方法主要可在具有有限内存的边缘设备上进行,通过减少内存的使用量来实现。该方法包括两个组件,一个是可以在目标领域中将冻结的原始网络适应的轻量级元网络,第二个是我们的新型自我蒸馏正则化,它可以控制元网络的输出不显著偏离冻结的原始网络的输出,从而保留源域中的良好训练知识,因此即使在长期的测试时间适应过程中,没有额外的存储器,这种正则化也可以防止错误积累和灾难性遗忘,从而实现稳定的性能。我们展示了我们的方法在各种图像分类和语义分割任务的基准测试上优于其他最新方法,其中,我们提出的使用 ResNet-50 和 WideResNet-40 的方法比最新的 CoTTA 方法少使用了 86%和 80%的内存。
Mar, 2023
利用 Mixture-of-Activation-Sparsity-Experts 将神经激活分解为高激活和低激活成分,结合领域信息和自适应特征选择阈值,通过引入 Homeostatic-Proximal 损失解决了模型连续适应中的问题,从而在分类和分割任务中达到了最先进的性能。
May, 2024
通过在不依赖于伪标签的情况下,通过模型预测不确定性的量化来识别层,以克服先前方法的局限性;在 CIFAR-10C、CIFAR-100C 和 ImageNet-C 等标准测试数据集上进行了详细的图像分类实验,证明了我们方法的功效。
Mar, 2024
BESTTA 是一个新颖的单图持续测试时间适应方法,通过风格转换引导,能够稳定高效地适应目标环境,仅使用一张图像在语义分割和图像分类任务中表现出色。
Nov, 2023