无反向传播的网络用于三维测试时适应性

CVPRMar, 2024

无反向传播的网络用于三维测试时适应性

Backpropagation-free Network for 3D Test-time Adaptation

Yanshuo Wang, Ali Cheraghian, Zeeshan Hayder, Jie Hong, Sameera Ramasinghe...

TL;DR我们提出了一种新颖的方法，使用无反向传播法来处理 3D 数据的测试时适应问题，采用两流架构来维护源领域和目标领域的知识，并通过子空间学习减少两个领域之间的分布差异，使用基于熵的自适应融合策略对源领域和目标领域进行对齐。在流行的基准测试上进行了大量实验，证明了我们方法的有效性。

Abstract

Real-world systems often encounter new data over time, which leads to experiencing target domain shifts. Existing test-time adaptation (TTA) methods tend to apply computationally heavy and memory-intensive backpropagation-based approaches to handle this. Here, we propose a novel method

test-time adaptation backpropagation-free approach two-stream architecture subspace learning entropy-based adaptive fusion strategy

发现论文，激发创造

连续的测试时域自适应

提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法，在长期内实现了所有神经网络参数的适应，同时有效避免了疾病遗忘和噪声伪标签带来的错误积累，该方法处理的问题主要集中在测试时间域适应和深度学习等领域。

Mar, 2022

连续测试时间适应中源知识的有效恢复

通过无监督领域变化检测方法，该论文解决了传统测试时适应方法在动态环境中适应连续变化的目标分布时所面临的挑战，包括之前学习的有价值源知识的灾难性遗忘和由于错误标签的错误校准而导致的渐进性误差积累问题。

Nov, 2023

基于源自由的在线领域自适应卫星图像语义分割在图像退化下的应用

在线自适应卫星图像分割中的分布偏移问题是一个关键但尚未充分探索的问题。本文提出了一种新的在线测试时领域适应方法，通过两种有效策略来缓解由各种形式的图像退化引起的分布偏移。通过全局 BN 统计估计和全局类别中心修正预测掩码的方法，我们的方法在各种领域适应场景中展现了鲁棒的性能。

Jan, 2024

在线测试时间适应的领域特定块选择和配对视觉伪标签

测试时间适应 (TTA) 目的在于在部署后无法访问源数据的情况下，将预训练模型调整到新的测试领域。我们提出了 DPLOT，一个简单而有效的 TTA 框架，主要包括两个组件：(1) 选择涉及特定领域特征提取的块，通过熵最小化对这些块进行训练；(2) 使用配对视图图像生成伪标签。通过简单地使用翻转增强，我们防止了伪标签质量的降低。我们的实验结果表明，DPLOT 在 CIFAR10-C、CIFAR100-C 和 ImageNet-C 基准测试中表现优于以前的 TTA 方法，分别减少了 5.4%、9.1% 和 2.9% 的错误。

Apr, 2024

测试时间自适应的特征对齐和统一性

该研究探讨了测试时间自适应的方法，使用特征修正、自我蒸馏以及空间本地化聚类等技术，提高了医学图像分割任务的性能，进一步提高了现有测试时间适应方法的性能表现。

Mar, 2023

基于交叉注意力的前馈无源隐空域自适应

本文研究深度学习中前馈源自适应的应用及其改进，通过交叉关注机制自适应目标数据集，探索自动化实例选取提升性能，实验表明我们提出的框架能显著改进现有方法。

Jul, 2022

动态场景下的鲁棒性测试时间适应

本研究提出了一种适用于实际测试数据流的鲁棒测试时间自适应方法，其中包括批量归一化方案、内存库和师生模型，能够稳定地应用于动态实际应用场景中。

Mar, 2023

无遗忘的高效测试时间模型自适应

本研究提出了一种主动样本选择的准则，以确定可靠和不冗余的样本，从而使模型更新以最小化测试时适应的熵损失。同时，引入了一个 Fisher 正则化器，约束重要的模型参数使其不会发生剧烈变化，从而缓解 “灾难性遗忘” 的问题。

Apr, 2022

全面走向合成：通过扩散驱动的测试时间自适应进行合成域对齐

通过 Synthetic-Domain Alignment（SDA）框架，使用有条件扩散模型生成合成数据集，然后使用无条件扩散模型对每个样本添加噪声和降噪，以解决扩散驱动的 TTA 方法中源模型和合成数据之间的潜在领域差异问题。实验证明，SDA 可以实现更好的领域对齐，并一致优于现有的扩散驱动 TTA 方法。

Jun, 2024

可靠的测试时间适应性的解耦原型学习

通过提出 Decoupled Prototype Learning (DPL) 方法，本研究解决了使用伪标签进行交叉熵损失微调时容易受到标签噪声影响的问题，并引入了基于内存的策略增强小批量处理的鲁棒性，在遇到不确定伪标签的样本时，使用一致性正则化方法转移特征风格以提高测试时自适应（TTA）的可靠性。实验结果表明，我们的方法在领域泛化基准上取得了最先进的性能，并可靠提高图像破坏基准上基于自训练方法的性能。

Jan, 2024