Jan, 2024

弹性实践测试时间适应：软批归一化对齐和熵驱动的记忆库

PDF
TL;DR通过在测试时进行领域适应，提出了一种抗干扰的实用测试时间适应（ResiTTA）方法，用于解决模型退化和数据质量问题。利用鲁棒批量归一化方法和软对齐策略缓解过拟合和模型退化，并采用熵驱动的记忆库存储高质量数据。通过教师 - 学生模型和自学习损失对模型进行周期性的适应，最终在多个基准数据集上取得了最先进的性能。
test-time domain adaptationmodel degradationresilient practical test-time adaptationparameter resiliencedata quality
发现论文，激发创造
  • 鲁棒连续测试时间调整对抗时间相关性

    本研究提出一种新的测试时间适应方案，该方案主要通过实例感知批量归一化 (IABN) 和预测平衡库采样 (PBRS) 增强模型对非独立同分布数据流的鲁棒性。在各种数据集（包括真实世界的非独立同分布流）上的评估表明，所提出的鲁棒 TTA 不仅在非独立同分布环境下优于现有方法，而且在独立同分布假设下也能达到同等性能。

    Aug, 2022

  • 连续测试时间适应中源知识的有效恢复

    通过无监督领域变化检测方法，该论文解决了传统测试时适应方法在动态环境中适应连续变化的目标分布时所面临的挑战，包括之前学习的有价值源知识的灾难性遗忘和由于错误标签的错误校准而导致的渐进性误差积累问题。

    Nov, 2023

  • 朝向真实世界的测试期适应：带有平衡归一化的三网络自训练

    通过在测试阶段将源域模型适应到测试数据，测试时间适应旨在应对未见过的损坏并证明其成功。然而，在更具挑战性的真实场景下，这些尝试可能会失败。现有的作品主要考虑了非独立同分布的真实世界测试时间适应和持续的域漂移。在这项工作中，我们首先用全局类别不平衡的测试集对现有的真实世界 TTA 协议进行补充。我们证明将所有设置结合起来对现有方法提出了新的挑战。我们认为现有最先进的方法的失败首先是由于在不平衡的测试数据上不加选择地适应归一化层引起的。为了解决这个缺点，我们提出了一个平衡的 batchnorm 层，用于在推理阶段替换正常的 batchnorm。新的 batchnorm 层能够适应而不偏向多数类别。我们受到自我训练（ST）在学习无标签数据中的成功启发，并将 ST 用于测试时间适应。然而，单独使用 ST 容易出现过适应，这是持续域漂移下性能不佳的原因。因此，我们提出通过使用锚定损失对模型更新进行正则化来改进持续域漂移下的自我训练。最终的 TTA 模型，称为 TRIBE，建立在一个带有平衡的 batchnorm 层的三网络结构上。我们在代表真实世界 TTA 设置的四个数据集上评估了 TRIBE。在多个评估协议中，TRIBE 始终实现了最先进的性能。代码可在 https://github.com/Gorilla-Lab-SCUT/TRIBE 上获取。

    Sep, 2023

  • 动态场景下的鲁棒性测试时间适应

    本研究提出了一种适用于实际测试数据流的鲁棒测试时间自适应方法，其中包括批量归一化方案、内存库和师生模型，能够稳定地应用于动态实际应用场景中。

    Mar, 2023

  • 连续的测试时域自适应

    提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法，在长期内实现了所有神经网络参数的适应，同时有效避免了疾病遗忘和噪声伪标签带来的错误积累，该方法处理的问题主要集中在测试时间域适应和深度学习等领域。

    Mar, 2022

  • MedBN: 对恶意测试样本的鲁棒测试时适应性

    测试时间适应（TTA）已成为解决测试数据训练和测试之间意外分布变化导致性能下降的有希望的方法。本研究提出中位数批归一化（MedBN）来应对 TTA 中的恶意示例对模型造成的潜在威胁，通过在测试推理期间的批归一化层中利用中位数来进行统计估计。我们的实验结果表明，MedBN 在维护不同攻击场景下的鲁棒性表现方面优于现有方法，且在无攻击情况下仍能保持良好的性能。

    Mar, 2024

  • EcoTTA: 自我蒸馏正则化实现高效节省内存的持续测试时适应

    本文提出了一个简单而有效的方法，以在内存效率的前提下改善持续的测试时间适应性的执行，该方法主要可在具有有限内存的边缘设备上进行，通过减少内存的使用量来实现。该方法包括两个组件，一个是可以在目标领域中将冻结的原始网络适应的轻量级元网络，第二个是我们的新型自我蒸馏正则化，它可以控制元网络的输出不显著偏离冻结的原始网络的输出，从而保留源域中的良好训练知识，因此即使在长期的测试时间适应过程中，没有额外的存储器，这种正则化也可以防止错误积累和灾难性遗忘，从而实现稳定的性能。我们展示了我们的方法在各种图像分类和语义分割任务的基准测试上优于其他最新方法，其中，我们提出的使用 ResNet-50 和 WideResNet-40 的方法比最新的 CoTTA 方法少使用了 86％和 80％的内存。

    Mar, 2023

  • 自监督批量归一化测试时间适应的通用人员再识别

    本研究提出了一种新的人员再辨识（re-id）框架 ——Batch Norm Test-time Adaption（BNTA），它使用自监督策略自适应地更新 Batch normalization（BN）参数，通过两个辅助任务：部分定位和最近邻匹配，挖掘与部分结构和身份相关的领域感知信息，并调节经过 BN 规范化的特征分布以适应目标域，从而在三个再识别数据集上证明了该方法的卓越性能。

    Mar, 2022

  • 测试时间自适应的特征对齐和统一性

    该研究探讨了测试时间自适应的方法，使用特征修正、自我蒸馏以及空间本地化聚类等技术，提高了医学图像分割任务的性能，进一步提高了现有测试时间适应方法的性能表现。

    Mar, 2023

  • 揭秘批归一化对于现实测试时适应性的作用

    该研究论文探讨了小批量数据受损的问题，通过揭示批量归一化的不准确目标统计数据主要源于小批量中大幅减少的类别多样性，引入了一种简单的工具 Test-time Exponential Moving Average (TEMA)，以弥补训练和测试批次之间的类别多样性差距，进而提高准确的目标估计，在不需要训练或调参的情况下显著提高模型的鲁棒性。

    Dec, 2023