Feb, 2024

基于原型特征的完全测试时间自适应中的梯度对齐

PDF
TL;DR通过提出一种称为原型特征的梯度对齐正则化器（GAP）来减轻测试时自适应中由于错误分类的伪标签的信息熵最小化损失的不适当指导。我们开发了一种梯度对齐损失来精确地管理自适应过程，确保对一些数据所做的更改不会对其他数据上的模型性能产生负面影响。为了使 GAP 正则化器能够在只能访问没有标签的测试数据的 TTA 约束下实现，我们通过两种方式调整了其公式：用分类器的权重向量近似原型特征，计算梯度而无需反向传播。我们展示了 GAP 显著改善了各种数据集上的 TTA 方法，证明了其多功能性和有效性。
test-time adaptationgradient alignment with prototype featureentropy minimization lossgradient alignment lossprototype feature
发现论文，激发创造
  • 可靠的测试时间适应性的解耦原型学习

    通过提出 Decoupled Prototype Learning (DPL) 方法，本研究解决了使用伪标签进行交叉熵损失微调时容易受到标签噪声影响的问题，并引入了基于内存的策略增强小批量处理的鲁棒性，在遇到不确定伪标签的样本时，使用一致性正则化方法转移特征风格以提高测试时自适应（TTA）的可靠性。实验结果表明，我们的方法在领域泛化基准上取得了最先进的性能，并可靠提高图像破坏基准上基于自训练方法的性能。

    Jan, 2024

  • GraphTTA: 图神经网络测试时间自适应

    本文提出了一种名为 GAPGC 的新型测试时间适应策略，通过对比学习和自监督学习等方法，有效增强图神经网络的适应性和性能，并且提供了信息论的理论证明。实验结果表明，该方法在分子骨架 OOD 数据集上取得了最先进的 GNN 性能。

    Aug, 2022

  • 共轭伪标签测试时调整

    本文研究了针对分布漂移进行测试时间自适应（TTA）的方法，在各种函数类中元学习 TTA loss 能够迅速获得与熵函数类似的 loss 函数，并基于最优 loss 函数提供了更好的 TTA 方法。同时，在新型的 supervised training loss 函数中，我们的方法也显示了优异的表现，为改善测试时间自适应提供了广阔的框架。

    Jul, 2022

  • 连续动态场景下的广义鲁棒测试时间自适应

    在测试期间，通过使用未标记的测试数据流独占地对预先训练的模型进行适应，测试时间适应（TTA）在实际应用中具有重要价值。本研究引入了一个更具挑战性的实用测试时间适应（PTTA）设置，并提出了一种广义鲁棒的测试时间适应（GRoTTA）方法来有效解决困难问题。通过稳定地通过鲁棒参数适应使模型平衡预测测试样本，实验表明 GRoTTA 在 PTTA 设置下明显优于现有竞争对手，有助于在实际应用中采用。

    Oct, 2023

  • 跨批次度量学习实现通用嵌入

    通过将全局平均池化 (GAP) 解释为可学习原型的凸组合，我们将深度度量学习 (DML) 中通常作为一种将重要性归因于不同语义实体的特征向量汇总方法的有效性，转化为了学习可用于表示未见类别的可推广实体的算法。同时，我们探究了两批次间彼此分离的类别，并通过利用其他批次适配的原型表达了一个批次的样本来优化学习。

    Jul, 2023

  • 基于图诱导原型对齐的跨域检测

    通过图形感知原型对齐（GPA）框架和加权对比损失最小化类不平衡，结合 Faster R-CNN 的特征对齐方式，可实现目标探测跨域适应。

    Mar, 2020

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023

  • 通过测试时类条件特征对齐使视觉 Transformer 获得稳健性

    研究了 Vision Transformer 图像处理中测试时间适应技术，证明了 TTA 对 ViT 有效并且在使用适当的损失函数时不存在先前惯例，提出了一种称为类条件特征对齐（CFA）的新测试时间适应方法，并证明了其在多个数据集上超越了现有基线的最新结果。

    Jun, 2022

  • 扰动一致性学习下的测试时自适应

    本文介绍了一种名为 PCL 的简单的测试时间自适应方法，用于解决分布转移问题和提高预测的稳定性。实验结果表明，与强大的 PLM 骨干和先前的 TTA 方法相比，该方法能够在更短的推理时间内实现更高或可比较的性能。

    Apr, 2023

  • 使用特征权重余弦对准进行增强的在线测试时自适应

    在线测试时间适应（OTTA）是一种有效的策略，可以在推理期间用新的目标领域对预训练模型进行即时适应，无需源数据。本文引入了一种新的余弦对齐优化方法和双目标损失函数，以提高类别预测的精度和对新领域的适应性，克服了熵最小化方法的噪声梯度和不正确的低熵预测的限制。我们的方法在多个数据集中（包括 CIFAR-10-C，CIFAR-100-C，ImageNet-C，Office-Home 和 DomainNet 数据集）超越了最先进的技术，并建立了新的基准，展示了对各种损坏和领域变化的高准确性和鲁棒性。

    May, 2024