Mar, 2024

测试时适应遇上图像增强：通过不确定性感知的对数开关改进准确性

PDF
TL;DR通过将输入图像增强的新视角加入到 TTA 方法中，以减少预测的不确定性，我们提出了一种名为 TECA 的新方法。通过与图像增强模型结合，TECA 将分类模型与图像增强模型相结合，通过现有的 TTA 方法进行更新，从而减少预测的不确定性，提高 TTA 方法的准确性。
发现论文，激发创造
  • 分布偏移下测试时间适应的综合调查

    本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

    Mar, 2023

  • 无遗忘的高效测试时间模型自适应

    本研究提出了一种主动样本选择的准则，以确定可靠和不冗余的样本，从而使模型更新以最小化测试时适应的熵损失。 同时，引入了一个 Fisher 正则化器，约束重要的模型参数使其不会发生剧烈变化，从而缓解 “灾难性遗忘” 的问题。

    Apr, 2022

  • 无遗忘的不确定性校准的测试时间模型适应

    测试时间适应 (Test-time adaptation，TTA) 在适应给定模型到任何测试样本，以解决训练与测试数据之间的潜在分布差异。然而，现有方法在每个测试样本上执行反向传播，导致对许多应用而言无法承受的优化成本，并且现有的 TTA 在无分布数据上可以显著提高测试性能，但在分布数据上经常遭受严重的性能退化（即遗忘）。为了解决这个问题，我们提出了一种高效的抗遗忘测试时间适应（Efficient Anti-Forgetting Test-Time Adaptation，EATA）方法，该方法通过开发主动样本选择准则来识别可靠且非冗余的测试样本，以实现测试时间熵的最小化。为了减轻遗忘，EATA 引入了一种从测试样本估计的 Fisher 正则化约束重要模型参数以防止剧烈变化的方法。然而，在 EATA 中，采用的熵损失通常将更高的置信度分配给不确定的样本，导致过度自信的预测。为了解决这个问题，我们进一步提出了用校准（Calibration）的 EATA（EATA-C）来分别利用可减小的模型不确定性和固有数据不确定性进行校准的 TTA。具体来说，我们通过完整网络和其子网络之间的预测差异来衡量模型不确定性，为此我们提出了一种差异损失来鼓励一致的预测而不是过度自信的预测。为了进一步重新校准预测置信度，我们利用预测标签之间的差异作为数据不确定性的指标，然后设计了一种最小最大熵正则化器来有选择地增加和减小不同样本的预测置信度。图像分类和语义分割的实验验证了我们方法的有效性。

    Mar, 2024

  • 图像分类中针对分布偏移的实时适应性评估

    通过建立一个基准测试来评估和比较测试时间调整方法在提高模型稳健性和泛化性能方面的有效性，我们提供了一个可靠的评估方式，并探索了不同测试时间调整方法与不同网络骨干的兼容性。

    Jul, 2023

  • 盲目图像质量评估的测试时间适应

    通过引入组对比损失和相对排序损失，使用测试分布中的少量图像批次可以显著提高模型性能，使盲目图像质量评估模型具备质量感知能力并适应目标数据。

    Jul, 2023

  • 智能多视图测试时间增强

    通过智能测试时间增强 (TTA) 算法，在视角变化的情况下提高图像分类模型的稳健性和准确性，该方法根据预测不确定性指标智能选择最佳增强方法，并通过两个阶段的过程来实现该选择，实验验证证明这种方法可以在多个数据集和神经网络架构上获得平均准确率提高 1.73%，突出了在智能增强策略方面进一步探索的潜力。

    Jun, 2024

  • 通过测试时间增强来改进文本分类

    本文提出了一种改进的测试时间增强技术并设计出相应的增强策略，结果表明用于语言模型上的测试时间增强可以显著提高模型的准确性。

    Jun, 2022

  • 单幅图像测试时自适应分割

    优化自监督损失进行测试时间段的自适应图像分割模型，采用多种基线方法及改进，并引入对抗训练来提高性能。

    Sep, 2023

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023

  • 基于多层一致性的傅里叶测试时间调整方法用于稳健分类

    本研究提出了傅里叶试验时间自适应方法（FTTA），通过双重自适应设计来整合输入和模型调整，从而共同提高模型的鲁棒性。FTTA 在三个大型分类数据集上广泛验证，结果表明 FTAA 具有普适性，并优于其他强大的最先进方法。

    Jun, 2023