降低噪声：通过伪标签集成利用扩散模型进行测试时自适应

Nov, 2023

降低噪声：通过伪标签集成利用扩散模型进行测试时自适应

Turn Down the Noise: Leveraging Diffusion Models for Test-time Adaptation via Pseudo-label Ensembling

Mrigank Raman, Rohan Shah, Akash Kannan, Pranit Chawla

TL;DR利用预训练的扩散模型将目标领域图像投影到源领域，并通过伪标签集成迭代更新模型的方法，将模型适应和输入适应的优势相结合，从而减轻它们的缺点。在 CIFAR-10C 上的实验表明，我们的方法优于最强基线平均 1.7％，比最强的输入适应基线平均高出 18％。

Abstract

The goal of test-time adaptation is to adapt a source-pretrained model to a continuously changing target domain without relying on any source data. Typically, this is either done by updating the parameters of the model (model adaptation) using inputs from the target domain or by modify

test-time adaptation model adaptation input adaptation diffusion model pseudo-label ensembling

发现论文，激发创造

回到源头：扩散驱动的测试时适应

该研究提出了一种基于扩散生成模型的测试时间自适应方法（DDA），该方法可在不重新训练模型的情况下通过对输入数据进行自适应来提高模型在移位目标数据上的准确性，并在 ImageNet-C 基准测试中展现了更加鲁棒的表现。

Jul, 2022

基于扩散模型的测试时间图像适应性用于鲁棒皮肤病变分类

我们提出了一种测试时间图像适应方法，通过同时更新和预测测试图像来提高模型在测试数据上的准确性，通过扩散模型将目标测试图像反投影到源域，设计结构指导模块通过低通滤波添加细化操作，用于正则化扩散以保留结构信息，并引入自整合方案自动调整对适应和未适应输入的依赖关系，增强适应鲁棒性。在我们构建的 ISIC2019-C 和 Dermnet-C 损坏鲁棒性评估基准上进行的大量实验表明，我们的方法在各种损坏、体系结构和数据区域上使分类器更加鲁棒。我们的数据集和代码将在 https://github.com/minghu0830/Skin-TTA_Diffusion 上提供。

May, 2024

解决无源无监督视频域自适应的标签噪声问题

使用自主训练、伪标签、微调和师生框架等方法，这篇论文提出了解决视频领域适应性问题的方法，以在没有源数据的情况下实现源无关自适应，并取得了领先的实验结果。

Nov, 2023

一种概率框架的终身测试适应性

PETAL 是一种基于概率视角和部分数据相关先验的测试时间自适应方法，利用 Fisher 信息矩阵的数据驱动模型参数重置机制应对非平稳目标领域转移，实验结果表明 PETAL 在多个基准测试数据集中表现出更好的预测性能和不确定性指标。

Dec, 2022

连续的测试时域自适应

提出了一个基于权重平均和增强平均预测的持续测试时间自适应方法，在长期内实现了所有神经网络参数的适应，同时有效避免了疾病遗忘和噪声伪标签带来的错误积累，该方法处理的问题主要集中在测试时间域适应和深度学习等领域。

Mar, 2022

预训练网络的少样本领域适应

提出了一种少样本领域自适应框架，通过受目标域的一个小支持集合监督的预训练源模型中的特征标准化统计的约束优化，可改善源模型的分类性能，实验证明该方法优于测试时适应方法，并且没有实时流条件的限制。

May, 2022

通过置信度最大化和输入变换对分布偏移进行测试时间适应

该论文研究深度神经网络在非训练时数据分布下表现不佳的问题，提出一种全测试时间适应的解决方案，通过使用替代熵和添加基于批次的熵最大化的多样性正则化器来解决熵最小化的早期收敛和不稳定性问题，并且可以通过在完全测试时间适应性损失中学习无需目标域标签或源域数据的输入变换模块，从而达到在 ImageNet-C 等挑战性基准测试中提高公共预训练图像分类器鲁棒性的效果。

Jun, 2021

基于导向的扩散模型的测试时适应

这篇论文介绍了一种新的基于引导的扩散驱动自适应方法，通过引入详细和全局的引导信息以及考虑分类器的引导信息，解决了测试数据与源域之间的语义信息丢失和模型偏移问题，并在多个实验中取得了显著的改进。

Dec, 2023

在嘈杂环境下实现准确且稳健的领域适应

本文提出了一种使用离线课程学习和代理分布的边际差异方法来消除标签噪声和特征噪声的领域自适应算法，并将其无缝转化为一个对抗网络进行联合优化，在存在噪声的环境下，与现有技术相比取得了超过 10％的准确度提高。

Apr, 2020

全面走向合成：通过扩散驱动的测试时间自适应进行合成域对齐

通过 Synthetic-Domain Alignment（SDA）框架，使用有条件扩散模型生成合成数据集，然后使用无条件扩散模型对每个样本添加噪声和降噪，以解决扩散驱动的 TTA 方法中源模型和合成数据之间的潜在领域差异问题。实验证明，SDA 可以实现更好的领域对齐，并一致优于现有的扩散驱动 TTA 方法。

Jun, 2024