Apr, 2024

NC-TTT：一种用于测试时间训练的噪音对比方法

PDF
TL;DR通过鉴别噪声特征图，学习对投射特征图的噪声视图进行分类，从而在新的领域上正确调整模型，本研究提出了基于噪声对比测试时间训练（NC-TTT）的一种新的无监督测试时间训练技术，实验证明了我们方法在这一任务上相对于最近的方法的优势。
deep learning modelstest-time trainingunsupervised ttt techniquenoisy feature mapstest-time adaptation
发现论文，激发创造
  • ClusT3: 信息不变的测试时间训练

    深度学习模型在各种视觉任务中展现出卓越的性能，但它们常常容易受到测试时的领域转移所影响。为了缓解这些脆弱性，已经开发了测试时训练（TTT）方法，在训练时同时解决了主任务和次要任务，以在测试时作为自监督代理任务。在本文中，我们提出了一种基于多尺度特征图和离散潜在表示之间相互信息最大化的新型无监督 TTT 技术，它可以作为一项辅助聚类任务整合到标准训练中。实验结果表明，在不同的常见测试时适应基准上具有竞争力的分类性能。

    Oct, 2023

  • 利用输出对比损失进行语义分割的测试时间训练

    通过适应输出对比损失（OCL）方法，在图像语义分割中提高模型对新领域的泛化能力，验证了该方法在不同评估场景下的有效性。

    Nov, 2023

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023

  • 测试时训练语音

    本文研究了测试时间训练（TTT）在处理语音应用中的分布偏移问题的应用。我们引入分布偏移到标准语音分类任务的测试数据集中，并探索了测试时间训练（TTT）如何帮助调整到分布偏移。在我们的实验中，包括背景噪声和语音中的性别和年龄等自然变化引起的分布偏移，我们确定了 TTT 面临的一些关键挑战，包括对优化超参数（例如，优化步数和选择 TTT 的参数子集）的敏感性以及可扩展性（例如，由于每个示例都有自己的参数集，TTT 不具有可扩展性）。最后，我们提出使用 BitFit 作为解决上述挑战的参数高效微调算法，BitFit 仅考虑偏差参数进行微调，并证明它相对于微调模型的所有参数更加稳定。

    Sep, 2023

  • 大规模语言模型（LLMs）上的图上测试时间训练

    我们提出了一种新颖的测试时训练（LLMTTT）流程，借助大型语言模型作为注释者，在精心选择的节点集上进行图上的测试时适应，从而相对于现有的超出分布泛化方法，获得显著的性能提升。

    Apr, 2024

  • 通过锚定聚类重新审视真实测试时间的连续推断和自适应训练

    本文提出一种测试时训练（test-time training）的方法用于部署深度神经网络模型在不同域中数据的适配过程，其中采用实际顺序的 test-time anchored clustering（TTAC）协议来进行强化测试时间的特征学习，最终在六个测试数据集中超越其他已有的测试时训练方法。

    Jun, 2022

  • TTTFlow: 无监督测试时间训练与正态流

    该论文提出了一种用于图像分类的深度神经网络方法，通过测试时训练和无监督学习实现领域自适应，并在实验中证明了该方法相对于之前方法的优势。

    Oct, 2022

  • 视频流的测试时间训练

    本文研究了在线测试时训练（Online TTT）的方法，通过在视频帧上应用自我监督模型来扩展测试时训练的范畴，并提出了在线 TTT 方法，该方法比离线 TTT 方法在特定情况下取得了更好的实验效果。

    Jul, 2023

  • 测试时间训练用于抑郁症检测

    通过分析测试时间训练（TTT）在改善抑郁症检测模型的鲁棒性方面的应用，我们发现与常规测试相比，TTT 可以显著提高模型在由背景噪声、性别偏见和数据收集过程引入的各种分布偏移下的鲁棒性。

    Apr, 2024

  • 对比测试时间自适应

    本文提出 AdaContrast，通过自监督对比学习和在线伪标签提取相结合的方式，实现了无访问源域数据的测试时间自适应，并在主要基准测试中达到了最先进水平。

    Apr, 2022