Sep, 2023

测试时训练语音

PDF
TL;DR本文研究了测试时间训练（TTT）在处理语音应用中的分布偏移问题的应用。我们引入分布偏移到标准语音分类任务的测试数据集中，并探索了测试时间训练（TTT）如何帮助调整到分布偏移。在我们的实验中，包括背景噪声和语音中的性别和年龄等自然变化引起的分布偏移，我们确定了 TTT 面临的一些关键挑战，包括对优化超参数（例如，优化步数和选择 TTT 的参数子集）的敏感性以及可扩展性（例如，由于每个示例都有自己的参数集，TTT 不具有可扩展性）。最后，我们提出使用 BitFit 作为解决上述挑战的参数高效微调算法，BitFit 仅考虑偏差参数进行微调，并证明它相对于微调模型的所有参数更加稳定。
test-time trainingdistribution shiftsspeech applicationsoptimization hyperparametersbitfit
发现论文，激发创造
  • 测试时间训练用于抑郁症检测

    通过分析测试时间训练（TTT）在改善抑郁症检测模型的鲁棒性方面的应用，我们发现与常规测试相比，TTT 可以显著提高模型在由背景噪声、性别偏见和数据收集过程引入的各种分布偏移下的鲁棒性。

    Apr, 2024

  • 分布偏移下测试时间适应的综合调查

    本次研究调查了测试时间适应（TTA）在机器学习中的应用与优化方法。针对不同的学习场景，研究紧分测试时间领域适应、测试时间批适应、在线测试时间适应和测试时间先验适应四类，总结了高级算法的分类方法，探讨了 TTA 的应用与未来研究的挑战。

    Mar, 2023

  • 提升开放世界转换中声学基础模型的测试时适应能力

    本论文研究了面对开放世界数据变化的预训练声学模型的测试时间适应方法，通过引入无启发式、基于学习的自适应方法并结合置信度提升以及在测试时间优化中应用一致性规范化，证明了该方法在合成和真实数据集上的优越性。

    Oct, 2023

  • 领域泛化的改进测试时适应

    本文提出了一种改进的测试时间自适应方法（ITTA），通过引入一个可学习的一致性损失，用于更新辅助测试任务，并且只在测试阶段更新可训练参数，从而解决了域泛化中分布偏移问题，实验表明，该方法在多个评估基准上具有卓越的性能。

    Apr, 2023

  • 自监督测试时间训练实现在分布偏移时的泛化

    本文中，我们提出了测试时间训练的一般方法，通过将单个未标记的测试样本转化为自监督学习问题并在此基础上更新模型参数，从而改善预测模型在训练和测试数据来自不同分布时的性能，特别是在评估对分布的稳健性方面，我们的简单方法在各种图像分类基准测试中导致了改进。

    Sep, 2019

  • TeST: 分布偏移下的测试时自训练

    该篇论文提出了一种 Test-Time Self-Training（TeST）技术，通过使用学生 - 老师结构学习不变和强鲁棒性表示来适应新的分布，进而提高模型在分布变化的测试时期的适应性，其结果显示，与现代域自适应算法相比，使用 TeST 的模型在目标检测和图像分割上达到了最新的测试时间域适应算法的最优水平。

    Sep, 2022

  • 大规模语言模型（LLMs）上的图上测试时间训练

    我们提出了一种新颖的测试时训练（LLMTTT）流程，借助大型语言模型作为注释者，在精心选择的节点集上进行图上的测试时适应，从而相对于现有的超出分布泛化方法，获得显著的性能提升。

    Apr, 2024

  • 关于测试时适应性的陷阱

    本文提出了针对测试时间适应（TTA）的测试基准 TTAB，通过实验表明：在线批次依赖性使得选择适当的超参数尤其是选择模型极为困难，TTA 的有效性取决于模型的质量和属性，并且即使在最优算法条件下，现有方法也无法处理所有常见类型的分布转移，因此需要在更广泛的模型和转移集上进行严格评估和重新审视 TTA 的实证成功条件。

    Jun, 2023

  • 视频流的测试时间训练

    本文研究了在线测试时训练（Online TTT）的方法，通过在视频帧上应用自我监督模型来扩展测试时训练的范畴，并提出了在线 TTT 方法，该方法比离线 TTT 方法在特定情况下取得了更好的实验效果。

    Jul, 2023

  • ClusT3: 信息不变的测试时间训练

    深度学习模型在各种视觉任务中展现出卓越的性能，但它们常常容易受到测试时的领域转移所影响。为了缓解这些脆弱性，已经开发了测试时训练（TTT）方法，在训练时同时解决了主任务和次要任务，以在测试时作为自监督代理任务。在本文中，我们提出了一种基于多尺度特征图和离散潜在表示之间相互信息最大化的新型无监督 TTT 技术，它可以作为一项辅助聚类任务整合到标准训练中。实验结果表明，在不同的常见测试时适应基准上具有竞争力的分类性能。

    Oct, 2023