- 大规模语言模型(LLMs)上的图上测试时间训练
我们提出了一种新颖的测试时训练(LLMTTT)流程,借助大型语言模型作为注释者,在精心选择的节点集上进行图上的测试时适应,从而相对于现有的超出分布泛化方法,获得显著的性能提升。
- NC-TTT:一种用于测试时间训练的噪音对比方法
通过鉴别噪声特征图,学习对投射特征图的噪声视图进行分类,从而在新的领域上正确调整模型,本研究提出了基于噪声对比测试时间训练(NC-TTT)的一种新的无监督测试时间训练技术,实验证明了我们方法在这一任务上相对于最近的方法的优势。
- 测试时间训练用于抑郁症检测
通过分析测试时间训练(TTT)在改善抑郁症检测模型的鲁棒性方面的应用,我们发现与常规测试相比,TTT 可以显著提高模型在由背景噪声、性别偏见和数据收集过程引入的各种分布偏移下的鲁棒性。
- 关于异常检测的测试时间训练
通过测试时训练方法,我们引入 DOUST 来显著提高异常检测的检测性能,并且在对常见基准数据集进行全面评估后,我们讨论了一个常见问题,并表明该问题在足够大的测试集下会消失。因此,我们得出结论,在合理的条件下,即使没有提供标记的异常值,我们的 - DINO-Tracker:单视频中自监督点追踪的 DINO 驯化
DINO-Tracker 是一种新的视频长期密集跟踪框架,通过在单个视频上进行测试时间训练,并结合预训练的 DINO-ViT 模型中学到的强大的局部语义特征,从而适应测试视频的动态观察,同时训练一种直接利用改进特征的跟踪器,通过自监督损失和 - TTT-KD: 基于基础模型的知识蒸馏进行测试时训练用于 3D 语义分割
提出了第一个用于 3D 语义分割的测试时训练方法 TTT-KD,通过模拟知识蒸馏,适应测试时的分布转变,从而提高在分布相似和分布不同的测试样本上的性能。
- 利用测试时间训练克服插拔式方法中的分布偏移
提出了 PnP-TTT 这种新方法来克服 PnP 方法中的分布偏移问题,通过在 PnP 迭代的固定点上优化自监督损失来应用于单个测试样本以改善 PnP 的泛化能力。模拟实验表明,在测量次数足够的情况下,PnP-TTT 可以使用在自然图像上训 - CVPR零样本视频目标分割的深度感知测试时间训练
该研究通过引入测试时培训策略,建立了一个同时进行分割和深度预测任务的单一网络,使用特别设计的深度调制层来有效学习。同时,对于测试时培训过程,模型通过预测不同数据增强下相同帧的一致深度图来进行更新,通过动量和循环的权重更新策略,取得了稳定的改 - 利用输出对比损失进行语义分割的测试时间训练
通过适应输出对比损失(OCL)方法,在图像语义分割中提高模型对新领域的泛化能力,验证了该方法在不同评估场景下的有效性。
- ClusT3: 信息不变的测试时间训练
深度学习模型在各种视觉任务中展现出卓越的性能,但它们常常容易受到测试时的领域转移所影响。为了缓解这些脆弱性,已经开发了测试时训练(TTT)方法,在训练时同时解决了主任务和次要任务,以在测试时作为自监督代理任务。在本文中,我们提出了一种基于多 - 测试时训练语音
本文研究了测试时间训练(TTT)在处理语音应用中的分布偏移问题的应用。我们引入分布偏移到标准语音分类任务的测试数据集中,并探索了测试时间训练(TTT)如何帮助调整到分布偏移。在我们的实验中,包括背景噪声和语音中的性别和年龄等自然变化引起的分 - 视频流的测试时间训练
本文研究了在线测试时训练(Online TTT)的方法,通过在视频帧上应用自我监督模型来扩展测试时训练的范畴,并提出了在线 TTT 方法,该方法比离线 TTT 方法在特定情况下取得了更好的实验效果。
- 大型语言模型最近邻测试时间训练
本研究使用最近邻检索方法,直接在测试时 fine-tuning 模型,明显提升了大量语言模型任务的性能。
- 数字病理图像的自适应域泛化
研究关注于组织学培训中的颜色和扫描仪变化对人工智能的影响,并介绍了能够适应领域变化的测试时间训练技术。
- CVPR领域泛化的改进测试时适应
本文提出了一种改进的测试时间自适应方法(ITTA),通过引入一个可学习的一致性损失,用于更新辅助测试任务,并且只在测试阶段更新可训练参数,从而解决了域泛化中分布偏移问题,实验表明,该方法在多个评估基准上具有卓越的性能。
- FrAug: 时域预测的频率域增强技术
本文提出了一种名为 FrAug 的频率域增强方法,以改善时间序列预测模型的精度,并且也能够在数据量少和分布变化时发挥作用。
- TTTFlow: 无监督测试时间训练与正态流
该论文提出了一种用于图像分类的深度神经网络方法,通过测试时训练和无监督学习实现领域自适应,并在实验中证明了该方法相对于之前方法的优势。
- 图神经网络的测试时间训练
本研究提出了第一个用于 GNN 的测试时间训练框架,主要包括一种新颖的测试时间训练策略和自监督学习方法,以提高模型的泛化能力,并在基准数据集上进行了实验,证明了该框架的有效性,特别是在训练集与测试集之间存在分布偏移时。同时,研究者还通过探索 - 使用遮蔽自编码器进行的测试时间训练
本文通过自我监督,使用遮蔽自编码器来进行一样本学习的测试时间训练,从而优化每个测试输入的模型,实验证明该简单方法可以提高许多视觉基准的分布性能。理论上,我们以偏差 - 方差权衡的角度来描述这种改进。
- 一种简单的测试时间方法用于识别非分布检测
本文提出了一种基于线性回归的测试时间训练方法,将输入图像的特征与其推断出的异常检测 (OOD) 分数进行配对,并在实现更精确的 OOD 检测上取得了很好的效果。