BriefGPT.xyz
Ask
alpha
关键词
vicreg
搜索结果 - 5
基于主题的符号音乐表示学习
通过使用 Siamese 网络架构和预训练及微调流程，本研究旨在通过表示学习来学习旋律和其变化之间的内在关系。实验证明，这两种方法相互补充，在检索任务中使精确度 - 召回率曲线下的面积提高了 12.6%。最后，我们可视化所获得的旋律表示，以
→
PDF
10 months ago
自监督学习模型在基于传感器的人类活动识别中的表征解释、分析和探索
本文研究自监督学习在传感器人体活动识别中的应用，并分析了两个最近的自监督学习框架 SimCLR 和 VICReg 的深层表示，比较了监督和自监督模型对输入数据噪声的鲁棒性，并通过可解释性方法探索了 SSL 和监督表示中编码的性质。研究表明，
→
PDF
a year ago
方差 - 不变性 - 协方差正则化的信息论视角
本论文提供了关于自监督学习中方差不变性正则化（VICReg）的信息论视角，将 VICReg 目标关联到互信息最大化，并使用该关系为 VICReg 导出广义泛化界，提出了基于互信息最大化的新型自监督学习方法，该方法在性能方面优于现有方法。
PDF
a year ago
自监督学习中我们在最大化什么？
本文提出通过信息熵理论来推导自监督学习方法 VICReg 的构建，通过理论与实证验证产生了新的理解以及对其他 SSL 方法的启示。
PDF
2 years ago
ICLR
VICReg: 自监督学习的方差不变协方差正则化
本文介绍了一种简单、易于解释的方法 VICReg，结合了方差约束、冗余降维和协方差正则化等策略，可以解决自我监督学习中模型输出恒定向量的问题，并能在图像表征学习等多个下游任务中达到与现有方法相当的性能水平。
PDF
3 years ago
Prev
Next