Oct, 2023

随机数据投影的自监督表示学习

PDF
TL;DR使用无监督学习通过重建随机数据投影来学习高质量数据表示，该方法适用于不同数据模态和网络架构，并超过了多个最先进的无监督学习基线模型的性能。
self-supervised representation learningdata modalitynetwork architecturerandom data projectionslearning from randomness
发现论文，激发创造
  • 自监督对比学习的几何理解

    本文研究了自监督学习中编码器和映射器的关系，发现数据增强策略的增加会导致映射器变得更加不变，从而学习将数据投影到低维空间中，具有理论和实验结果的几何学解释。

    May, 2022

  • 具有辅助增强的自监督学习与引导式投影仪

    本文提出了一种条件增强感知的自监督学习方法（CASSLE），使用投影器网络对图像进行辅助引导，以实现对不同数据扩充方法的感知敏感性，并可获得多项下游任务的最新性能表现。

    May, 2023

  • 生成模型能否改善自监督表示学习？

    自我监督学习通过使用生成模型生成语义一致的图像增强，丰富了学习强大视觉表示的方法，并显著提高了学习到的视觉表征的质量。

    Mar, 2024

  • 超级表示：基于神经网络权重的自监督表示学习用于模型特征预测

    本文提出了在神经网络中使用自监督学习方法来学习超级表示法，引入了特定领域的数据增强和适应的注意力架构，并通过实验证明该方法能够较好地预测超参数、测试精度和泛化差距，并能用于超越分布场景。

    Oct, 2021

  • 一个概率模型解释自监督表示学习

    自监督学习在生成的潜在变量模型和对比方法的框架下，提出了一种能够改善性能、实现任务无关性表示的方法。

    Feb, 2024

  • 自监督排序用于表示学习

    本文提出了一个新的自监督表征学习框架，将其作为图像检索环境中排名问题来进行，通过从图像中获取大量随机视图（增强）来解决此问题，该框架称为 S2R2。在 STL10 和 MS-COCO 上进行训练，S2R2 优于 SimCLR 和基于聚类的对比学习模型 SwAV，而且更加简单。在 MS-COCO 上，S2R2 的性能优于 SwAV 和 SimCLR，这表明 S2R2 在多样场景下更为有效，可以消除自监督表征学习对于以对象为中心的大型训练数据集的需求。

    Oct, 2020

  • 自监督学习用于推荐系统：一份综述

    本文针对神经架构型推荐系统在高度稀疏数据上存在的问题，提出了自监督学习作为缓解数据稀疏性的新技术，并介绍了一种基于分类的综述方法，开发了一个 SELFRec 开源库，其中包含多个基准数据集和评估指标，以及实施了一些先进的 SSR 模型进行实证比较。同时讨论了当前研究中的限制和未来研究方向。

    Mar, 2022

  • 自我监督表示学习的随机场增强

    基于高斯随机场的新型局部变换用于自监督表征学习，并通过改进的数据增强方法，在 ImageNet 和 iNaturalist 数据集上实现了准确性的提升。

    Nov, 2023

  • 自监督学习对数据集失衡更具鲁棒性

    本文通过广泛的实验和理论分析，系统研究了在数据集不平衡的情况下自监督学习的表现，并通过半合成实验验证了 SSL 学习了与标签无关但可转移的特征，进而提出了一种新的加权正则化技术，显著提高了 SSL 表示的质量。

    Oct, 2021

  • 我们能否摆脱自我监督学习中的强数据增强？

    自我监督学习（SSL）作为应对深度神经网络（DNNs）中有限标记数据挑战的一种有前途的解决方案，具有可扩展性潜力。本研究全面探索了 SSL 在各种数据增强中的行为，揭示了它们在塑造 SSL 模型性能和学习机制方面的关键作用。利用这些见解，我们提出了一种集成先验知识的新学习方法，旨在减少对大量数据增强的需求，从而增强学习表示的有效性。尤其值得注意的是，我们的发现表明，富含先验知识的 SSL 模型表现出较小的纹理偏差，对快捷方式和增强技术的依赖减弱，并且对自然和对抗性破坏具有改进的鲁棒性。这些发现不仅为 SSL 研究指明了新的方向，而且为提高 DNN 性能、减轻对大量数据增强的要求，从而增强可扩展性和实际问题解决能力方面铺平了道路。

    Apr, 2024