Apr, 2023

自监督表示学习中没有免费午餐

PDF
TL;DR本文研究探讨在计算机视觉中基于自监督表示学习依赖于手工图像变换以学习有意义且不变的特征，以及这些变换对于下游任务的影响、监督学习和微观图像等方面的问题。通过实验论证了变换对于下游任务的影响、监督数据集中各类别受到的影响各不相同和变换设计对微观图像影响更大的结论，并说明了变换设计可以作为一种监督形式来提高下游任务性能。
self-supervised representation learningimage transformationsdownstream performancesupervisionmicroscopy images
发现论文，激发创造
  • 为什么自监督模型能够迁移？—— 探究不变性在下游任务中的影响

    本文研究了自监督学习在图像中表征学习的应用，通过对比实例匹配方法，我们发现不同的视觉任务需要不同的数据扩充策略，并且使用具有互补不变性的表征方法可以提高各种下游任务的表现。

    Nov, 2021

  • 通过输入变换的自监督标签增强

    通过自监督学习，本文提出的单一统一任务学习方法能够有效地提高模型的准确性，并且在各种全监督学习场景下均具有广泛的适用性。

    Oct, 2019

  • 自我监督的表示学习方法能否经受分布变化和损坏？

    自监督学习在计算机视觉中的鲁棒性研究调查了分布变化和图像损坏对学习表示的影响，发现较高级别的变化和损坏显著降低了学习表示的鲁棒性。研究强调了鲁棒性对自监督学习方法的性能和应用的关键影响，并强调了需要寻找有效策略以减轻其不利影响的重要性。

    Jul, 2023

  • 高效有效的自监督视觉表示学习

    本研究提出一种新的辅助任务 —— 旋转预测，用于加强现有最先进的基于相似性和对比性方法，并在多个数据集上证明了我们的方法能显着提高性能。

    Oct, 2022

  • 走向无监督表示学习：学习、评估和传递视觉表示

    无监督表示学习、卷积自组织神经网络、评估协议、表示传输、图像到图像转换

    Nov, 2023

  • 自监督视觉表示学习再探讨

    该论文探讨了自我监督方法在无监督视觉表示学习中的重要性，提出之前 CNN 设计的标准配方不一定适用于自我监督表示学习， 并大幅度提高了之前提出技术的性能，超越了之前公布的最先进结果。

    Jan, 2019

  • 仿射变换估计提升视觉自监督学习

    通过在自我监督模型中添加一个模块，限制编码表示对仿射变换进行预测，可以提高学习过程的性能和效率，在各种现代自我监督模型中进行实验证明了性能改进，并对仿射变换的组成部分和关键架构设计进行了消融研究。

    Feb, 2024

  • 深度异常检测的神经转换学习方法

    提出了一种可学习的数据变换方法，将数据嵌入语义空间，以检测异常值，此方法在时间序列和表格数据方面表现优异。

    Mar, 2021

  • 外科计算机视觉的启动

    通过自我监督学习，在不同手术数据集上进行预训练，从而灵活地利用多样化的手术数据，为各种手术下游任务学习与任务无关的表示，研究发现预训练数据集的组成严重影响自我监督学习方法在各种下游任务上的有效性，对于规模化应用自我监督学习方法应充分考虑预训练数据集的组成。

    Dec, 2023

  • 使用自监督学习能够提升模型的鲁棒性和不确定性

    自我监督能够提高深度学习在鲁棒性、异常检测等难题上的表现甚至超越了全监督学习，成为未来自我监督学习研究的新方向。

    Jun, 2019