Feb, 2020

自监督表示学习的自动快捷方式移除

PDF
TL;DR自我监督视觉表示学习中，通过预训练任务训练特征提取器，提出了使用 lens 网络来减少对抗攻击漏洞，通过对图片进行微小修改，最大限度地减少了自我监督学习中的 “捷径” 特征的影响。
self-supervised learningvisual representationpretext taskshortcut featureslens network
发现论文，激发创造
  • 图像和文本的自监督减少对视觉快捷特征的依赖

    本文研究了深度学习模型中的 shortcut 特征在测试或部署时可能会产生的问题，提出了自我监督方法可以提高图像表示的健壮性和降低模型对 shortcut 特征的依赖，特别是在医学成像领域中具有一定的应用前景。

    Jun, 2022

  • 预测已知信息有助于自证自学

    这篇论文提出了一种基于自监督学习的特征学习方法，通过预测无标签数据的辅助任务来学习有用的语义表示，并使用线性层来对学习的表示进行下游任务预测，从而显著降低了样本复杂度。

    Aug, 2020

  • 视觉语言表示学习中的展示和减少快捷方式

    基于对比训练的视觉语言模型主要依赖于学习图像和标题的通用表示。本文提出了一种新的训练和评估框架，注入了合成的快捷方式来减少学习中的难度和挑战，以改善对比视觉语言表示学习的性能。

    Feb, 2024

  • 公正视觉识别的良性快捷方式：通过快捷特征介入进行去偏

    机器学习模型中，为了解决与种族和性别等社会属性相关的公平性风险问题，我们提出了一种名为 "Shortcut Debiasing" 的方法，通过设计控制性的替代特征来代替偏见特征，在训练阶段利用这些特征来提高目标任务的学习，并在推断阶段通过干预来消除这些特征，从而在准确性和公平性方面实现了显著改善。

    Aug, 2023

  • 通过自监督特征学习重新审视图像美学评估

    本文通过自监督特征学习的视角重新探讨了图像审美评估问题，并针对编辑操作设计了两个新颖的预训练任务，实现了从图像中提取审美感知特征。在三个基准数据集上进行的实验表明，该方法能够有效地提取特征并且超越了其他预训练模式，并达到了使用 ImageNet 1000 万标签的监督方法的可比较结果。

    Nov, 2019

  • 通过多任务自监督预训练提高对于样本外泛化能力

    本研究表明，在计算机视觉中，使用自监督学习获得的特征，在域泛化方面与或优于使用监督学习获得的特征，并引入了一个新的自监督预文本任务来预测对 Gabor 滤波器组的响应，使用多任务学习提高了域泛化性能。

    Mar, 2020

  • 自监督学习预设不变表示

    本研究证明了在无监督环境下，通过使用基于 PIRL 的预处理任务可以显著改善图像语义维度的质量，且该方法可以用于提取具有良好不变性质的图像信息（如对象检测）中。

    Dec, 2019

  • 高效有效的自监督视觉表示学习

    本研究提出一种新的辅助任务 —— 旋转预测，用于加强现有最先进的基于相似性和对比性方法，并在多个数据集上证明了我们的方法能显着提高性能。

    Oct, 2022

  • 通过知识转移提升自监督学习

    本文提出一种新的自监督学习框架，可以解决在设计和比较不同任务、模型和数据域时的限制问题，通过这个框架设计一种新的自监督任务，在 PASCAL VOC 2007、ILSVRC12 和 Places 数据集上，取得了显著的最先进表现，并将自监督学习和监督学习之间的对象检测 mAP 误差从 5.9% 缩小到 2.6%。

    May, 2018

  • 不再取巧：实现时间自监督的潜力

    我们提出了更具挑战性的帧级自我监督任务和有效的增强策略，通过增加 Transformer 模型来训练从对比学习中预训练的单帧视频表示，大幅提升了通过时间自我监督学习到的特征的质量，并且在高水平语义任务和低水平时序任务上表现出卓越的性能。

    Dec, 2023