Mar, 2023

主动自监督学习：少量低成本的关系即可满足需求

PDF
TL;DR通过 Positive Active Learning 策略，可以扩展自我监督学习（SSL）到在线学习，半监督和监督学习。该框架可嵌入先验知识并提供主动学习框架，从而实现低成本对数据集的注释。
self-supervised learningpositive active learningsemantic relationshipsactive learningsemi-supervised learning
发现论文，激发创造
  • 协作智能编排：基于不一致融合的半监督学习和主动学习

    该研究提出了一种名为 IDEAL 的算法，采用不一致性为基础的虚拟对抗积极学习方法来探索半监督学习和积极学习的潜在优势，通过数据采样和增强策略来评估未标记样本的不一致性并取得了良好的实验效果。

    Jun, 2022

  • 基于预设文本的主动学习

    该研究提出了一种针对深度神经网络的主动学习技术，使用一个单独的网络对样本进行评分选择，提高模型对错标记的容忍度，同时通过自监督和多任务学习等方法缓解数据不足的问题。

    Oct, 2020

  • 音频自监督学习：综述

    本文综述了自监督学习在音频处理和语音处理领域中的应用，包括方法、实验和基准数据，并讨论了未来发展方向和存在的问题。

    Mar, 2022

  • 自我监督辅助主动学习用于皮肤病变分割

    本文提出了一种新的自我监督辅助主动学习框架，用于解决生物医学图像分割中标签不足的问题，该方法使用自我监督特征聚类来选择样本，实验证明其可在皮肤病变分割任务上取得显著改进。

    May, 2022

  • 自监督学习的逆向工程

    本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。

    May, 2023

  • 基于一致性的半监督主动学习：朝着最小化标注成本

    该论文提出了一种融合标注和模型训练的主动学习方法，结合半监督学习和基于一致性的样本选择度量，实现从未标注数据中选取最优数据来改善模型性能，在图像分类任务中实验结果显示出优异表现，同时探究了学习式主动学习方法的起点问题并提出了相关测量指标。

    Oct, 2019

  • 自监督解决无监督异常检测的困境和机遇

    自我监督学习在无监督异常检测中起到重要作用，对 SSL 策略的选择、超参数的调整、预处理任务和增强函数的设计以及基于密度估计的预训练模型的利用提出了新的发展和挑战。

    Aug, 2023

  • 带有少量标注的半监督学习

    本文提出一种新的 SSL 算法，通过引入转移学习和自主监督来初始化数据的表示，再利用新算法，交替拟合有标签和无标签点以降低过拟合和避免标签和无标签损失平衡的问题。实验证明，该方法在标准基准测试中表现优异，特别是在从其他任务或数据集中细化时，效果更佳。

    May, 2019

  • 自监督学习对数据集失衡更具鲁棒性

    本文通过广泛的实验和理论分析，系统研究了在数据集不平衡的情况下自监督学习的表现，并通过半合成实验验证了 SSL 学习了与标签无关但可转移的特征，进而提出了一种新的加权正则化技术，显著提高了 SSL 表示的质量。

    Oct, 2021

  • 使用弱数据增强进行关系自监督学习的 ReSSL 算法

    本文提出一种新的自监督学习方法 —— 关系自监督学习 (ReSSL) 框架，通过建模不同实例之间的关系来学习表示，采用成对相似度的锐化分布作为关系度量来匹配不同增强的特征向量，实验结果表明我们的方法在性能和训练效率方面显著优于先前的最先进算法。

    Jul, 2021