Dec, 2019

结合 MixMatch 和主动学习以在更少的标签下实现更高准确度

PDF
TL;DR使用基于主动学习技术的方法改进了半监督学习 MixMatch 算法，并在 CIFAR-10、CIFAR-100 和 SVHN 数据集上进行了全面的实证评估，得到了显著的性能提升。此外，还对标记和非标记数据成本之间的权衡进行了实证分析，发现虽然有标记数据的增量效益可以高达非标记数据的 20 倍，但一旦观察到超过 2000 个标记示例，其效益就会迅速减弱到不到 3 倍。
active learningsemi-supervised learningmixmatchcifarsvhn
发现论文，激发创造
  • MixMatch: 半监督学习的整体方法

    本研究提出了一种半监督学习算法 MixMatch，采用猜测低熵标签的方法，通过使用 MixUp 混合标记和未标记的数据来处理扩充后的未标注样例。实验结果表明，MixMatch 在许多数据集和标记数据量上都取得了大幅度的优越结果，同时也证明了 MixMatch 如何帮助实现更好的准确性和隐私权的权衡。最终，我们进行了消融研究来分离 MixMatch 的哪些组件对其成功最为重要。

    May, 2019

  • 深度贝叶斯主动半监督学习

    通过半监督深度学习与主动学习相结合的方法，使用尽可能少的标记样本，同时利用熵最小化对未标记样本进行训练，在 MNIST 数据集上仅使用 300 个标记样本实现 2.06% 的误差率和 1000 个标记样本实现 1.06% 的误差率。该方法可以获得高准确性的敏捷标注过程，同时节省标记成本。

    Mar, 2018

  • 使用无约束未标记数据扩大半监督学习规模

    提出了一种名为 UnMixMatch 的半监督学习框架，该框架可以从无约束的未标记数据中学习有效表示，以提高性能。它由三个组件组成：具有硬增强的监督学习器提供强大的正则化，对照一致性正则化器从未标记数据中学习底层表示以及自监督损失用于增强从未标记数据中学习的表示。在 4 个常用数据集上进行了实验，在现有的半监督方法上表现出卓越的性能提高 4.79%。广泛的消融和敏感性研究表明了我们方法的每个提出组件的有效性和影响。

    Jun, 2023

  • ReMixMatch：分布对齐与增强定位的半监督学习

    本文提出基于分布对齐和数据增广锚定的混合增广半监督学习算法 ReMixMatch ，通过学习增广策略提高数据效率，实验结果表明其比之前算法更为高效。

    Nov, 2019

  • 主动半监督学习的语义分割

    提出了通过结合主动学习和半监督学习来减少标注样本数量的新算法，应用于语义分割任务取得了优异的成果。

    Mar, 2022

  • 基于一致性的半监督主动学习：朝着最小化标注成本

    该论文提出了一种融合标注和模型训练的主动学习方法，结合半监督学习和基于一致性的样本选择度量，实现从未标注数据中选取最优数据来改善模型性能，在图像分类任务中实验结果显示出优异表现，同时探究了学习式主动学习方法的起点问题并提出了相关测量指标。

    Oct, 2019

  • 标签匹配半监督目标检测

    本篇论文从分布级别和实例级别两个不同但互补的视角提出了一个简单而有效的 LabelMatch 框架，用于解决自我训练期间存在的标签不匹配问题，并通过 Proposal Self-assignment 机制确定准确的伪标签来促进学生和教师之间的匹配。在 MS-COCO 和 PASCAL-VOC 数据集上的实验结果表明，所提出的框架明显优于其他现有方法。

    Jun, 2022

  • 主动半监督表示学习的语义分割

    本文提出一种新算法，将半监督和主动学习相结合，通过用少量的有标签数据来训练分割算法。我们通过用自我训练方法替换半监督学习的平均教师方法，以处理带有噪声的标签，进一步增强神经网络的能力来查询有用的数据，从而实现了超越现有半监督方法的性能。在 CamVid 和 CityScapes 数据集上评估我们的方法，仅使用了 12.1% 和 15.1% 的标签数据，分别实现了 95% 以上的准确率。

    Oct, 2022

  • 减少标注工作量：自监督活跃学习相遇

    本研究针对减少标注工作的两种范式：主动学习和自学习，研究它们能否相互受益。在对象识别数据集（包括 CIFAR10、CIFAR100 和 Tiny ImageNet）上的实验证明：对于低的标注预算，主动学习对自学习没有帮助。当标注预算很高时，主动学习和自学习的组合是有益的。

    Aug, 2021

  • 纯净半监督学习：在只有很少标记图像的情况下进行半监督学习

    本文针对有限标注信息下的半监督学习进行研究，分析了当前应用最广的半监督学习方法 FixMatch 在这种情况下的表现和局限，提出了一种利用自监督学习方法提供训练信号以及优化伪标签筛选过程的方案，并在 STL-10 数据集上得到了显著提高。

    Dec, 2021