May, 2023

SelfClean: 一种自监督数据清洗策略

HTML
PDF
TL;DR本文提出了SelfClean，一种基于自监督学习的图像数据清理通用程序，通过自监督学习来避免注释偏差，将数据集清理视为一组排名问题或一组得分问题，并在常见的计算机视觉基准测试上展示了state-of-the-art的性能，同时应用于多个图像数据集并证实了评估的可靠性有所提高。
发现论文，激发创造
  • 在最小监督下从嘈杂大规模数据集中学习

    本文介绍了一种使用大型包含嘈杂注释图像和少量清洁注释图像联合进行学习的方法，它由一个多任务网络组成，可以在清洁注释的帮助下减少大型数据集中的噪音，并在清洁数据集和带有降噪的完整数据集上进行微调学习，其结果比直接微调方法在Open Image数据集中的所有主要类别中均表现优异，特别适用于具有20-80％注释噪音的大量类别。

    Jan, 2017

  • 自监督学习在CNN中的无标签数据利用

    本文介绍了一种使用排序作为代理任务的自监督学习方法，以及一种有效的后向传播技术，使用该方法可以在标记数据和无标记数据上同时进行回归任务和排序任务的训练，结果表明使用自监督学习可以在图像质量评估（IQA）和人群计数方面实现更好的结果，并且利用无标记数据的信息量衡量方法可以使半监督学习方法的标记代价降低50％。

    Feb, 2019

  • 挖掘自己的视角: 自我监督学习通过跨样本预测

    介绍自我监督学习的全新方法'Mine Your Own vieW（MYOW）'，用于数据集挖掘，以便为神经科学等新领域建立多元视图。该方法在计算机视觉基准测试中表现出了良好的前景，并在多单元神经记录数据上的测试中表现出更好的性能。

    Feb, 2021

  • 划分与对比：自监督学习从未审查的数据中学习

    本文研究自监督学习在大规模数据集上的应用，提出了一种基于对比学习与聚类的硬负样本挖掘方法（DnC），在 less-curated 数据集上的预训练，可以显著提高自监督学习在后续任务上的表现效果，并与目前在高度筛选数据集上的最新水平保持竞争力。

    May, 2021

  • 资源有限条件下的活动标签清洗，以提高数据集质量

    本文提出一种基于数据驱动的主动标签清理方法来解决数据注释中的标签噪音问题，通过对样本进行优先级排序，提高数据集质量，具有较好的可行性和高效性。

    Sep, 2021

  • 自监督预训练是否需要大规模数据集?

    本研究探讨了只利用目标任务数据的自监督预训练方法，结果显示与ImageNet预训练相比，使用我们介绍的变种BEiT的降噪自编码器方法更适合于类型和数据大小各不相同的预训练数据，这种方法在使用COCO数据进行预训练时，检测和实例分割性能超过了监督的ImageNet预训练方法。

    Dec, 2021

  • 自监督图像重建方法的样本复杂度分析

    探究自监督训练方法的样本复杂度，发现模型的性能会随着训练样本数量增加而提高，证明采用自监督训练方法所需样本较多，但与监督训练方法优化模型的性能差距会随着样本数量增加而逐渐缩小。

    May, 2023

  • RecycleNet: 潜在特征回收导致迭代决策的优化

    通过RecycleNet方法，我们给神经网络注入反思能力，使其能够通过多次循环反馈来迭代改善初始决策，在医学图像分割任务中表现出更高的性能。

    Sep, 2023

  • MNN：混合最近邻算法用于自监督学习

    通过引入最近邻样本和图像混合操作，该研究提出了一种名为MNN的简单自监督学习框架，优化了最近邻样本对正样本语义的影响，展示了在四个基准数据集上出色的泛化性能和训练效率。

    Nov, 2023

  • 现实世界视觉数据集中自动误标签检测的实证研究

    计算机视觉中使用标记数据集是主要的进展，近期的研究工作提出了用于自动识别错误标记图像的方法，但在实际数据集中有效实施这些方法的策略仍未充分探索。本研究在多个数据集上对最近发展的自动化错误标记检测方法进行了详细评估，结果表明该方法在清理真实世界视觉数据集中性能相似甚至优于先前方法。通过精心设计方法，将该方法应用于真实世界计算机视觉数据集后，在较小的数据情况下使每个分类器的性能提高了8%。

    Dec, 2023