CurriculumNet: 大规模网络图像弱监督学习

ECCVAug, 2018

CurriculumNet: 大规模网络图像弱监督学习

CurriculumNet: Weakly Supervised Learning from Large-Scale Web Images

Sheng Guo, Weilin Huang, Haozhi Zhang, Chenfan Zhuang, Dengke Dong...

TL;DR该论文提出了一种基于课程学习的弱监督学习方法，通过对大规模网络图像数据进行无人工标注的深度神经网络训练，实现对大量噪声数据和数据分布不均等问题的有效处理和噪声标签的负面影响的显著降低，构建一种新的课程学习架构，使得使用高噪声标签的图像作为一种正则化策略可以惊人地提高模型的泛化能力，在 WebVision、ImageNet、Clothing-1M 和 Food-101 等四个基准测试中取得了最先进的性能，多模型集成的结果在 1000 种类别分类中取得了 5.2% 的 top-5 错误率，相对误差率超过 50%。

Abstract

We present a simple yet efficient approach capable of training deep neural networks on large-scale weakly-supervised web images, which are crawled raw from the Internet by using text queries, without any human annotation. We develop a principled learning strategy by leveraging curriculum lear

deep neural networks weakly-supervised learning curriculum learning noisy labels large-scale web images

发现论文，激发创造

卷积网络的网络监督学习

本文提出了一种使用大量网络数据来学习 CNN 的方法。具体地，我们利用了课程学习的思想，提出了一种 CNN 训练的两步方法，表现优异且鲁棒性强。我们使用这种方法在 VOC 2007 上实现了最佳性能，并在其中演示了网络监督学习的强大功能。

May, 2015

群体参与：一种弱监督深度学习框架用于从 Web 数据中学习

本文介绍了一种鲁棒性强的、端到端的深度弱监督学习框架，该框架通过随机分组和注意力机制来有效减少 Web 图片注释的负面影响，实现了对嘈杂标签的有效抑制和准确图像标注，实验证明了该方法的卓越性能。

Nov, 2016

结合弱监督和网络监督学习对食品图像进行分类

本文研究如何通过最小化数据编辑从网络数据中正确分类包含多个共同食品类别的图像，并使用弱监督学习方法增强深度学习模型来提高分类识别准确度。

Dec, 2017

从大规模的弱监督数据中学习视觉特征

本文探讨了在大型弱标记图像集上训练卷积网络以提升视觉特征表达的潜力，并证明了在 1 亿张 Flickr 图片与样本说明上训练出来的特征在多种视觉问题中表现良好，还能够妥善地捕捉单词之间的相似性，并学习不同语言之间的对应关系。

Nov, 2015

WebVision 数据库：从网络数据中进行视觉学习和理解

本研究基于收集自网络的大规模嘈杂数据对学习视觉识别模型进行了探究。我们构建了一个名为 WebVision 的新数据库，其中包含了超过 240 万张与 ILSVRC 2012 基准数据集的 1,000 个语义概念相关的查询生成的网络图像，并收集了元信息（例如标题，描述，标签等）。通过这个数据库，我们发现网络图像可以用于训练良好的深度 CNN 模型，且该模型的泛化能力甚至优于 ILSVRC 2012 数据集训练的模型。此外，我们也发现了一个数据集偏见问题，即在视觉领域自适应方面存在一些问题。这个新的 WebVision 数据库及其相关研究对于利用网络数据最小化监督学习最先进的视觉模型具有重要的价值。

Aug, 2017

对含噪网络数据的类别级监督学习

本文提出了一种利用变分自编码器（VAE）和类别级别监督来处理网络数据的方法，并在三个基准数据集上进行了实验证明其有效性。

Mar, 2018

MentorNet: 基于数据学习的课程设计模型，面向深度神经网络且具有噪声标签的情况

本文提出了针对深度神经网络在存在噪声标签的情况下出现的过拟合现象的解决方法，使用一个名为 MentorNet 的神经网络来指导训练，使得学生网络 StudentNet 能够动态地学习数据驱动的课程并关注那些可能被正确标记的样本，实验证明该方法可以显著提高在噪声标签下训练的深度网络的泛化性能，并在包含 220 万张真实世界噪声标签的 WebVision 基准测试中获得最佳的已发布结果。

Dec, 2017

控制性弱监督训练神经网络：避免重复导师的错误

该研究提出了一种半监督学习方法，利用一个 “目标网络” 和一个 “置信网络” 进行多任务训练，在大量弱注释未标注数据上优化目标网络，同时用置信网络的分数来加权目标网络的梯度更新，以避免噪声标签对目标网络模型的质量造成损害，并在评估中证明其相对基线的性能得到提高，同时从弱标签中提高了学习速度。

Nov, 2017

通过有选择的自监督自训练来改进物体检测

本文介绍了一种使用网络图像来扩充人为筛选的物体检测数据集的方法，通过图像匹配来检索网络图像，提出了一种新的学习方法，以获取正和负的边界框的监督信号，从而提高了检测结果。

Jul, 2020

通过将图像嵌入文本主题空间进行自监督的视觉特征学习

本文提出了一种利用自由可得的多模态内容进行无人监督计算机视觉算法训练的方法，通过挖掘大规模的多模态文档语料库中的语义结构进行话题建模，训练卷积神经网络来预测图像最可能出现为插图的语义上下文，有效地学习了区分性视觉特征，其实验结果表明具有比近期的自监督或自然监督方法更好的图像分类、物体检测和多模态检索的性能。

May, 2017