通过观察噪声学习视觉

Jun, 2021

Learning to See by Looking at Noise

Manel Baradad, Jonas Wulff, Tongzhou Wang, Phillip Isola, Antonio Torralba

TL;DR该研究使用不同的噪声过程生成图像，并将其用作视觉表示学习者的训练数据。通过使用对比损失，研究两种类型的噪声过程，发现噪声需要捕捉真实数据的某些结构性质，但即使与真实数据差异很大的过程也可以实现良好的性能。多样性是学习良好表示的关键属性。

Abstract

Current vision systems are trained on huge datasets, and these datasets come with costs: curation is expensive, they inherit human biases, and there are concerns over privacy and usage rights. To counter these costs, interest has surged in learning from cheaper data sources, such as un

vision systems image generation models contrastive loss noise processes representation learner

发现论文，激发创造

学习相机感知噪声模型

本论文提出了一种基于数据驱动的方法来学习真实世界的噪声模型，该模型是相机感知的，可以学习不同摄像头传感器的不同噪声特性，实验证明这种方法优于现有的统计噪声模型和基于学习的方法。

Aug, 2020

Noise2Noise: 没有清洗数据的学习图像恢复

本文通过基础的统计推理，发现仅通过研究受损样本可以学习恢复图片，无需外部信息，仅基于含噪数据一个模型能解决多种图像重建问题，包括消除照片噪点和去噪等。

Mar, 2018

通过生成数据集实现强健分类：让现实留给想象

本文研究了生成数据集对图像分类器自然鲁棒性的影响，发现与标准训练和流行的数据增强策略相比，使用真实数据和生成数据相结合进行训练可以提高 Imagenet 分类器的准确性和鲁棒性，同时分析了不同因素对结果的影响，并介绍了 ImageNet-G-v1 数据集。

Feb, 2023

使用生成的图像训练模型的数据集不存在

利用生成网络产生的图像数据进行机器学习分类器的训练，本文提出了三种不同阶段的技术减少随机产生图像训练的不足，将其在 ImageNet 数据集上进行了检测，并相对于在实际数据上训练得到的分类器提供鼓舞人心的结果。

Nov, 2019

深度神经网络中的噪声标签学习：综述

本文综述了深度学习中标签噪声的学习问题，提供了 62 种最新的鲁棒训练方法，并系统性比较了六个评估指标。同时，分析了噪声估计率和评估方法，并提出了未来的几个研究方向。

Jul, 2020

从含有噪声标签的数据中学习如何学习

本文提出一种噪声容忍的训练算法，其中在传统梯度更新之前进行元学习更新来模拟实际训练。通过生成合成噪声标签进行训练，该元学习方法训练模型，以便在使用每个设置的合成噪声标签进行一次梯度更新后，模型不会过度拟合特定的噪声，从而提高深度神经网络的性能。

Dec, 2018

从未标记的视频中进行表征学习：看着世界走过去

本研究提出了使用视频自然增广的无标签视频学习方法，可以有效地提取单个图像的表示，并可用于各种时间和非时间任务中。

Mar, 2020

深度学习下存在噪声标签的图像分类：综述

本文介紹關於使用深度學習算法處理帶有噪聲標籤的問題，針對噪聲建立噪聲模型和使用魯棒損失、正則化等方法建立魯棒算法兩種子群進行了綜述。

Dec, 2019

生成模型作为多视角表示学习的数据源

研究了从黑盒生成模型而不是数据直接学习通用视觉表达式的设置，通过该生成器的样本输出训练，比较了几种可应用于该设置的表征学习方法，使用生成器的潜空间来生成相同语义内容的多个 “视图”，表明多视图数据可以自然地用于识别正面对和负面对。

Jun, 2021

学习放弃无信息数据

通过选择性学习理论，我们提出了一种新的方法，在高噪声数据分布下学习和决策，并通过最小化这个损失函数来区分有用数据和无用数据进行预测。我们还描述了一个迭代算法，同时优化预测器和选择器，并在各种场景中评估了其实证表现。

Sep, 2023