深度主动学习：现实检验

Mar, 2024

Deep Active Learning: A Reality Check

Edrina Gashi, Jiankang Deng, Ismail Elezi

TL;DR通过全面评估当前最先进的深度主动学习方法，我们的研究发现在一般情况下没有单一模型的方法能显著超越基于熵的主动学习方法，甚至一些方法还不如随机抽样。我们深入研究了常常被忽视的方面，如初始预算、预算递增步长和预训练的影响，并揭示了它们在实现卓越结果上的重要性。此外，我们还将评估拓展到其他任务，探索了将主动学习与半监督学习和目标检测相结合的有效性。我们的实验提供了有价值的见解和具体建议，为未来的主动学习研究做出了贡献。通过揭示当前方法的局限性，并理解不同实验设置的影响，我们旨在启发在有限注释预算的现实场景下更高效地训练深度学习模型。这项工作有助于提高主动学习在深度学习中的效果，并使研究人员在应用主动学习时能做出明智的决策。

Abstract

We conduct a comprehensive evaluation of state-of-the-art deep active learning methods. Surprisingly, under general settings, no single-model method decisively outperforms entropy-based active learning, and some even fall short of random sampling. We delve into overlooked aspects like

deep active learning entropy-based active learning starting budget budget step pretraining's impact

发现论文，激发创造

深度主动学习破除幻觉

该研究旨在评估目前基于最新学习方法下的图像分类的主动学习策略的有效性，并且在更实际的情况下验证了选择语义分割的方法，其提出了一种更合适的评估协议。

Dec, 2019

数据高效变化检测中遥感的深度主动学习

本论文研究了在深度神经网络模型中的主动学习，适用于诸如检测局部地表变化和地图更新等一些遥感任务，并使用各种机制捕捉和量化模型的不确定性，以选择有信息量的未标记样本进行注释，通过少量样本的标记就达到与大型训练集相同的性能的效果。

Aug, 2020

深度主动学习在图像分类任务中的有效评估

本文旨在探讨如何通过主动学习（AL）技术实现更高效的标签操作的问题，其中包括一些在目前文献中存在的问题，如数据增强方法和 SGD 等常见方法的应用等，通过在图像分类中新的开源 AL 工具 DISTIL 的统一重新实现，我们研究了这些问题，并提出了一些第一手的洞察，以供 AL 从业者在未来的工作中参考。

Jun, 2021

大数据驱动的安全自动驾驶中使用主动学习的原因、时间和方法：一项实证研究

在自动驾驶数据集中，采用主动学习策略可以解决数据不平衡、冗余和高维数据的挑战。我们展示了使用信息熵查询来选择信息丰富的样本，旨在降低注释成本和提高模型性能的有效性。我们在 nuScenes 数据集上使用 BEVFusion 模型进行了实验，将主动学习与随机抽样进行比较，并证明信息熵查询在大多数案例中表现优异。该方法在减少多数类和少数类之间的性能差距方面特别有效。类别特定的分析揭示了对有限数据预算进行注释资源的有效配置，强调选择多样性和信息丰富的数据用于模型训练的重要性。我们的发现表明，在资源受限的环境中，信息熵查询是选择增强模型学习的数据的一种有前途的策略。

Jan, 2024

深度主动分类中的采样偏差：实证研究

本文通过大量经验研究，证明了利用 FastText.zip（FTZ）深度模型的后验熵进行主动集合选择对抗采样偏差和各种算法选择具有鲁棒性，并提出了基于深度主动文本分类的简单基线，可用于数据集压缩和半监督 / 在线学习场景。

Sep, 2019

针对二元分类的基于池的主动学习的重新基准测试

本文提出了一种可靠和可扩展的实现来重新评估现有主动学习策略的数据集，通过重新评估实验，我们不仅纠正了现有基准测试中的配置错误，还揭示了模型兼容性等问题。我们经验突出了把研究努力奉献给重新评估现有基准测试以产生更可信结果和深入洞察的重要性。

Jun, 2023

长尾深度主动学习

本文研究了基于池化的主动学习方法，提出了一种新的算法，使用神经网络在表征层上的激活空间中的最远优先遍历，从池中查询连续的点，相比于随机抽样和传统的不确定性抽样技术，对 MNIST、CIFAR-10 和 CIFAR-100 三个数据集的样本复杂度都有显著提高。

Nov, 2017

深度贝叶斯主动半监督学习

通过半监督深度学习与主动学习相结合的方法，使用尽可能少的标记样本，同时利用熵最小化对未标记样本进行训练，在 MNIST 数据集上仅使用 300 个标记样本实现 2.06% 的误差率和 1000 个标记样本实现 1.06% 的误差率。该方法可以获得高准确性的敏捷标注过程，同时节省标记成本。

Mar, 2018

深度主动学习在图像分类中的有效性实证研究

本研究对 19 种不同的 DAL 方法在统一设置下进行评估，发现大多数 SAL 方法不能比随机选择获得更高的准确度，相较于纯 SAL 方法，半监督训练带来显著的性能提升，尤其是在数据丰富的情况下进行数据选择可以实现显著和一致的性能提升，建议从实践角度早期应用 SSAL，并尽可能收集更多的未标记数据以获得更好的模型性能。

Nov, 2022

具备对现实数据池进行对比学习的深度主动学习

本研究提出了一种新的主动学习方法，通过对比学习在特征空间中选择集群的样本，从标记和未标记的数据池中获取信息，以获取优先的显着内部分布样本，并证明该方法相对于现有的主动学习方法需要更少的标注预算才能达到相同的准确性水平。

Mar, 2023