Aug, 2023

克服自信心以实现主动学习

PDF
TL;DR该研究提出了两种新颖的方法来解决主动学习场景中出现的过度自信问题，一种是名为 Cross-Mix-and-Mix（CMaM）的数据扩增策略，旨在通过扩展有限的训练分布来校准模型；另一种是名为 Ranked Margin Sampling（RankedMS）的数据选择策略，以防止选择导致过度自信预测的数据。通过各种实验和分析，我们能够证明我们的提议通过缓解过度自信，促进了有效的数据选择。
artificial intelligence technologydata labelingactive learningoverconfidencedata selection
发现论文，激发创造
  • 组合覆盖下的主动学习

    本文提出一种利用组合覆盖来解决机器学习中主动学习的数据样本选择方法，相较于现有模型导向性的方法，新方法具有更好适用性，能够有效降低模型转移和采样偏差问题。

    Feb, 2023

  • 在主动学习中减轻采样偏差并提高鲁棒性

    该论文提出了简单而高效的方法来减轻主动学习中的采样偏差，同时实现最先进的精度和模型鲁棒性。通过引入有监督对比主动学习和选择具有多样的特性表示的信息性数据样本的无偏查询策略，我们的方法：SCAL 和 DFM，实验表明，所提出的方法降低了采样偏差，在主动学习设置中，查询计算速度比基于贝叶斯的对抗式学习快 26 倍，比 CoreSet 快 11 倍。所提出的 SCAL 方法在对抗性数据集转移和预测真实分布方面具有显着的优势。

    Sep, 2021

  • 多模态分类的平衡主动学习

    本文提出了三个设计均衡的多模式主动学习策略的指导方针，并通过调节模态间的支配度来调节梯度嵌入，从而实现更公平的数据选择，本方法在多种多模态分类任务上表现优异，实现了更平衡的多模态学习。

    Jun, 2023

  • 关于主动学习中的统计偏差：如何何时修正

    本文探讨了主动学习中样本标注代价昂贵导致的偏差问题并提出了一种新的校正方法，解释了为何忽略这种偏差也能带来一些经验上的成功，尤其对参数众多的神经网络等少量数据训练情境下，这种偏差反而有益。

    Jan, 2021

  • 低数据环境下公正主动学习

    在数据稀缺环境中，通过结合后验采样和公平分类子程序的创新主动学习框架，我们有效地提高了模型准确性并满足公平约束，证明了该方法在最大限度利用少量标注数据时的有效性，并对已有方法进行了改进。

    Dec, 2023

  • 提高嘈杂数据集上主动学习的成本效益

    主要介绍了主动学习策略在解决二分类问题中的应用，提出了一种基于偏移正态分布采样函数的方法，通过限制噪声和正类标签选择，提高了 20% 到 32% 的成本效率。

    Mar, 2024

  • 深度主动学习破除幻觉

    该研究旨在评估目前基于最新学习方法下的图像分类的主动学习策略的有效性，并且在更实际的情况下验证了选择语义分割的方法，其提出了一种更合适的评估协议。

    Dec, 2019

  • Ask-n-Learn：基于可靠梯度表示的主动学习图像分类

    本论文提出了一种基于梯度嵌入和预测校准的主动学习方法 Ask-n-Learn，结合数据扩增缓解伪标注期间的确认偏差，通过对基准图像分类任务（CIFAR-10，SVHN，Fashion-MNIST，MNIST）的经验研究，证明了该方法优于最近提出的 BADGE 算法等现有基线。

    Sep, 2020

  • 部署主动学习的实际障碍

    本文研究了主题 “主动学习”，发现尽管在特定模型和特定领域中使用主动学习可能会带来好处，但在不同模型和任务之间泛化当前方法的好处不可靠，并且主动学习的认购数据与指导其获取的模型相结合，与使用独立同分布的（I.I.D）随机样本训练继任模型的方法相比并没有明显的优势，主动学习的局限性是否值得现实中的应用，值得深思。

    Jul, 2018

  • 计算高效的主动学习

    通过简单而有效的方法不仅可以降低主动学习过程的计算成本，还能保持模型性能，从而优化大规模数据集的标注效率。

    Jan, 2024