ICMLFeb, 2022

基于池的批次主动学习中的快速速率

PDF
TL;DR本文在 batch active learning 场景下，提出了一种解决 informativeness 和 diversity 之间权衡问题的算法，理论上可以在 pool-based active learning 中得到最优结果，并且这也是第一篇使用这种方式明确量化在 pool-based 场景中 batch active learning 统计表现的论文。
active learningbatch samplingtrade-offminimax ratespool-based
发现论文，激发创造
  • 大规模批量主动学习

    研究了一种高效的批量主动学习算法，该算法结合不确定性和多样性概念，在批量设置中易于扩展，并与先前研究中使用的批量大小（100K-1M）相比提高模型训练效率。同时，还证明了相关采样方法的标签复杂度保证，该方法在特定情况下几乎等同于我们的采样方法。

    Jul, 2021

  • 贝叶斯批次主动学习作为稀疏子集逼近

    本研究提出一种基于贝叶斯批量主动学习方法来解决大规模监督模型中标签获取成本高的问题，从而利用大量未标记数据来改善模型性能。此方法通过逼近模型参数的完整数据后验概率，并使用随机投影技术来推广到任意模型，从而使批处理的数据选择更加多样，有效降低了计算复杂度，并在多个大规模回归和分类任务上得到了证实。

    Aug, 2019

  • 基于预设文本的主动学习

    该研究提出了一种针对深度神经网络的主动学习技术，使用一个单独的网络对样本进行评分选择，提高模型对错标记的容忍度，同时通过自监督和多任务学习等方法缓解数据不足的问题。

    Oct, 2020

  • 利用行列式点过程进行批量主动学习

    本文提出了一种使用确定性点过程的新的原则性批处理主动学习方法，以生成样本的多样性批次。我们还开发了可行的算法来近似 DPP 分布的模式，并提供了理论保证。我们在几个数据集上的实验表明了我们这种方法的价值。

    Jun, 2019

  • 具有放弃反馈的贝叶斯主动学习

    本研究采用贝叶斯方法研究了具有放弃反馈的基于池的主动学习问题，提出了两种新的贪心算法，同时学习分类问题和未知的放弃率，证明了这两种算法均具有近似最优保证，并在各种实际情况下进行了实验验证。

    Jun, 2019

  • 多样化小批量主动学习

    该研究致力于解决减少有标签的训练数据来训练监督式分类模型的问题，通过使用 Active Learning 和 K-means 聚类算法，采用 mini-batch Active Learning 方法来快速有效地选取对模型具有信息量和多样性的训练样例，以达到相当或更好的性能表现。

    Jan, 2019

  • 带成本的平均情况主动学习

    对一种贪心主动学习算法的期望成本进行了分析，如使用标签成本的活跃学习，适用于多类和部分标签查询的活跃学习，以及批处理模式的活跃学习。

    May, 2009

  • 具备对现实数据池进行对比学习的深度主动学习

    本研究提出了一种新的主动学习方法，通过对比学习在特征空间中选择集群的样本，从标记和未标记的数据池中获取信息，以获取优先的显着内部分布样本，并证明该方法相对于现有的主动学习方法需要更少的标注预算才能达到相同的准确性水平。

    Mar, 2023

  • 主动自适应的序列学习

    提出了一种主动和自适应地解决一系列机器学习问题的框架，该框架通过使用一些未标记数据池中的最具信息量的样本，利用先前步骤中获得的信息，使用基于随机梯度下降的主动学习算法来实现近乎最优的风险性能，并构建了一个学习问题变化的估计器，通过使用主动学习样本提供一种自适应的样本大小选择规则，以保证足够的时间步数时超额风险是有界的。

    May, 2018

  • 批量的基于偏好的奖励函数学习

    本文介绍了一种新的算法，批量主动偏好学习，它使用尽可能少的数据样本进行有效的奖励函数学习，并具有较短的查询生成时间。我们为批量主动学习问题引入了几个近似，并为我们的算法的收敛提供了理论保证。通过在模拟中进行各种机器人任务的实验，我们的结果表明我们的批量主动学习算法仅需要少量计算时间短的查询。最后，我们将展示我们的算法在学习人类用户喜好的研究中的应用。

    Oct, 2018