Aug, 2019

贝叶斯批次主动学习作为稀疏子集逼近

PDF
TL;DR本研究提出一种基于贝叶斯批量主动学习方法来解决大规模监督模型中标签获取成本高的问题，从而利用大量未标记数据来改善模型性能。此方法通过逼近模型参数的完整数据后验概率，并使用随机投影技术来推广到任意模型，从而使批处理的数据选择更加多样，有效降低了计算复杂度，并在多个大规模回归和分类任务上得到了证实。
发现论文，激发创造
  • 大规模批量主动学习

    研究了一种高效的批量主动学习算法，该算法结合不确定性和多样性概念，在批量设置中易于扩展，并与先前研究中使用的批量大小（100K-1M）相比提高模型训练效率。同时，还证明了相关采样方法的标签复杂度保证，该方法在特定情况下几乎等同于我们的采样方法。

    Jul, 2021

  • 在贝叶斯主动学习中更好地利用无标签数据

    全监督模型在贝叶斯主动学习中占主导地位，我们认为它们对未标记数据中的信息的忽视不仅损害了预测性能，也影响了关于获取哪些数据的决策。我们提出了一个简单的半监督贝叶斯主动学习框架，发现它比传统的贝叶斯主动学习或随机获取数据的半监督学习能够生成更好的模型。该框架也更易于扩展。除了支持向半监督模型的转变外，我们的发现还强调了研究模型和获取方法的重要性。

    Apr, 2024

  • 贝叶斯神经网络在主动学习中的有效性

    本文研究使用贝叶斯神经网络进行主动学习，相较于集成技术更能有效地捕捉不确定性，拥有更好的模型效果，同时还揭示了集成技术的一些关键缺陷。

    Apr, 2021

  • 基于池的批次主动学习中的快速速率

    本文在 batch active learning 场景下，提出了一种解决 informativeness 和 diversity 之间权衡问题的算法，理论上可以在 pool-based active learning 中得到最优结果，并且这也是第一篇使用这种方式明确量化在 pool-based 场景中 batch active learning 统计表现的论文。

    Feb, 2022

  • 一种新的批量主动学习方法及其应用于合成孔径雷达数据集

    使用 Dijkstra 的 Annulus Core-Set 和 LocalMax 相结合的批处理主动学习方法，在维持模型准确度的同时提高了效率，应用于 FUSAR-Ship 和 OpenSARShip 数据集的分类，并超越了基于 CNN 的现有方法。

    Jul, 2023

  • 多样化小批量主动学习

    该研究致力于解决减少有标签的训练数据来训练监督式分类模型的问题，通过使用 Active Learning 和 K-means 聚类算法，采用 mini-batch Active Learning 方法来快速有效地选取对模型具有信息量和多样性的训练样例，以达到相当或更好的性能表现。

    Jan, 2019

  • 小数据的模型选择实用主动学习

    本研究开发了一种基于支持向量分类的基础池式主动学习器的快速简单的实践方法，旨在解决很少标记数据点的情况下进行模型选择的挑战，并通过加权方法让模型在易于分类数据集和难以分类数据集之间取得平衡的最佳性能。

    Dec, 2021

  • 贝叶斯生成主动深度学习

    本文提出一种贝叶斯生成主动深度学习方法，将主动学习与数据增强相结合，通过在 MNIST、CIFAR-10/100 和 SVHN 数据集上进行训练和分类实验证明，此方法具有更高效的训练和更好的分类结果。

    Apr, 2019

  • 深度贝叶斯主动半监督学习

    通过半监督深度学习与主动学习相结合的方法，使用尽可能少的标记样本，同时利用熵最小化对未标记样本进行训练，在 MNIST 数据集上仅使用 300 个标记样本实现 2.06% 的误差率和 1000 个标记样本实现 1.06% 的误差率。该方法可以获得高准确性的敏捷标注过程，同时节省标记成本。

    Mar, 2018

  • 主动自适应的序列学习

    提出了一种主动和自适应地解决一系列机器学习问题的框架，该框架通过使用一些未标记数据池中的最具信息量的样本，利用先前步骤中获得的信息，使用基于随机梯度下降的主动学习算法来实现近乎最优的风险性能，并构建了一个学习问题变化的估计器，通过使用主动学习样本提供一种自适应的样本大小选择规则，以保证足够的时间步数时超额风险是有界的。

    May, 2018