Sep, 2023
学习针对特定学习目标的主动学习策略
Learning Objective-Specific Active Learning Strategies with Attentive Neural Processes
Tim Bakker, Herke van Hoof, Max Welling
TL;DR基于池的主动学习方法对于增加机器学习模型的数据效率具有潜力，但现有方法对数据集和训练设置选择非常敏感，因此不适用于一般应用。为了解决这个问题，学习主动学习（LAL）领域建议学习主动学习策略本身，使其能够适应特定的设置。本研究提出了一种基于关注条件神经过程模型的用于分类的新型 LAL 方法，利用主动学习问题的对称性和独立性属性。我们的方法基于从一个近视的预测模型进行学习，使得我们的模型能够适应非标准目标，如不平等权重的错误。我们的实验证明，在这些设置下，我们的神经过程模型优于多种基线方法。最后，我们的实验表明，我们的模型对于不同数据集的稳定性有所提高。然而，分类器的选择会对性能产生影响，还需要更多的工作来减小与近视预测模型的性能差距，并提高可伸缩性。我们将我们的工作作为对非标准目标的 LAL 的概念验证，并希望我们的分析和建模考虑能够为未来的 LAL 工作提供启发。