ICMLJul, 2017
主动学习的学习算法
Learning Algorithms for Active Learning
Philip Bachman, Alessandro Sordoni, Adam Trischler
TL;DR我们引入了一种模型,通过元学习来学习主动学习算法,它可以联合学习相关任务的数据表示、物品选择启发式和从标记训练集构造预测函数的方法。使用 Omniglot 和 MovieLens 数据集,在合成和实际环境中测试了我们的模型。
Abstract
We introduce a model that learns active learning algorithms via metalearning.
For a distribution of related tasks, our model jointly learns: a data
representation, an →
active learning algorithmsmetalearningdata representationitem selection heuristicprediction functions
发现论文,激发创造
通过深度强化学习元学习可转移的主动学习策略
使用元学习框架,将主动学习算法视为学习问题,并使用强化学习训练一个输入基础学习器状态和未标记点集的深度神经网络,预测下一个最佳注释点,使用多任务数据集嵌入方法,使得算法可以直接推广到不同的问题。
Jun, 2018
学习主动学习:深度强化学习方法
该论文提出了将主动学习重新表述为一种强化学习问题,并明确学习数据选择策略,其中策略充当主动学习启发式算法的角色,以解决启发式选择方法的有效性受限且性能因数据集而异的问题。我们使用跨语言命名实体识别来演示我们的方法,发现相对于传统的主动学习,我们的方法获得了均衡的改进。
Aug, 2017
MetAL: 基于元学习的图半监督主动学习
本文提出了一个基于元学习的主动学习方法 MetAL,通过利用 meta-gradients 来模拟模型训练效果,并且在多种不同领域的数据集上取得了比现有算法更好的结果。
Jul, 2020
主动学习 meets 优化项目选择
提出了一个新的组合优化问题,以生成优化的项目选择,以缩短收集随机训练数据的时间,并结合离散优化、无监督聚类和潜在文本嵌入技术来解决优化问题,并讨论了如何将优化的项目选择与主动学习相结合用于随机探索。
Nov, 2021
自适应基于梯度的元学习方法
本文提出了一种理论框架来设计和理解实用的元学习方法,该方法将任务相似性的复杂形式化与在线凸优化和序列预测算法的广泛文献融合。该方法使任务相似性能够自适应地学习,为统计学习 - to-learn 的转移风险提供更加精确的界限,并在任务环境动态变化或任务共享一定几何结构的情况下,导出高效算法的平均情况后悔界限。我们使用该理论修改了几种流行的元学习算法,并在少样本学习和联邦学习的标准问题上改善了它们在元测试时的性能。
Jun, 2019