基于贝叶斯主动学习的分类和偏好学习

Dec, 2011

基于贝叶斯主动学习的分类和偏好学习

Bayesian Active Learning for Classification and Preference Learning

Neil Houlsby, Ferenc Huszár, Zoubin Ghahramani, Máté Lengyel

TL;DR通过使用预测熵计算信息增益，我们提出了一种方法来优化高斯过程分类器的主动学习，同时也将其扩展到高斯过程偏好学习，相比其他主动学习和决策理论方法，我们的方法可以在相等或更低的计算复杂度下获得相同的实验性能。

Abstract

information theoretic active learning has been widely studied for probabilistic models. For simple regression an optimal myopic policy is easily tractable. However, for other tasks and with more complex models, such as

information theoretic active learning predictive entropies gaussian process classifier binary preference learning classification

发现论文，激发创造

高斯过程的信息论元学习

利用相互信息和信息瓶颈的概念对元学习进行了建模，提出了一种通用的可行的框架，用于学习任务描述的随机表示或编码，该表示对于预测验证集具有高度的信息量，并开发了一种基于记忆的算法，用于少样本分类问题的研究。

Sep, 2020

多输出高斯过程的近似最优主动学习

本文提出了一种解决多输出高斯过程模型主类型和相关环境现象多种共存的主动学习问题的方法，该问题涉及选择最具信息量的采样位置和每个位置的测量类型，以在预算范围内最小化目标感兴趣的预测不确定性（即后验联合熵），为了解决优化时的问题，我们利用了稀疏 MOGP 模型的常见结构，推导出一种新的主动学习准则，并利用新准则的放松形式子模性质，设计了一种多项式时间近似算法，实证评估表明我们的方法优于 MOGP 和单输出 GP 模型的现有算法。

Nov, 2015

非参数主动学习用于成本敏感分类

设计了一种用于成本敏感分类的通用非参数主动学习算法，通过构建每个标签的预测成本函数的置信区间，该算法选择最具信息量的向量点，通过仅查询可能是最小的预测成本来与其交互，证明了该算法在与向量空间的交互数量方面达到了最优收敛速率，并且在对 Tsybakov 的噪声假设的一般版本中，通过边界决策的概率质量明确表征了相对于相应被动学习方法的收益，并且通过提供匹配的（仅差对数因子的）下界证明了获得上界的接近最优性。

Sep, 2023

通过费舍尔信息和信息论量统一主动学习和主动采样方法

本文回顾了贝叶斯最优实验设计的基础，并表明被称为期望信息增益或 BALD 的预测和模型参数之间的互信息以及被称为预测信息增益的获取候选和测试样本之间的互信息可以作为信息理论量的近似，提出了一种连接所谓分歧文献的统一框架。

Aug, 2022

大型语言模型中的深度贝叶斯主动学习偏好建模

通过提出一种新的随机获取策略，该模型可以在多种设置中以比以前的贝叶斯随机获取策略更少的偏好标签的情况下，在人类喜好数据集中获得 33% 至 68% 的偏好标签。

Jun, 2024

决策树归纳的信息增益估计改进

本研究探讨了常见的决策树信息增益估算方法的偏差问题，并通过改进离散熵和微分熵的估算方法，提高了分类和回归预测性能。

Jun, 2012

用于赌博游戏的近似信息最大化

基于熵最大化和自由能最小化的原理，提出一种新类的 Bandit 算法，通过最大化系统内关键变量的信息量近似来选择行动，该方法在经典 Bandit 设置中表现出较强的性能，并在高斯奖励的二臂 Bandit 问题上证明了渐近最优性，为进一步研究信息最大化方法在多臂 Bandit 问题中的应用提供了有效方法。

Oct, 2023

高斯过程状态空间模型本地主动学习

本文提出了一种基于高斯过程状态空间模型的主动学习策略，旨在获取状态操作空间有界子集上的准确模型，并通过模型预测控制集成探索过程中收集的信息和自适应改进探索策略。

May, 2020

高斯过程状态空间模型中的主动学习

本文研究了高斯过程状态空间模型的主动学习。通过决定其输入，我们可以通过 GPSSM 最优地学习系统的潜在状态，以便选择最具信息量的输入。我们提出了两种逼近潜在状态下 GPSSM 的互信息的方法，并在多个物理系统中进行了评估。

Jul, 2021

主动学习高斯过程动力学

本文提出了利用高斯过程回归中自然产生的信息理论特性的主动学习策略，尊重系统动态 imposed 约束下的抽样过程，并在高不确定度区域选择抽样点，以实现探索性行为和数据高效训练。该方法在大量数值基准测试中得到验证。

Nov, 2019