Feb, 2014

近似最优贝叶斯主动学习与决策

PDF
TL;DR本研究中，我们解决了 Bayesian 主动学习和实验设计中的问题，通过选择测试来减少有关一组假设的不确定性，并开发了 HEC 算法来帮助我们尽快将不确定性减少到单一决策区域。该算法基于计算完整的对称多项式子集的有效实施，并在两个实际应用中得到了验证：近似基于比较的学习和使用机器人手臂的主动定位。
bayesian active learningexperimental designdecision regionshyperedge cutting algorithmrobot manipulator
发现论文，激发创造
  • 嘈杂贝叶斯主动学习

    本文提出了一种基于最大化外部 Jensen-Shannon 分歧的标签查询采样策略，用于噪声贝叶斯主动学习中的真实标签生成函数的识别，并提供了上下界，表现优于以往的方法。

    Dec, 2013

  • 带有相关且嘈杂测试的近乎最优贝叶斯主动学习

    这篇论文提出了 ECED 算法，实现了贝叶斯主动学习和实验设计问题，并针对有条件相关性的测试结果进行了探索，通过优化代理目标函数中的测试输入来实现在相关噪声测试中的最优界限。

    May, 2016

  • 带噪声观测的近最优贝叶斯主动学习

    我们提出了 EC2 这个新的、贪心的主动学习算法，并证明了它与最优策略相竞争，因此得到了关于具有噪声观察的贝叶斯主动学习的第一个竞争保证。我们的结果基于最近发现的一种递减回报性质，称为自适应子模性，将子模集函数的经典概念推广到适应策略中。

    Oct, 2010

  • 贝叶斯神经网络在主动学习中的有效性

    本文研究使用贝叶斯神经网络进行主动学习，相较于集成技术更能有效地捕捉不确定性，拥有更好的模型效果，同时还揭示了集成技术的一些关键缺陷。

    Apr, 2021

  • 贝叶斯批次主动学习作为稀疏子集逼近

    本研究提出一种基于贝叶斯批量主动学习方法来解决大规模监督模型中标签获取成本高的问题，从而利用大量未标记数据来改善模型性能。此方法通过逼近模型参数的完整数据后验概率，并使用随机投影技术来推广到任意模型，从而使批处理的数据选择更加多样，有效降低了计算复杂度，并在多个大规模回归和分类任务上得到了证实。

    Aug, 2019

  • 简单问题的主动学习

    我们研究了在主动学习过程中使用区域查询的复杂度与查询数量之间的权衡关系，并通过设计 VC 维度相关的查询方法来有效地学习。对于特定的假设类别，我们展示了更强的结果，包括计算效率和对未知数据集的适应性。

    May, 2024

  • 贝叶斯分层建模下主动学习回归的动态探索和利用权衡

    本文提出了一种基于贝叶斯层次模型的动态平衡勘探和利用之间权衡的方法，并基于特征空间中数据样本的线性相关性，形成了一个近似贝叶斯计算方法，以从贝叶斯层次模型获得权衡参数的后验分布中进行抽样。模拟和真实世界的例子表明，与纯勘探和利用策略相比，所提出的方法至少可以获得 6% 和 11% 的平均改进，更重要的是，我们注意到通过优化极具平衡勘探和利用之间的权衡，我们的方法表现更好或至少与纯勘探或纯利用一样好。

    Apr, 2023

  • 极小 - 极大主动学习

    该研究发展了一种基于半监督极小极大熵的主动学习算法，通过同时利用不确定性和多样性来选择最具代表性的样本，从而在图像分类和语义分割任务中表现优于现有的技术。

    Dec, 2020

  • 基于贝叶斯主动学习的分类和偏好学习

    通过使用预测熵计算信息增益，我们提出了一种方法来优化高斯过程分类器的主动学习，同时也将其扩展到高斯过程偏好学习，相比其他主动学习和决策理论方法，我们的方法可以在相等或更低的计算复杂度下获得相同的实验性能。

    Dec, 2011

  • 基于最优模拟的贝叶斯决策

    通过学习预期效用（或其分布）作为动作和数据空间的函数的代理模型，我们提出了一个高效计算在难以计算的似然函数下的最优贝叶斯决策的框架。我们利用基于模拟的推断和贝叶斯优化的最新进展，开发了主动学习方案来选择参数和动作空间中要模拟的位置，从而尽可能少地进行模拟来学习最优动作。该框架非常高效，通常需要的模型调用次数比相关的后验推断任务少，并且比基于蒙特卡洛方法的方法高出 100-1000 倍。我们的框架为进行贝叶斯决策提供了新的能力，特别是在似然函数难以处理且模拟昂贵的挑战性领域。

    Nov, 2023