Oct, 2023

主动水平集估计的有限时间方法

PDF
TL;DR我们考虑在空间采样的背景下的主动学习问题，目标是在尽快的情况下定位所有感兴趣函数超过 / 低于给定阈值的区域。我们提出了一个有限时间搜索过程，以在一维空间中执行级别集估计，同时在固定样本数量的情况下最佳地平衡估计误差和行进距离。我们使用调节参数来权衡估计精度和行进距离。我们展示了该优化问题可以以闭合形式求解，并且该策略可以推广到该问题的现有方法。然后我们展示了如何在流行的高斯过程模型下执行高维级别集估计。对于合成数据的实证结果表明，随着旅行成本的增加，我们的方法通过非迈逐地对待距离，显著改进了现有技术水平。在真实的空气质量数据上，我们的方法在大约一半的开销下实现了大约五分之一的估计误差。
active learningspatial samplinglevel set estimationgaussian process modelestimation error
发现论文，激发创造
  • 连续搜索空间的活动水平集估计与理论保证

    在连续搜索空间中，本研究提出了一种新的算法，通过构建一个置信度测量函数的获取函数，无需离散化直接进行工作，具有理论上的收敛性和在合成和真实数据集上优于现有方法的性能。

    Feb, 2024

  • 贝叶斯神经网络高维水平集估计

    本篇论文提出了使用贝叶斯神经网络的新方法，从而解决高维度 Level Set Estimation 问题，并给出了两种问题的相应理论信息获取函数，进一步分析了我们拟议的获取函数的理论时间复杂度，并建议一种实际的方法来有效地调整网络超参数以实现高模型精度。我们在合成和真实数据集上进行了数字实验，证明我们的拟议方法比现有的最先进方法取得了更好的结果。

    Dec, 2020

  • 多尺度高斯过程水平集估计

    本文提出了一种基于高斯过程先验的贝叶斯方法的新算法，用于从具有噪声和昂贵评估查询的黑盒函数中估计水平集。该算法利用分层序列的分区来探索不同的搜索空间区域，在不同的细节级别上，取决于它们与水平集边界的接近程度，从而得到比现有具有更低复杂度实现，计算成本极小的算法。同时获得了指标差异的高置信度上限，这些上限已被证明比大类别的高斯过程上现有保证严格更好。

    Feb, 2019

  • 一个基于信息论的框架，用于统一主动学习问题

    本文提出了一个信息理论框架，用于统一主动学习问题：水平集估计（LSE）、贝叶斯优化（BO）及其广义变体。首先介绍了一种新颖的主动学习标准，该标准包含了现有的 LSE 算法并在连续输入域的 LSE 问题中达到了最先进的性能。然后，通过利用 LSE 和 BO 之间的关系，我们设计了一个竞争性的信息理论获取函数，该函数具有与上置信上界和最大清洗熵搜索（MES）的有趣联系。我们的统一信息理论框架可以应用于以数据有效的方式解决 LSE 和 BO 的广义问题。最后，我们使用合成基准函数、真实世界数据集和超参数调整机器学习模型来实证评估我们的算法性能。

    Dec, 2020

  • 利用高斯过程进行鲁棒的超级水平集估计

    该论文集中讨论了通过高概率确定函数超过给定阈值的尽可能大的区域的问题，提出了一种使用鲁棒性方差项的高斯过程来预测函数上阈值区域的体积，并给出了算法的探索效果的渐近保证，同时还通过各种数值实例表明我们的方法在实践中也优于现有技术。

    Nov, 2018

  • 基于主动迁移学习的水平集估计技术的材料表面自适应缺陷区域识别

    本文提出的自适应映射方法与基于主动学习的水平集估计问题（AL-based LSE）解决了材料表面缺陷区域鉴定的效率问题，同时引入了迁移学习方法以利用先前的信息，最终将该方法应用于硅片红区估计，并展示了比传统方法更低的测量成本。

    Apr, 2023

  • 自适应 Hausdorff 密度水平集估计

    本文针对基于密度函数的水平集的估计问题提出了一种全数据驱动的方法，并且该方法是自适应未知正则性条件的，可以实现多个连接组件和非常一般的形状的密度水平集的接近最小化最优 Hausdorff 误差控制。

    Aug, 2009

  • 基于阈值的在线主动线性回归

    该研究考虑在线主动学习来收集回归建模的数据，提出了一种基于阈值的算法来选择最具信息量的观测数据，并将其推广到高维稀疏线性回归，仿真结果表明该算法相对于被动随机抽样具有显著优势。

    Feb, 2016

  • 凸优化的水平集方法

    本文介绍了一种交换目标函数和约束函数，通过解决参数级集问题，利用不精确的函数评估和可能不精确的导数信息的零点查找过程来有效解决原始问题。该方法适用于广泛的问题，包括低秩半定优化、稀疏优化和推断的广义线性模型。

    Feb, 2016

  • 自适应水平集估计的贝叶斯优化感兴趣区域学习

    我们研究高维和非稳态情景下的贝叶斯优化。我们提出了一个名为 BALLET 的框架，通过自适应过滤高置信度感兴趣区域（ROI）来解决现有算法在这些情景中通常需要大量超参数调整的问题。我们的方法易于调整，并能够聚焦于可以应用现有贝叶斯优化方法处理的优化空间的局部区域。关键思想是使用两个概率模型：一个粗糙的高斯过程（GP）用于识别 ROI，一个局部化的 GP 用于 ROI 内的优化。我们理论上证明了 BALLET 可以有效缩小搜索空间，并且能够比没有 ROI 过滤的标准贝叶斯优化展现更紧的遗憾界限。我们通过合成和实际优化任务的实证研究证明了 BALLET 的有效性。

    Jul, 2023