Feb, 2024

连续搜索空间的活动水平集估计与理论保证

PDF
TL;DR在连续搜索空间中，本研究提出了一种新的算法，通过构建一个置信度测量函数的获取函数，无需离散化直接进行工作，具有理论上的收敛性和在合成和真实数据集上优于现有方法的性能。
level set estimationcontinuous search spaceacquisition functionconvergencestate-of-the-art methods
发现论文，激发创造
  • 主动水平集估计的有限时间方法

    我们考虑在空间采样的背景下的主动学习问题，目标是在尽快的情况下定位所有感兴趣函数超过 / 低于给定阈值的区域。我们提出了一个有限时间搜索过程，以在一维空间中执行级别集估计，同时在固定样本数量的情况下最佳地平衡估计误差和行进距离。我们使用调节参数来权衡估计精度和行进距离。我们展示了该优化问题可以以闭合形式求解，并且该策略可以推广到该问题的现有方法。然后我们展示了如何在流行的高斯过程模型下执行高维级别集估计。对于合成数据的实证结果表明，随着旅行成本的增加，我们的方法通过非迈逐地对待距离，显著改进了现有技术水平。在真实的空气质量数据上，我们的方法在大约一半的开销下实现了大约五分之一的估计误差。

    Oct, 2023

  • 多尺度高斯过程水平集估计

    本文提出了一种基于高斯过程先验的贝叶斯方法的新算法，用于从具有噪声和昂贵评估查询的黑盒函数中估计水平集。该算法利用分层序列的分区来探索不同的搜索空间区域，在不同的细节级别上，取决于它们与水平集边界的接近程度，从而得到比现有具有更低复杂度实现，计算成本极小的算法。同时获得了指标差异的高置信度上限，这些上限已被证明比大类别的高斯过程上现有保证严格更好。

    Feb, 2019

  • 利用高斯过程进行鲁棒的超级水平集估计

    该论文集中讨论了通过高概率确定函数超过给定阈值的尽可能大的区域的问题，提出了一种使用鲁棒性方差项的高斯过程来预测函数上阈值区域的体积，并给出了算法的探索效果的渐近保证，同时还通过各种数值实例表明我们的方法在实践中也优于现有技术。

    Nov, 2018

  • 贝叶斯神经网络高维水平集估计

    本篇论文提出了使用贝叶斯神经网络的新方法，从而解决高维度 Level Set Estimation 问题，并给出了两种问题的相应理论信息获取函数，进一步分析了我们拟议的获取函数的理论时间复杂度，并建议一种实际的方法来有效地调整网络超参数以实现高模型精度。我们在合成和真实数据集上进行了数字实验，证明我们的拟议方法比现有的最先进方法取得了更好的结果。

    Dec, 2020

  • 凸优化的水平集方法

    本文介绍了一种交换目标函数和约束函数，通过解决参数级集问题，利用不精确的函数评估和可能不精确的导数信息的零点查找过程来有效解决原始问题。该方法适用于广泛的问题，包括低秩半定优化、稀疏优化和推断的广义线性模型。

    Feb, 2016

  • 一个基于信息论的框架，用于统一主动学习问题

    本文提出了一个信息理论框架，用于统一主动学习问题：水平集估计（LSE）、贝叶斯优化（BO）及其广义变体。首先介绍了一种新颖的主动学习标准，该标准包含了现有的 LSE 算法并在连续输入域的 LSE 问题中达到了最先进的性能。然后，通过利用 LSE 和 BO 之间的关系，我们设计了一个竞争性的信息理论获取函数，该函数具有与上置信上界和最大清洗熵搜索（MES）的有趣联系。我们的统一信息理论框架可以应用于以数据有效的方式解决 LSE 和 BO 的广义问题。最后，我们使用合成基准函数、真实世界数据集和超参数调整机器学习模型来实证评估我们的算法性能。

    Dec, 2020

  • 密度水平集：渐近、推断和可视化

    本研究基于渐近理论提出两种基于自助法的置信区间进行异常检测和聚类，并结合模式聚类和多维标度法实现高维密度水平集的可视化。

    Apr, 2015

  • 自适应 Hausdorff 密度水平集估计

    本文针对基于密度函数的水平集的估计问题提出了一种全数据驱动的方法，并且该方法是自适应未知正则性条件的，可以实现多个连接组件和非常一般的形状的密度水平集的接近最小化最优 Hausdorff 误差控制。

    Aug, 2009

  • 使用并行随机优化几乎免费实现高置信度推断

    通过利用少量的独立多轮运行获得分布信息并构建基于 t 分布的置信区间，在保证高置信水平的前提下，提出了一种快速计算收敛到名义水平置信区间的新型推断方法，几乎不需要额外的计算和内存开销。

    Jan, 2024

  • 反问题的参数水平集方法

    本文考虑了用参数化的水平集方法重建普遍反问题中的障碍物，提出了适当形式的参数化水平集函数结果降低了问题的维度，提供了使用牛顿和拟牛顿方法进行计算的简便方法，其性能在三个反问题示例中进行了检验。

    Jul, 2010