Sep, 2023

梯度和不确定性增强的全局拟合序贯抽样

PDF
TL;DR提出了一种新的全局适应抽样策略，称为梯度和不确定性增强的顺序抽样（GUESS），该策略在该研究中与其他 9 种自适应抽样策略进行了比较，结果表明 GUESS 在测试样例上相比其他基于代理模型的策略具有最高的样本效率。
surrogate modelsmachine learningsampling strategiesglobal fitpredictive posterior uncertainty
发现论文，激发创造
  • 通过高斯过程回归代理进行时间序列预测的不确定性估计

    本研究提出了一种基于替代高斯过程模型的新的不确定性估计方法，能够为任何基础模型提供准确的不确定性估计，并证明该方法在时序预测数据方面比基于引导的方法在中小型数据区域和不同系列的基础模型，包括线性回归，ARIMA 和梯度提升中提供更准确的置信区间。

    Feb, 2023

  • 高维问题的梯度增强克里金法

    本文研究提出了新的梯度增强代理模型，通过采用部分最小二乘法，该方法得以减少超参数数目，控制相关矩阵大小，以及优化采样点，比现有的基于代理模型的解决方案更快速地获得所需精度。

    Aug, 2017

  • 引导式进化策略：用代理梯度增强随机搜索

    研究使用 Guided Evolutionary Strategies 作为一种方法，来让优化过程中的代理梯度信息得到更优的利用，进而结合随机搜索来处理在机器学习等领域中出现的梯度无法被完全计算的问题。

    Jun, 2018

  • 基于高斯过程模拟器的多目标优化：逐步不确定性降低法

    我们提出了一种基于逐步降低不确定性原则的算法，将优化视为当前最佳解以下偏移集的序列降低，并选择提供最高预期降低的点的采样策略，避免使用繁琐的模拟，并在数值例子上进行了测试，结果表明它在探索和集中之间提供了有效的权衡。

    Oct, 2013

  • 使用蒙特卡罗采样的主动学习并行采集

    本文提出了一种称为 NORA 的新方法，该方法利用高斯过程回归的嵌套采样并行生成近似排序的 Monte Carlo 样本，以有效生成排序一致的候选者批次，以及推断边际量。

    May, 2023

  • 理解不确定性抽样

    该研究探讨了基于流式学习和基于池式学习的不确定性采样算法，提出了等价损失和损失作为不确定性的概念，建立了不确定性采样算法的泛化界限，并将其与风险敏感目标和分布鲁棒性联系起来，解释了不确定性采样算法在样本规模较小时的优势。

    Jul, 2023

  • 高斯过程代理近似贝叶斯计算中的批量模拟和不确定性量化

    本文提出了一种基于高斯过程的代理模型改进的近似贝叶斯计算方法，同时结合批次 - 序列贝叶斯试验设计策略实现模型并行化，并通过一种数值方法完整量化不确定性，该方法被称为贝叶斯 ABC，并讨论了它与贝叶斯积分和贝叶斯优化之间的联系。

    Oct, 2019

  • 推断时间采样量化预测不确定性

    通过后处理的抽样策略估计数据不确定性，该方法可用于任何前馈确定性网络，能生成多样化的预测分布，并与预测误差有着良好的相关性。

    Aug, 2023

  • 图上主动学习中的不确定性

    基于节点分类的不确定性采样是主动学习策略，通过迭代地获取具有最高不确定性的数据点的标签，以提高机器学习模型的数据效率。本文首次对节点分类的不确定性采样进行了全面研究，我们超越了预测不确定性来评估不确定性采样，揭示了与其他主动学习策略之间的显著性能差距，并开发了基于数据生成过程的地面真实贝叶斯不确定性估计，证明了其在引导最佳查询中的有效性。在合成数据上验证了我们的结果，并设计了一种近似方法，不断优于其他真实数据集上的不确定性估计。基于此分析，我们将不确定性建模中的问题与现有方法联系起来，我们的分析有助于并引导了基于图的原则性不确定性估计的发展。

    May, 2024

  • 计算机实验的顺序设计用于概率失效估计

    文章旨在研究如何利用贝叶斯理论和高斯过程模型从已知的概率测度中推断系统失效概率，提出了一种称为 SUR 算法的策略，用于高效地评估 f 的值。

    Sep, 2010