May, 2023

基于参数模型的光谱测量序列实验设计：主动学习

PDF
TL;DR本文提出一种基于贝叶斯推断的数据分析方法，利用先前测量获得的数据进行主动学习，实现具有通用参数模型的序贯实验设计，实验结果表明该方法可以提高模型选择和参数估计的精度并降低测量时间。
发现论文，激发创造
  • 主动自适应的序列学习

    提出了一种主动和自适应地解决一系列机器学习问题的框架，该框架通过使用一些未标记数据池中的最具信息量的样本，利用先前步骤中获得的信息，使用基于随机梯度下降的主动学习算法来实现近乎最优的风险性能，并构建了一个学习问题变化的估计器，通过使用主动学习样本提供一种自适应的样本大小选择规则，以保证足够的时间步数时超额风险是有界的。

    May, 2018

  • 使用近似动态规划的序贯贝叶斯最优实验设计

    本文介绍了用于顺序试验的最优设计策略，并且使用贝叶斯推断的信息理论设计目标针对参数推断进行了 sOED 问题的严谨公式化。同时，研究了具有连续参数，设计和观测空间的非线性设计的数字方法，并利用探索和利用来提高状态空间中经常访问区域的逼近精度。最后，文中展示了对非线性源反演问题的优势。

    Apr, 2016

  • 使用蒙特卡罗采样的主动学习并行采集

    本文提出了一种称为 NORA 的新方法，该方法利用高斯过程回归的嵌套采样并行生成近似排序的 Monte Carlo 样本，以有效生成排序一致的候选者批次，以及推断边际量。

    May, 2023

  • 基于数据驱动的连续学习框架，以加速和优化多目标制造决策

    提出了一种基于数据驱动的贝叶斯优化框架，利用顺序学习来有效优化具有多个相互冲突目标的复杂系统，其中使用一种新的度量来评估多目标数据驱动优化方法的质量和生成所需的数据量，并在制造数据集上进行了评估，结果表明，该算法可以在处理更少的数据的情况下实现实际 Pareto 前沿，从而可以降低成本和时间。

    Apr, 2023

  • 通过互信息的顺序贝叶斯实验设计隐式模型

    我们提出了一种新的序列设计框架，利用实现样本采样的隐式模型分类中的相互信息来寻找最佳实验设计，通过 Bayesian 优化来帮助我们优化 MI 效用，我们发现我们的框架对于各种测试的隐式模型非常有效，在几次迭代后可以产生准确的参数估计。

    Mar, 2020

  • 大语言模型标注资源节约的有监督微调实验设计框架

    我们提出使用实验设计来缓解 SFT 的标注成本，并避免在 LLM 的背景下应用主动学习的计算瓶颈。我们的方法在生成任务中实现了与随机抽样所需注释成本相同的泛化性能，仅需 50% 的注释成本。

    Jan, 2024

  • 全球安全连续学习：高效知识传递

    通过转移安全顺序学习，实现在给定的观测下全局探索多个不相交的安全区域，并以与传统安全学习方法相当的计算量下，以更低的数据消耗学习任务。

    Feb, 2024

  • 面向工程设计的数据高效代理建模：基于批量模式的深度主动学习回归，无需集成

    提出了一种简单且可扩展的主动学习方法，以在学生 - 教师方式下训练替代模型，以取代使用贝叶斯框架对基于深度神经网络（DNN）的替代模型进行复杂的训练过程，从而利用深度学习的优秀能力来减少计算复杂度，在实践中验证了该方法具有可行性并可用于多个工程设计领域。

    Nov, 2022

  • 基于主动学习的代理建模技术用于高效模拟参数非线性系统

    本研究提出了一种非侵入式优化准则，以有效地构建参数化代理模型，利用基于核的浅层神经网络的主成分分析子空间和主动学习方法构建了 ActLearn-POD-KSNN 代理模型，该模型可以有效地预测新参数位置处的求解，即使在有多个相互作用的激波轮廓的情况下。

    Jun, 2023

  • 基于高斯过程的安全主动学习用于时间序列建模

    通过使用高斯过程和非线性外部输入结构在考虑给定安全约束条件的情况下，活跃地学习时间序列模型，使用动态探索输入空间生成适用于时间序列模型学习的数据，然后通过逐步确定安全要求和过去观察结果来对输入轨迹进行参数化分析，并在技术应用中进行实证评估，结果显示我们的方法在现实技术用例中的有效性。

    Feb, 2024