Nov, 2022

面向工程设计的数据高效代理建模：基于批量模式的深度主动学习回归，无需集成

PDF
TL;DR提出了一种简单且可扩展的主动学习方法，以在学生 - 教师方式下训练替代模型，以取代使用贝叶斯框架对基于深度神经网络（DNN）的替代模型进行复杂的训练过程，从而利用深度学习的优秀能力来减少计算复杂度，在实践中验证了该方法具有可行性并可用于多个工程设计领域。
active learningdeep neural networkssurrogate modelingbayesian frameworkcomputer-aided engineering
发现论文，激发创造
  • 使用 $ε$ 加权混合查询策略的深度主动学习回归

    该研究提出一种新的采样技术，将主动学习方法与深度学习相结合，实现基于代理的建模在工程设计优化中的应用，并经过两个不同工程设计领域的实证评估，结果显示该新方法在样本选择方面比其他方法更准确。

    Jun, 2022

  • 集成主动学习的训练数据子集搜索

    本文提出使用大规模集成主动学习方法来扩展数据子集搜索，通过在数百个模型中重复使用中间训练检查点来实现。实验结果表明，优化训练数据分布可以对大规模视觉任务带来显著的益处。

    May, 2019

  • 基于物理约束深度学习的流体动力学代理建模

    本文提出了一种基于受物理约束的深度学习的代理建模方法，以替代传统的基于数值模拟的建模方法，在流体力学问题中得到了很好的应用表现。

    Jun, 2019

  • 大规模集成运行中的深度替代模型的高吞吐量训练

    最近几年，深度学习方法在加速数值求解器方面取得了突破，提供了对物理世界的忠实但计算密集型的模拟。提出了一个开源框架，能够从大量集合运行的模拟中在线训练这些模型。该框架通过利用多层并行性生成丰富的数据集，避免了 I/O 瓶颈和存储问题，并通过直接流式传输生成的数据。训练储备池减轻了流式传输的固有偏差，同时最大化了 GPU 吞吐量。实验证明，采用该方法，在 2 小时内能够训练 8TB 的数据，并且准确度提高了 47％，批处理吞吐量增加了 13 倍，相比传统的离线过程。

    Sep, 2023

  • 从数据中学习主动学习

    本文提出了一种新的基于数据驱动的主动学习方法，该方法将问题选择过程描述为回归问题以学习基于以前经验的策略，具有广泛的适用性。

    Mar, 2017

  • 基于半监督自编码器的软测量在线主动学习方法

    本文提出了一种将主动学习方法和半监督学习结合的数据驱动软测量方法，通过正交自编码器学习低维特征，以预测化工过程中难以测量的过程变量，实验证明，在流式数据下，该方法可以选择最具信息量的数据点，与传统离线环境相比获得更好的预测表现。

    Dec, 2022

  • 自然语言处理的深度贝叶斯主动学习：一项大规模实证研究结果

    本篇论文就深度主动学习进行了大规模实证研究，针对多种任务和数据集、模型以及获取函数，证实贝叶斯主动学习方法在许多方面都优于传统的不确定性采样方法。

    Aug, 2018

  • 数据驱动的决策聚焦代理建模

    我们引入了决策为中心的替代建模的概念，以解决实时环境下的计算困难的非线性优化问题。所提出的数据驱动框架旨在学习一个更简单的，例如凸优化模型，该模型经过训练以最小化决策预测误差，该误差定义为原始优化模型和替代优化模型的最优解之间的差异。我们将学习问题作为双层规划问题来进行建模，可以看作是一个数据驱动的逆优化问题，我们采用之前工作中的分解型解决算法进行处理。我们通过涉及常见非线性化学过程（如化学反应器、热交换网络和物料混合系统）的数值实验验证了我们的框架。我们还详细比较了以决策为中心的替代建模和标准的数据驱动替代建模方法，并证明了我们的方法在产生简单的替代模型且预测决策准确性更高方面具有显著的数据效率。

    Aug, 2023

  • 基于主动学习的代理建模技术用于高效模拟参数非线性系统

    本研究提出了一种非侵入式优化准则，以有效地构建参数化代理模型，利用基于核的浅层神经网络的主成分分析子空间和主动学习方法构建了 ActLearn-POD-KSNN 代理模型，该模型可以有效地预测新参数位置处的求解，即使在有多个相互作用的激波轮廓的情况下。

    Jun, 2023

  • 深度集成贝叶斯主动学习：通过集成解决蒙特卡罗失活的模式崩溃问题

    提出一个基于集成学习方法的新型主动学习策略，命名为 DEBAL，以解决大规模有标签数据获取不易的问题，并在 MNIST 和 CIFAR-10 数据集上验证了其优越的分类性能。

    Nov, 2018