化学反应流中主成份传输源项预测的迁移学习

Dec, 2023

化学反应流中主成份传输源项预测的迁移学习

Transfer learning for predicting source terms of principal component transport in chemically reactive flow

Ki Sung Jung, Tarek Echekki, Jacqueline H. Chen, Mohammad Khalil

TL;DR通过使用各种迁移学习模型来预测氢 / 空气混合物的均相点火过程数据驱动的降阶模型的化学源项等目标，本研究评估了是否可以减少所需的训练样本数量。

Abstract

The objective of this study is to evaluate whether the number of requisite training samples can be reduced with the use of various transfer learning models for predicting, for example, the chemical source terms o

transfer learning reduced-order model ignition evolution chemical source terms artificial neural networks

发现论文，激发创造

加速反应流高保真模拟的概率传递学习方法

利用贝叶斯神经网络和自编码器来降低状态空间的维度，将知识从源域传递到目标域，该新颖的概率迁移学习框架在低维度和稀疏数据情境下能够正确预测热化学状态，并且比现有的确定性迁移学习策略所需的数据量少四倍。

May, 2024

多个主成分分析研究之间的知识转移

我们提出了一种两步传递学习算法，通过从多个主成分分析（PCA）研究中提取有用信息来增强目标 PCA 任务的估计精度，并对理论进行了分析，证明了在知识传递之后经验谱投影矩阵的双线性形式在较弱的特征值间隔条件下渐进地正态分布。

Mar, 2024

从小数据集进行分子属性预测的迁移学习

通过使用小样本数据集进行基于机器学习方法的分子属性预测，研究发现使用消息传递神经网络（PaiNN）以及 SOAP 分子描述符与梯度提升回归树方法相结合的简单分子描述符能够获得最佳预测结果。进一步提出了一种使用大样本数据进行预训练，并在原始数据集进行微调的迁移学习策略，以获取更准确的模型。该策略在 Harvard Oxford Photovoltaics 数据集（HOPV，HOMO-LUMO 间隙）获得了出色结果，在 Freesolv 数据集（溶剂化能）上由于复杂的学习任务和用于预训练和微调标签的不同方法而不成功。研究还发现，预训练数据集的大小与最终训练结果并非单调改善的关系，更少的预训练数据点可能导致预训练模型的偏置更高，从而在微调后获得更高的准确性。

Apr, 2024

基于洗牌配置的无监督学习的站点渗流

应用主成分分析（PCA）和基于无监督学习的自编码器（AE），研究了随机化和选择的渗流图作为神经网络的输入，分析了获得的结果，表明 AE 的单一潜在变量和 PCA 的第一主成分与粒子密度相关。

Nov, 2023

使用神经网络进行命名实体识别的迁移学习

通过转移学习，可以提高病历记录去识别的最新技术在有限标记数据集上的性能。

May, 2017

基于规则标签的弱监督学习：用于可转移化学性质预测的 ChemNet

本研究旨在提出一种基于规则知识训练的 ChemNet 神经网络，从大规模未标记化的化学数据库中进行弱监督学习，通过迁移学习的方法对化学性质进行预测，并证明其相比于常规监督学习的深度神经网络模型具有更高的准确性，同时不受网络结构类型限制。该预训练 ChemNet 的应用可以通过整合化学领域知识，实现对新型化学性质预测的更为精确和系统化。

Dec, 2017

通过主成分分析实现神经网络特征化和熵调节的数据平衡

本文研究了神经网络行为与数据记录在训练数据的低阶主成分所构成的分布之间的关系，通过评估每个直方图箱子相关的熵来实现简单的数据平衡程序。

Dec, 2023

向规模化迈进：深度学习中多元回归的化学损失权重调整

通过简单而有效的损失权重调整方法，提高了人工神经网络在学习多组分质量分数时的准确性，并且带来了更平衡的网络训练梯度。

Aug, 2023

一种稳定的基于包装器的参数选择方法，用于高效的基于人工神经网络的数据驱动湍流建模

通过人工神经网络和梯度衍生子集选择的方法，本研究分析和开发了一种用于建模复杂湍流流动和热传递现象的缩减建模方法。该方法在移除冗余或不相关参数方面优于其他方法，但人工神经网络训练中的过拟合和随机性可能导致在更高物理维度上实现不一致的子集选择。通过将这些方法应用于一个制造的子集选择问题以及湍流气泡流动中的气泡大小建模和管道流动中的位置变化湍流普朗特数建模，检验了参数缩减性能和试验一致性。研究发现，梯度衍生子集选择以最小化总导数损失的方式相比其他基于人工神经网络的包装器方法，在试验一致性方面具有改进，同时成功地去除了不必要的参数。对于缩减的湍流普朗特数模型，梯度衍生子集选择方法在验证案例中提高了预测能力。此外，减少的参数子集相比其他方法显示出略微增加的训练速度。

Aug, 2023

迭代自迁移学习：一种基于小数据集的响应时程预测通用方法论

本研究提出了一种基于小数据集的迭代式自传递学习方法，通过深度适应网络和伪标签策略的耦合，建立对应的数据集，实现针对小数据集的神经网络训练，并选取复杂构件进行案例研究，结果表明该方法能够在不需要外部标记样本、良好预训练模型、额外人工标记和复杂物理 / 数学分析的情况下，将模型性能提高了近一个数量级。

Jun, 2023