通用自回归用于多保真度融合

Jan, 2023

GAR: Generalized Autoregression for Multi-Fidelity Fusion

Yuxin Wang, Zheng Xing, Wei W. Xing

TL;DR本文提出了基于张量分解以及潜在特征的广义自回归（GAR）方法，在多保真融合问题中能够处理任意维度的输出和任意保真数据结构，并且具有良好的可扩展性和精度，同时提出了简化版的算法 CIGAR 以降低计算复杂度，经过实验验证，该方法明显优于现有的同类方法。

Abstract

In many scientific research and engineering applications where repeated simulations of complex systems are conducted, a surrogate is commonly adopted to quickly estimate the whole system. To reduce the expensive cost of generating training examples, it has become a promising approach to combine the results of low-fidelity (fast but inaccurate) and high-fidel

multi-fidelity fusion surrogate models autoregression tensor formulation cigar

发现论文，激发创造

物理学中回归问题的多准确度高斯过程代理建模

通过比较多种多保真度方法构建高斯过程代理进行回归，我们发现多保真度方法通常具有较小的预测误差，且对于相同计算成本而言，其效果因不同场景而异。

Apr, 2024

高斯过程自回归回归模型（GPAR）

提出了 Gaussian Process Autoregressive Regression (GPAR) 模型，是一种可伸缩的多输出高斯过程模型，能够简单而可行地捕获可能因输入变化而产生的非线性依赖关系，并在各种合成和真实世界问题上展示了 GPAR 的有效性，优于现有的 GP 模型并实现了在已有基准测试中的最先进性能。

Feb, 2018

全局自回归模型用于数据高效的序列学习

介绍了一个基于 seq2seq 模型的 GAM（Global Autoregressive Models）的类，将自回归组件与对数线性组件相结合，在小数据条件下使用全局先验特征来补偿数据不足，并使用两个步骤来训练此模型，实验表明，使用第二个自回归模型可以强有力地减少混乱度。

Sep, 2019

辅助导向自回归变分自动编码器

本文提出了一种训练程序，它基于辅助损失函数来控制潜变量所捕获的信息以及留给自回归解码器的信息，该方法可以实现任意强大的自回归解码器，达到具有潜变量的模型中最先进的定量性能，并生成定性令人信服的样本。

Nov, 2017

科学机器学习中基于多种准确度的线性回归模型从稀少数据中学习

在科学机器学习中，我们提出了一种新的多保真度训练方法，利用可用的不同保真度和成本的数据，通过多保真度数据定义线性回归模型的未知参数的新的多保真度蒙特卡罗估计器，并提供理论分析以保证该方法的准确性和对较小训练预算的改进鲁棒性。数值结果验证了理论分析，并表明与仅具有相似成本的高保真度数据训练的标准模型相比，我们用稀缺高保真度数据和额外低保真度数据训练的多保真度学习模型具有数量级更低的模型方差，说明在稀缺数据环境下，我们的多保真度训练策略能够产生具有较低期望误差的模型。

Mar, 2024

多保真代理模型：一种新的数据融合视角

多重保真度代理模型结合了不同来源的准确性和成本不同的数据。它战略性地使用低保真度模型进行快速评估，节省计算资源，并使用高保真度模型进行详细优化，它通过解决不确定性和超越单一保真度模型的限制来改善决策。融合高保真度数据用于详细响应，并且频繁融合低保真度数据用于快速近似，有助于在各个领域进行设计优化。

Apr, 2024

扩散生成多保真学习与物理模拟

基于随机微分方程的扩散生成多保真度（DGMF）学习方法通过连续去噪过程生成解决方案输出，同时利用条件分数模型控制解决方案的生成，可有效学习和预测多维解决方案数组，将离散和连续保真度建模统一，展示了多保真度学习的有希望的新方向。

Nov, 2023

数字孪生和不确定性量化的增强多保真建模

研究了一个多保真代理模型框架，将多项式相关函数扩展（PCFE）与高斯过程（GP）相结合，提供了一种称为 H-PCFE 的有效代理模型，并引入了具有不同保真度的级联模型体系，称为 Deep-HPCFE，其通过在不同模型之间引入空间相关性，有效地解决了由低保真度模型引起的预测误差问题。该多保真度框架的性能评估和数字双胞胎系统的实际应用证明了其有效性。

Jun, 2023

利用蒸馏自回归模型获得高性能的非自回归车辆路径问题求解器，以提高推理速度

本文提出了一种通用的引导式非自回归知识蒸馏（GNARKD）方法，通过知识蒸馏从自回归模型中获取低推理延迟的高性能非自回归模型，通过将 GNARKD 应用于三种广泛采用的自回归模型，我们得到了在合成和真实实例中的 NAR VRP 求解器，实验结果表明，GNARKD 显著减少推理时间（快 4-5 倍），可接受的性能下降（2-3%），据我们所知，这是第一个通过知识蒸馏从自回归模型获取 NAR VRP 求解器的研究。

Dec, 2023

深度高斯过程在多保真建模中的梯度增强

多保真度模型集成多个数据源以产生底层过程的单个逼近器，并通过稠密低保真样本来降低插值误差，通过稀疏高保真样本来补偿低保真样本中的偏差或噪音。本文将深度高斯过程扩展到包含梯度数据，并在实际的偏微分方程问题中进行应用，其中预测高超声速飞行器在一系列飞行条件和几何形状下的空气动力系数。在两个例子中，增强梯度的深度高斯过程模型胜过增强梯度的线性高斯过程模型和非增强梯度的对照模型。

Feb, 2024