我们提出了一种新颖的深度学习方法，用于通过离散采样估计马尔科夫过程中的时变参数。通过将参数近似重新构造为最大似然方法的优化问题，我们的方法与传统的机器学习方法有所不同。实验验证集中在多元回归和随机微分方程的参数估计上。理论结果表明，在特定条件下，具有使用我们的神经网络导出的参数近似的 SDE 接近真实解。我们的工作为基于 SDE 的模型参数估计做出了贡献，为不同领域提供了一种多功能工具。

Dec, 2023

研究论文简述：本文表明，在观测到非均匀采样离散时间时，非均匀离散时间马尔可夫过程中的去噪扩散概率模型（DDPM）可以通过具有时间均匀性的连续时间马尔可夫过程来表示。我们使用其解析解建立了 DDPM 与已知的研究广泛的 Ornstein-Ohlenbeck（OU）过程之间的形式上的等价关系。我们进一步证明了非均匀 DDPM 中的噪声调度器设计问题等价于 OU 过程的观测时间设计问题。我们基于如自动方差和费舍尔信息等原理性量化指标，提出了几种启发式的观测时间设计，并将它们与 DDPM 的特殊噪声调度相连接。有趣的是，我们展示了费舍尔信息驱动的调度与余弦调度完全一致，后者是没有任何理论基础但是目前最先进的噪声调度。

Nov, 2023

使用高斯过程作为灵活的模型并使用高斯过程回归直接从稠密数据集中计算估计，开发出一种非参数方法来估计随机微分方程组中的漂移和扩散函数，并开发了一种近似的期望最大化算法来处理稀疏观察之间的未观察到的潜在动态。

Feb, 2017

文章提出了一种新的构建神经网络用于预测随机微分方程期望的方法，该方法不需要输入和输出的数据集，而是直接比较神经网络中的权重与从时间演化方程获得的信息，通过构建神经网络来演示了 Ornstein-Uhlenbeck 方程和带有噪声的 van der Pol 系统。

Jun, 2023

本研究探讨了深度学习，具体而言是长短期记忆（LSTM）网络，在分数随机过程中估计赫斯特参数的可靠性。研究侧重于三种类型的过程：分数布朗运动（fBm），分数奥恩斯坦 - 厄伦贝克（fOU）过程和线性分数稳定运动（lfsm）。该工作通过对 fBm 和 fOU 产生大量数据集，以便以可行的时间内训练 LSTM 网络。研究分析了 LSTM 网络的赫斯特参数估计的准确性，涉及各种性能指标，如均方根误差（RMSE）、平均绝对误差（MAE）、相对误差均值（MRE）以及绝对误差和相对误差的分位数。结果发现，在 fBm 和 fOU 过程的情况下，LSTM 的性能优于传统统计方法，但在 lfsm 过程中的准确性有限。研究还深入探讨了训练长度和估值序列长度对 LSTM 性能的影响。该方法应用于锂离子电池衰减数据中的赫斯特参数估计，并得到了估计的置信区间。研究得出的结论是，虽然深度学习方法在分数过程参数估计方面表现出潜力，但其有效性取决于过程类型和训练数据的质量。

Jan, 2024

利用深度神经网络预测机械模型参数在生物过程工程中起到了重要的作用，提供了高效、健壮且计算成本低的参数估计方法，综合实验数据对比了提出的算法与传统方法，发现神经网络预测的参数估计优于传统拟合程序。

Dec, 2023

使用深度学习作为似然无关估计器进行训练，以显著简化设计过程并避免非线性系统中固有的计算昂贵的二级优化问题，从而改善参数估计问题的恢复过程。

Jun, 2024

本研究评估了贝叶斯方法在深度学习中用于不确定性估计的方法，重点关注广泛应用的 Laplace 近似及其变体。我们的研究发现，传统的拟合 Hessian 矩阵的方法对于处理超出分布的检测效率产生了负面影响。我们提出了一种不同的观点，认为仅关注优化先验精度可以在超出分布检测中产生更准确的不确定性估计，并保持适度的校准度。此外，我们证明了这种特性与模型的训练阶段无关，而是与其内在性质相关。通过广泛的实验评估，我们证实了我们简化方法在超出分布领域中优于传统方法的优越性。

Dec, 2023

基于扩散模型与广义欧氏 - 乌伦贝克桥模型，通过端到端训练，从低质量图像恢复出高质量图像，并在各种任务中取得了最先进的结果。

Dec, 2023

利用 Huber 损失函数的神经网络来准确估计复杂非线性系统的参数，该方法通过训练神经网络使用带有噪声的时间序列数据，使其逐步收敛到准确的参数，并在阻尼振荡器、Van der Pol 振荡器、Lotka-Volterra 系统和 Lorenz 系统中验证了其准确性和鲁棒性。该方法展示了在非线性系统中发现复杂关系的多功能工具，并能够灵活应对噪声和不确定性。

Aug, 2023