Aug, 2017

神经网络参数估计中的不确定性：强引力透镜应用

PDF
TL;DR该论文介绍了一种使用变分推断框架来获取深度学习模型中参数不确定性的方法，以及通过调整单个超参数 ——dropout rate 来获得准确和精确的不确定性估计，从而证明神经网络是比 MCMC 更快的参数不确定性估计替代方案。
发现论文，激发创造
  • 用卷积神经网络快速自动分析强引力透镜

    本文报道了使用深度卷积神经网络在非常快速且自动化的方式下准确估计透镜参数的方法，不需要使用最大似然方法，而且可以提供一种非专家获取大量数据的透镜参数估计的方法。

    Aug, 2017

  • 深度学习驱动的改进宇宙学参数推断方案

    使用改进的 CNN 算法和基于峰值计数的易于理解方法，可以更好地估计弱引力透镜映射的余量参数和标准差，并提取更多的高阶统计信息，这在研究宇宙学和暗物质中非常有帮助。

    Jun, 2018

  • 使用视觉转换器进行强引力透镜参数估计

    本文使用 Vision Transformer (ViT) 模型在 31,200 个模拟的强引力透镜图像上进行了实验，与传统方法相比在运行速度和成果方面有很大的提升，特别是在参数估计上更为优秀。这为下一代强透镜科学提供了有力的工具，代码和数据公开在 https://github.com/kuanweih/strong_lensing_vit_resnet。

    Oct, 2022

  • 深度学习时代的可扩展贝叶斯推断：从高斯过程到深度神经网络

    本论文介绍了一种将大型神经网络装备上模型的不确定性的方法，并应用了这个方法在 ResNet-50 和深度图像先验网络上进行了实验。

    Apr, 2024

  • 图卷积神经网络模型下演化过程的不确定性量化

    神经网络模型在科学机器学习任务中的应用近年来已大量增加。尤其是，在建模具有时空复杂性的过程方面，神经网络模型表现出色。然而，这些高度参数化的模型在产生与感兴趣的区域保持定量化误差界限方面引起了怀疑。因此，有必要寻找适用于神经网络的不确定性量化方法。本研究对神经网络对复杂时空过程进行了参数不确定性量化的比较，采用了哈密顿蒙特卡洛和 Stein 变分梯度下降及其投影变体。具体而言，我们将这些方法应用于用递归神经网络和神经常微分方程模型建模的发展系统的图卷积神经网络模型。我们展示了 Stein 变分推断是复杂神经网络模型的可行替代方法。对于我们的示例，与哈密顿蒙特卡洛相比，Stein 变分推断在时间上给出了类似的不确定性描述，尽管方差普遍更大。投影 Stein 变分梯度下降也产生了与非投影对应的类似的不确定性描述，但是在神经网络预测的稳定性和复杂的似然函数空间中卷积产生了活动权重空间的大幅减少与困扰。

    Feb, 2024

  • 深度学习不确定性估计的通用框架

    提出了一种用基于贝叶斯信任网络和蒙特卡罗采样的方法来对神经网络进行不确定性估计，这个方法具有与神经网络结构和任务无关，不需要优化进程的更改，能够应用于已经训练好的结构，有效地提高了准确性。

    Jul, 2019

  • 基于贝叶斯深度学习的修正引力宇宙体积

    使用具有不确定性估计的贝叶斯神经网络从修改引力模拟中提取宇宙学参数，优于传统神经网络的精确预测和校准不确定性估计

    Sep, 2023

  • 通过神经网络高斯过程提高深度学习输出不确定性估计和泛化能力

    提出一种简单的方法，将神经网络和高斯过程相结合，以更好地估计输出的不确定性和提高模型的泛化性能，并且采用随机变分推断算法和随机梯度下降法进行模型优化。实验结果表明，该方法在两个时空数据集上均表现出优异的性能。

    Jul, 2017

  • 用卷积神经网络处理噪声数据进行弱引力透镜宇宙学

    利用卷积神经网络能够从弱引力透镜生成的汇聚度图中提取信息，比功率谱方法能够更加严格地约束宇宙学参数而且能够提取弱引力透镜地图中的非高斯信息。

    Feb, 2019

  • 使用 KiDS-450 弱引力透镜地图的深度学习进行宇宙学限制

    本文使用卷积神经网络 (Convolutional Neural Networks, CNN) 分析了 KiDS-450 力学弱引力透镜数据集中的弱引力透镜质量映射，得出了对宇宙的总物质密度，波动幅度以及内在对齐振幅的限制性结果，并与基于功率谱分析得出的结果进行了比较，证明了使用深度学习进行未来宇宙学数据分析的良好前景。

    Jun, 2019