Aug, 2018

神经重要性采样

PDF
TL;DR本文介绍了基于深度神经网络的非线性独立分量估计（NICE）用于 Monte Carlo 积分中样本生成的应用，并介绍了分段多项式耦合变换、一块编码、基于梯度下降的 KL 和 χ2 散度优化等提高模型性能的改进方案。通过应用于生成自然图像以及在光传输模拟中的两种应用，证明了该方法在不同维度积分领域下具有快速、准确、高性能等特点。
deep neural networksmonte carlo integrationpiecewise-polynomial coupling transformsone-blob encodingstochastic estimates
发现论文，激发创造
  • NICE: 非线性独立分量估计

    本文提出了一种深度学习框架，可用于建模复杂的高维密度，基于将数据转换为独立的潜在变量的因式分解分布，容易训练，适用于多种场景，且有良好的生成模型表现。

    Oct, 2014

  • 利用神经重要性抽样探索相空间

    本文提出了一种新的高能物理中散射截面和粒子事件样本生成的方法，通过引入神经网络来克服现有方法的一些缺陷，保证了全相空间覆盖和目标分布精确重现，并通过几个代表性的例子研究了算法的性能，包括顶夸克对产生、三光子和四光子最终态的胶子散射等。

    Jan, 2020

  • 并非所有样本都是相等的：使用重要性采样的深度学习

    本研究提出了一种基于重要性采样的计算优化方案，该方案能够减少深度神经网络训练过程中冗余计算，提升模型的训练效果并有效降低损失。实验结果显示，该方案能够在相同的时间预算下，将训练损失降低一个数量级，并提高测试误差 5％至 17％。

    Mar, 2018

  • 使用神经网络偏差势加速稀有事件采样

    该研究论文介绍了一种将重要性抽样与深度神经网络相结合的实用方法，提高了稀有事件的采样效率，并在计算物理学和材料科学领域对稀有事件进行了研究和比较。

    Jan, 2024

  • 应用穷尽神经重要性抽样于蒙特卡罗事件生成

    介绍了一种名为 “Exhaustive Neural Importance Sampling” 的神经归一化流方法，该方法可自动高效地找到适当的拒绝采样建议密度，并解决了拒绝算法的常见问题，从而实现了用于中微子振荡实验所需的精准中微子 - 核相互作用模型的生成。

    May, 2020

  • 神经网络中的高效贝叶斯推断：通过自适应重要性抽样实现

    本文提出了一种名为 PMCnet 的新算法，该算法采用自适应重要性采样技术，利用复杂的（通常是多峰的）后验概率分布的几何信息，为设计贝叶斯神经网络提供了成功的方法，以实现在医疗保健或自动驾驶等决策重要性较大的领域中的机器学习应用，并同时降低了计算成本。

    Oct, 2022

  • 分层自适应重要性采样

    本文介绍了一种使用分层（即分级）策略生成样本的蒙特卡罗方法，其中使用了多项提案密度和多种重要性采样方法，在保证性能的基础上，提出了一种新的自适应重要性采样算法。

    May, 2015

  • 深度神经网络训练的有偏重要性采样

    本文提出一种有效的计算深度学习模型中 loss value 的方法，它使用小型模型在并行训练时提高了深度学习优化中重要抽样的应用。结果表明，此方法在测试深度卷积和递归神经网络的图像分类和语言建模任务时取得了良好的普适性。

    May, 2017

  • 自适应采样与重要性采样的高效梯度估计

    通过提出的自适应方法和重要性采样方法，在机器学习框架中有效地整合了重要性函数，并仅通过输出层的损失梯度提出了一个简化的重要性函数，以实现在分类和回归任务中更好的收敛性和最小的计算开销。

    Nov, 2023

  • 基于强化学习的状态感知神经自适应采样与去噪方法，用于实时路径追踪

    通过强化学习优化重要性采样网络，将采样的值输入潜在空间编码器，最终训练一个神经去噪器，该方法在多个数据集上提高了视觉质量，使渲染时间比现有技术提高了 1.6 倍，成为实时应用的有希望的解决方案。

    Oct, 2023