通过研究数据变换对神经场训练速度的影响，特别关注像素位置置换如何影响 SGD 的收敛速度，我们发现随机置换像素位置可以显著加快训练速度。分析表明，随机像素置换消除了易拟合的模式，促进了早期的优化，但阻碍了细节的捕捉。

Nov, 2023

通过改进射线采样方法，在保持真实感渲染结果的同时提高了神经辐射场训练的效率，加快了神经网络的收敛速度并更准确地感知场景的空间几何结构。

Aug, 2023

该研究论文介绍了一种将重要性抽样与深度神经网络相结合的实用方法，提高了稀有事件的采样效率，并在计算物理学和材料科学领域对稀有事件进行了研究和比较。

Jan, 2024

使用机器学习技术和变分增强采样方法结合来快速采样自由能面，通过采用神经网络表示偏差来决定采样的参数，在重复学习方案中对其进行确定并打破一些壁垒

Apr, 2019

本研究提出了一种基于重要性采样的计算优化方案，该方案能够减少深度神经网络训练过程中冗余计算，提升模型的训练效果并有效降低损失。实验结果显示，该方案能够在相同的时间预算下，将训练损失降低一个数量级，并提高测试误差 5％至 17％。

Mar, 2018

本文提出一种有效的计算深度学习模型中 loss value 的方法，它使用小型模型在并行训练时提高了深度学习优化中重要抽样的应用。结果表明，此方法在测试深度卷积和递归神经网络的图像分类和语言建模任务时取得了良好的普适性。

May, 2017

介绍了一种利用基于 MLP 的 NeRFs 及其 proposal network samplers 加速的方法，该方法可以在不改变训练协议或架构的情况下，将所需计算的时间减少了 50%，同时对渲染质量的影响微乎其微。

Jun, 2023

本文提出了一种新颖的双网络架构来学习减少所需样本点的数量，以实现高质量的神经表示，该方法优于现有的紧凑神经表示，可以实时渲染图像。

Jul, 2022

本文提出基于样本不确定性轻量级估计的两种改进型随机梯度下降算法：SGD 迭代中正确类别预测概率的方差和与决策阈值的正确类别概率的接近度来重新加权训练样本，实验结果表明我们的方法可靠地提高了各种网络结构的精度，包括残差学习、动量、ADAM、批量标准化、丢弃和蒸馏等其他流行的训练技术所不能达到的额外收益。

Apr, 2017

我们提出了一种学习生成神经场的新方法，它由隐式基网络的线性组合表示。我们的算法通过进行元学习或采用自动解码范式来学习隐式神经表示的基网络及其在潜在空间中的系数。该方法通过增加基网络的数量，同时保持小型推断网络的规模，从而轻松扩大生成神经场的容量，而通过加权模型平均来采样模型实例在延迟和内存占用方面高效。此外，我们还为目标任务定制了去噪扩散概率模型，以采样潜在混合系数，从而使我们的最终模型能够有效地生成看不见的数据。实验证明，我们的方法在图像、体素数据和 NeRF 场景的各种基准测试上取得了有竞争力的生成性能，而无需复杂的特定模态和领域设计。

Oct, 2023