通过提出的自适应方法和重要性采样方法，在机器学习框架中有效地整合了重要性函数，并仅通过输出层的损失梯度提出了一个简化的重要性函数，以实现在分类和回归任务中更好的收敛性和最小的计算开销。

Nov, 2023

本研究介绍了一种使用基于后验模拟的参数值估算点外样本预测精度的方法 —— 留一法交叉验证（LOO）和广泛适用信息准则（WAIC），并通过现有的模拟数据绘制快速和稳定的计算过程。同时，使用 Pareto 平滑重要性抽样（PSIS）实现了 LOO 的高效计算，并提出了一种比 AIC 和 DIC 更优的预测误差估计方法，并将这些计算结果运用到 R 代码包中。

Jul, 2015

通过交替使用最小方差行为策略的对交叉熵估计和实际策略优化，结合防御性重要性采样，我们提供了一个迭代算法，理论上分析了该算法的收敛速度，并提供了经过数值验证的实际版本，展示了在策略梯度估计方差和学习速度方面的优势。

May, 2024

本文提出了一种基于安全梯度边界的渐近式梯度采样方法。 这种方法是与给定边界相比最好的抽样分布，对于现有算法而言可以实现高效并且能够大幅加速坐标下降和随机梯度下降。经过大量数值测试，所提出的采样方案的高效性得到了验证。

Nov, 2017

本文提出了一种基于梯度的自适应抽样策略，对比以往仅根据输入数据独立抽样的方法，该策略结合了输出变量，实现了在处理最小二乘问题时更高的统计效率和计算效率。理论分析证明了其抽样误差上限的改善，而实验证实了该方法的有效性。

Mar, 2018

模型推理是模型开发的重要部分，Leave-one-out 交叉验证方法在评估模型泛化能力方面普遍适用，但是不适用于大型数据集。我们提出了一种结合近似推理技术和大小为概率比例采样的方法，用于快速评估大型数据集的 LOO 模型，提供了理论和实证结果来说明其性能优良。

Apr, 2019

提出了 Differentiable AIS（DAIS）算法，是 AIS 算法的一种变种，具备可导性，并能够进行小批量梯度。DAIS 在贝叶斯线性回归问题中是一致的，并提供亚线性收敛率。然而，针对大规模数据集的随机 DAIS 可能无法达到后验的迭代收敛性，需要进行新的研究思路。

Jul, 2021

本文证明了独立驱动的重要性权重算法的有效性，并将其解释为特征选择过程，指定了最小稳定变量集，在理想条件下，该算法可以识别此集合中的变量，并提供了渐近性质分析，结果在多个合成实验中得到证明。

Nov, 2021

本文提出一种基于重要性抽样的联邦学习 (ISFL) 框架，紧密结合局部训练与周期共享，解决分布式客户端上存在的梯度差异、收敛性能等问题，并在 CIFAR-10 数据集上验证了其优越性能。同时，该方法是首个从局部采样角度提出的可与神经网络模型兼容的非独立同分布联邦学习解决方案，易于运用于其他新兴 FL 框架。

Oct, 2022

本文探讨了在生成式对抗网络训练中使用重要性采样方法进行优化的可能性。通过使用重要性采样来替代在潜空间使用均匀分布或高斯分布采样的方法，并利用正则化流来近似潜空间后验分布进行密度估计，结合 MNIST 和 Fashion-MNIST 的实验表明该方法有效提高了生成样本的优化速度且保持了视觉上的保真度。

Oct, 2019