通过对梯度的多次估计，改进比重加权的wake-sleep算法可有效训练Helmholtz machines和deep belief networks模型，同时NADE作为一种更强大的模型代替sigmoidal belief network可以更好地估计后验分布。

Jun, 2014

本研究提出了顺序神经可能性方法（SNL），这是一种用于贝叶斯推断的新方法，适用于具有难以计算可能性的模拟器模型，其中可以从模型中模拟数据。SNL在模拟数据上训练自回归流，以学习高后验密度区域可能性的模型。该论文表明，相对于相关的基于神经网络方法，SNL更加健壮，更准确并且需要较少的调整，并且讨论了用于评估校准，收敛和拟合优度的诊断方法。

May, 2018

本文研究用于生成模型的随机控制流模型的学习问题，提出了一种基于重加权的wake-sleep算法，证明在学习SCFMs方面胜过其他现有的方法，是竞争力和优选的选择。

May, 2018

本论文介绍了一种新的方法，使用奇异值分解和噪声建模来创建代理基准，该方法可以替代缺乏完整训练信息的流行基准，如NAS-Bench-111、NAS-Bench-311和NAS-Bench-NLP11，从而实现对多保真技术的评估。展示了使用全面的训练信息修改单保真算法的学习曲线外推框架的强大能力，并表明这种方法比当时声称是最先进的保真算法有更好的表现。

Nov, 2021

该研究提出了一种基于重加权唤醒休眠（RWS）算法的大规模并行机器学习方法，可在泛类模型下进行贝叶斯推断，并通过重要性加权和对生成模型中条件独立性的利用，在多项式时间内对所有可能的样本组合进行单独推理。

May, 2023

采用Fisher信息矩阵为基础的算法，通过引入逐层自动加权的方法，实现在不断变化的目标分布环境中的模型自适应，以减少遗忘和错误积累，并大大降低计算负载。

Nov, 2023

利用“Wake-Sleep Consolidated Learning”学习策略，结合互补学习系统理论和人脑清醒-睡眠阶段，提高深度神经网络在连续学习环境下进行视觉分类任务的性能。

Dec, 2023

通过分析常用的'共平滑'预测框架的局限性，并提出一种改进的少样本预测方法，我们利用隐马尔可夫模型的学生-教师设置展示高共平滑模型空间在其潜在表示中可以包含任意外部动态，并引入次要度量-共平滑的少样本版本来解决这个问题。结果表明，在几乎最优的共平滑模型中，相对于不具有此类动态的'最小'模型，那些具有外部动态的模型在少样本共平滑中表现较差。我们还通过两种最先进的方法：LFADS和STNDT，在真实神经数据上验证了我们的发现。最后，我们提供了一种测量外部动态的代理指标，并发现少样本共平滑性能与该新指标之间存在相关性。综上所述，我们提出了一种新的预测度量标准，旨在获取更准确反映实际情况的潜在变量，为潜在动态推断提供了显著的改进。

May, 2024

利用重新参数化的技术，我们展示了一个小型卷积模型在推断过程中提供了低延迟和高准确性的权衡，且具有较低的内存占用和计算成本。我们的重新参数化模型在准确性方面提高了43%，而与单分支卷积模型相比具有相同的运行时间。与复杂结构如BC-ResNet相比，RepCNN模型的内存使用减少了2倍，运行时间快了10倍。

Jun, 2024

该研究解决了现有潜在变量估计方法在动态噪声和系统非线性方面的鲁棒性不足的问题。作者提出了一种概率方法来改进分解模型中潜在变量的估计，并引入扩展的潜在动态模型以提高对非线性的鲁棒性。研究表明，该方法在多种噪声条件下的非线性系统中能够更准确地推断潜在变量，并成功应用于实际临床神经生理数据集。

Aug, 2024