将高维回归转换为高维条件密度估计
通过建立 full density 模型 f (yjx) 而非只有期望值 E (yjx)，条件密度估计广义了回归。本文提出了双核条件密度估计器，并引入了基于双数树的快速算法，用最大似然准则进行带宽选择，从而在处理多变量数据集时取得 380 万倍的加速。
Jun, 2012
本文介绍了一种基于高斯过程的贝叶斯条件密度估计方法，利用隐变量来扩展模型输入，可以应用于小数据集和大数据集，有效地建模稀疏数据区域和多条件共享结构，并应用于出租车乘客下车的时空密度估计、非高斯噪声建模以及少样本学习的实际问题。
Oct, 2018
提出了一种基于噪声正则化的条件密度估计方法，可解决神经网络模型在训练过程中容易出现过拟合的问题，并经实验证明在七个数据集和三种 CDE 模型上均取得了显著且一致的效果，在训练数据稀缺时也比之前的非参数化和半参数化方法更具优势。
Jul, 2019
通过在测试时间中进行多次前向传递使用不同模型的现代深度集成技术，在不确定性估计方面取得了强大的性能，但代价是高存储空间和较慢的速度。为了解决这个问题，我们提出了一种名为 Density-Regression 的方法，它利用密度函数在不确定性估计中实现了快速推理，并且只需进行一次前向传递。我们证明它在特征空间上与距离相关，这是神经网络在分布转变下产生高质量不确定性估计的必要条件。经验上，我们对立方体玩具数据集、基准 UCI、时间序列天气预测和实际应用中的深度估计进行实验证明，Density-Regression 在分布转变下具有与现代深度回归器相当的不确定性估计性能，同时使用更小的模型尺寸和更快的推理速度。
Mar, 2024
提出了一种基于核算子特征函数的密度比估计器，避免了显式降维步骤，可以更好地反映数据的几何结构，同时可扩展应用于极端高维下的似然函数估计问题。
Apr, 2014
本文采用简单的机器学习方法，基于降维和监督学习方法建立基于暗物质密度参数的快速暗物质密度场仿真方法，并通过预测和反投影系数来预测不同宇宙学参数的密度立方体。该方法在保证相应精度下，相比于完整的 N 体模拟大幅缩短计算时间，可以显著加速宇宙模型参数和模型推断等工作，为 ESA/NASA Euclid 任务等开放了更广泛的应用空间。
Apr, 2023
我们提出了一种基于正则化密度的 Sobolev 范数的非参数密度估计的新方法，该方法与核密度估计不同，使模型的偏差清晰且可解释，虽然没有与其关联的核的封闭解析形式，但我们展示了可以使用采样来近似它，所需确定密度的优化问题是非凸的，并且标准梯度法性能不佳，然而我们展示了适当的初始化和使用自然梯度可以得到良好的解，最后，虽然该方法提供未归一化的密度，无法使用对数似然进行交叉验证，但我们展示了可以使用基于费歇分歧的得分匹配方法来完成此任务，我们在最近的安全检测基准套件 ADBenchn 上对所得方法进行了评估，发现排名第二，超过 15 种算法。
Jul, 2023