融合去噪扩散概率模型和梯度提升方法，引入扩散增强范式以解决监督学习问题。我们开发了扩散增强树（DBT），它可以被视为一种新的去噪扩散生成模型，其参数由决策树（每个扩散时间步长一个单一树）进行参数化，同时也是一种新的提升算法，可以把弱学习器结合成条件分布的强学习器，而不对其密度形式进行显式的参数化假设。通过实验证明了 DBT 相较于基于深度神经网络的扩散模型的优势，以及 DBT 在真实回归任务上的能力，并展示了将 DBT 应用于表格数据（欺诈检测）进行分类学习且具备学习推迟的能力。

Jun, 2024

该论文提出了一种利用基于评分的扩散和条件流匹配生成和填补混合类型（连续和分类）表格数据的新方法。相对于依赖神经网络作为函数近似器的先前工作，我们使用了 XGBoost，一种流行的梯度提升树（GBT）方法。我们的方法在多个数据集上经验性地表明：当训练数据集是干净的或受到缺失数据影响时，它能够生成高度逼真的合成数据，并生成多样的合理数据填补。我们的方法经常优于深度学习生成方法，并且可以使用 CPU 并行训练，无需 GPU。为了方便使用，我们通过 PyPI 发布了我们的 Python 库和 CRAN 上的 R 包。

Sep, 2023

基于树模型优于深度学习模型在处理表格数据任务方面的表现，我们采用条件流匹配生成模型并使用不同技术融合了 Gradient Boosted Trees 的使用，通过在多个公共数据集上进行多个分析任务的评估，展示了大多数高级仿真任务的训练和推理时间能够加速数个数量级。该应用还可以扩展至低级特征模拟和具备竞争性性能的条件生成。

Apr, 2024

本文介绍了一种新的深度概率模型，叫作 “生成森林”，这种模型将随机森林扩展到了生成模型，可以表示整个特征空间上的联合分布，解决了判别模型缺乏处理预测不确定性方法的问题，并且可以测量每个预测的稳健性和检测分布外的样本。

Jul, 2020

我们提出了一种基于流的生成模型，专门用于表格数据的密度回归任务，通过在初始均匀噪声上应用一系列基于树的分段线性变换，最终生成给定协变量的复杂条件密度的 (单变量或多变量) 结果样本，并允许对样本空间中任意点的配准条件密度进行高效的分析评估。

Jun, 2024

通过开发一种概率近似方案，使扩散模型能够在推理时间内有条件地采样非线性用户定义事件，从而匹配数据统计，即使从分布的尾部进行采样。

Jun, 2023

对于规模更大的电子商务公司的预测挑战，在较少的系列和间歇性数据的聚合级别上进行自顶向下的预测，并进行分解以获取决策级别的预测，通过分布假设产生概率预测，并使用子样本进行直接训练的可扩展方法。

Nov, 2023

通过采用渐进式提升树和神经网络模型的混合方法，本文解决了点预测和概率预测问题。我们的方法包括将任务转化为对单日销量的回归、信息丰富的特征工程、创建一组多样化的先进机器学习模型以及精心构建的验证集用于模型调优。通过选择多样的机器学习模型和重要的验证示例，我们的方法在精确性和不确定性跟踪中获得了金牌水平的排名。

Oct, 2023

利用深度神经网络学习目标函数的深度非参数回归近年来成为研究的焦点，尽管在理解收敛速度方面取得了相当的进展，但缺乏渐近性质阻碍了严格的统计推断。为填补这一空白，我们提出了一种新的框架，将深度估计范式转化为一种有利于条件均值估计的平台，利用条件扩散模型。在理论上，我们为条件扩散模型开发了端到端的收敛速度，并建立了生成样本的渐近正态性。因此，我们可以构建置信区间，便于进行鲁棒的统计推断。此外，通过数值实验，我们在实践中检验了我们提出的方法的有效性。

May, 2024

本文通过提出一种锐利的统计理论，通过采用条件扩散模型进行分布估计，以实现对数据分布平滑性的自适应样本复杂度界限，并与极小 max 求解下界相匹配。通过对条件分数函数的近似结果揭示了理论的关键发展，该结果依赖于一种新型扩散泰勒逼近技术。此外，在求解逆问题和奖励条件样本生成等多种应用中，我们还展示了统计理论的实用性。

Mar, 2024