May, 2020

分布式随机森林：异质性调整和多元分布回归

PDF
TL;DR提出一种基于 MMD 分布度量的新的森林构建方法，用于多元响应的联合条件分布，由此产生的权重定义了完全条件分布的估计，可用于任意复杂的目标，适用于用 Python 和 R 包 drf 的广泛示例。
random forestmultivariate responsesmmd distributional metricfull conditional distributionpython and r packages drf
发现论文，激发创造
  • 基于 MMD 的分布式随机森林变量重要性

    分布随机森林是一种灵活的基于森林的方法，用于估计给定输入变量的一个多变量输出的全条件分布。本文介绍了一种用于分布随机森林的变量重要性算法，基于已建立的删除与重学习原则和最大均值差异距离。我们展示了该引入的重要性指标是一致的，在真实数据和模拟数据上表现出高的经验性能，并胜过竞争对手。特别地，我们的算法通过递归特征消除高效地选择变量，从而能够提供用于建立条件输出分布的准确估计的小的变量集。

    Oct, 2023

  • 复杂地形下用分布式回归森林进行降雨概率预测

    提出了一种将回归树与随机森林与经典 GAMLSS 框架中的分布并置合并的分布回归树和随机森林框架，以用于变量选择和建模非平滑依赖关系或高阶交互作用的情况，将其应用于大量气象预测数据生成的降水概率预测，并发现这种方法可以自动选择变量和交互作用，性能与计算成本高的提前预测信息或增强方法 GAMLSS 的性能相当甚至更好。

    Apr, 2018

  • 广义随机森林

    该研究提出了广义随机森林方法，用于基于随机森林进行非参数统计估计，可以用于拟合任何被识别为满足一组局部矩方程的解的感兴趣数量，提出了一种灵活且计算有效的算法以及新的非参数回归，条件平均偏差估计和异质性治疗效应估计方法，通过本研究可用 GRF 软件实现。

    Oct, 2016

  • 遥感应用中的非线性分布回归

    该论文介绍了一种解决分布回归问题的非线性方法，它考虑了再生核希尔伯特空间中的分布嵌入，并在其中执行标准的最小二乘回归。 该方法可用于不同维数和样本大小的多源数据，并通过随机傅里叶特征介绍了高效版本来处理数百万个数据点和组。

    Dec, 2020

  • 转化森林

    本文提出了一种基于参数分布变换树的转换森林算法，用于建立回归模型的条件分布，并可进行预测区间的计算和广泛的推断程序。

    Jan, 2017

  • 结构化径向基函数网络：多个假设预测的多样性建模

    多模态回归问题可以通过结构化径向基函数网络来解决，该网络将多个假设预测器集成在一起，通过训练期间损失函数的 Loss 值形成质心 Voronoi tessellations，从而高效地插值这些 tessellations 并逼近多个假设的目标分布，同时使用只有两层神经网络的预测器控制多样性，达到了卓越的泛化性能和计算效率。

    Sep, 2023

  • 基于数据的多项式随机森林

    该研究改善了以往弱一致的随机森林变体的证明方法，提高了数据利用率，实现了更好的理论性能和实验表现。同时，基于多项式随机森林和伯努利随机森林，提出了一个数据驱动的多项式随机森林算法，具有低算法复杂度和强一致性。在分类和回归问题上表现优异，是目前为止最优秀的强一致性的随机森林变体之一。

    Apr, 2023

  • 利用随机森林估计和推断异质性处理效应

    本文介绍了一种非参数因果森林方法，用于估计异质性处理效应，并讨论了一种实用方法以构建渐近置信区间来评估真实处理效应，结果表明在存在无关协变量的情况下，因果森林方法比最近邻匹配等经典方法更为有效。

    Oct, 2015

  • 随机森林的一致性

    随机森林是一种通过构建多个随机决策树，通过平均聚合其预测结果的机器学习算法，可应用于广泛的预测问题并且具有较高的精度，同时支持小样本大小，高维特征空间和复杂数据结构的应对，本文在加法回归模型的情况下证明了该算法的一致性，并探究了随机森林如何很好地适应稀疏性。

    May, 2014

  • 神经随机森林

    将随机回归树方法改成了一个新的神经网络模型，称为神经随机森林。 基于随机回归树的架构利用了先验知识并具有更少的参数，较少的限制设计决策路径和优秀的表现使得方法可用于多样的预测问题。

    Apr, 2016