Jun, 2022

机器学习模型中用于识别分布外数据的减少鲁棒性随机切割森林

PDF
TL;DR本文介绍了一种使用 Reduced Robust Random Cut Forest (RRRCF) 数据结构的新方法来检测数据集是否处于训练分布，该方法在低维和高维数据的实证结果表明可以有效地进行数据分布的推断，而且该模型易于训练，并且不需要进行困难的超参数调整，用例包括测试和验证结果。
machine learningout-of-distributiondetection systemreduced robust random cut foresttraining distribution
发现论文，激发创造
  • 使用深度生成森林进行鲁棒分类

    本文介绍了一种新的深度概率模型，叫作 “生成森林”，这种模型将随机森林扩展到了生成模型，可以表示整个特征空间上的联合分布，解决了判别模型缺乏处理预测不确定性方法的问题，并且可以测量每个预测的稳健性和检测分布外的样本。

    Jul, 2020

  • 不变随机森林：基于树的模型解决 OOD 泛化问题

    这篇论文介绍了一种针对决策树模型的 OutOf-Distribution（OOD）泛化的新颖有效解决方案，名为不变决策树（IDT）。IDT 通过在树的生长过程中对于不同环境下分割的不稳定 / 变化行为施加惩罚项来实现 OOD 泛化。通过理论结果和合成以及真实数据集的数值测试，证实了所提出的方法的优越性能，表明决策树模型的 OOD 泛化是绝对必要且应该更加关注。

    Dec, 2023

  • 大数据的随机森林

    本文主要关注于基于分类问题的随机森林模型处理大数据问题的现有方案，并尝试了五个变体实验，探究它们的相对性能和局限性。

    Nov, 2015

  • 因果传递随机森林：结合记录数据和随机实验进行强鲁棒性预测

    提出了一种 causal transfer random forest 模型，它将原有的训练数据与来自一个随机实验的少量数据组合，使其对 feature shift 具有鲁棒性，并在点击预测等任务中表现出优越性。

    Oct, 2020

  • 概率随机森林：一种用于嘈杂数据集的机器学习算法

    本研究修改了基于随机森林 (Random Forest，RF) 的算法，提出了一种新的基于概率随机森林 (Probabilistic Random Forest，PRF) 的机器学习算法，用于处理带有不确定性的天文数据，能够有效提高分类准确性以及应用于转移学习。

    Nov, 2018

  • 随机森林和过拟合的理解：可视化和仿真研究

    随机森林被用于临床风险预测模型，本研究以卵巢恶性肿瘤预测为案例，通过三个真实案例和一个模拟研究，通过二维分布热图和训练数据的概率峰值将风险估计进行可视化，模拟研究结果表明随机森林模型学习到训练集中的概率峰值，训练集上的 c-statistics 接近 1 且测试集上效果显著。

    Feb, 2024

  • QC-Forest：一种经典 - 量子算法，可证明加速随机森林的重新训练

    QC-Forest 是一种经典 - 量子算法，用于在流式设置中高效地重新训练随机森林模型，实现多类分类和回归，其运行时间与累积样本总数的对数成倍数关系。

    Jun, 2024

  • 对抗性随机森林用于密度估计和生成建模

    本文提出了使用无监督随机森林的新型密度估计和数据合成方法。通过交替的生成和区分，树逐渐学习到数据的结构属性。 与经典的基于树的替代方案不同，我们的方法提供平滑的（非）条件密度并允许完全合成数据生成。 在执行速度平均快大约两个数量级的同时，我们在各种表格数据基准测试上实现了与最先进的概率电路和深度学习模型可比或更好的性能。

    May, 2022

  • RRF 包中的 Guided Random Forest

    该论文提出了引导随机森林（GRF）来进行特征选择，GRF 可以独立地构建树并可并行实现，与 GRRF 相比，GRF 选择的特征更多，但分类精度更高，实验证明，在 10 个高维基因数据集上 RF 在特征选择后的应用优于 RF 在所有特征上的应用。

    Jun, 2013

  • 随机森林的代价复杂度剪枝

    通过使用 out-of-bag 样本来提高随机森林的泛化误差表现。对 UCI 数据库中的四个数据集进行的初步实证研究表明，随机森林的规模有所减小，而精度损失不大。

    Mar, 2017