函数树:透明机器学习
该研究考虑了多元线性树模型的结构学习问题,引入了一种基于谱递归分组算法的底层向上过程以从观察到的变量的独立样本中恢复树结构,并给出了确切恢复树结构的有限样本大小界限,这些界限基于潜在联合分布的统计和结构属性,并且样本复杂度保证不依赖于观察变量维度,因此适用于许多高维设置。
Jul, 2011
通过自适应查询变量值评估离散函数的策略的设计,该算法可以同时实现预期和最坏情况下的对数逼近,即使在计算费用较高的情况下,该算法也可以作为一种自动诊断和主动学习的解决方案。
Sep, 2013
本文介绍了如何在函数数据上使用再生核希尔伯特空间理论进行有监督学习和回归,扩展了基于核的学习的概念和性质,包括估计函数值函数的算法,阐述了一套严格定义的无限维算子值核,以及非线性函数数据分析的学习算法,并通过语音和音频信号处理实验进行了说明。
Oct, 2015
该论文提出了一种基于黑盒函数评估和符号表达式的神经编程方法,利用树LSTMs结合符号表达式树结构进行编码,基于数字的十进制表示进行树编码,评估表明该模型能够成功地结合符号推理和函数评估,填补部分方程并获得高精度。
Jan, 2018
通过运用博弈论、局部特征交互作用效应和全局模型结构,我们实现了对基于树的机器学习模型的高可解释性,应用于三个医疗机器学习问题,在透露模型全局结构的同时保持其基本特征,识别出美国人口中高强度但低频率的非线性死亡风险因素,突显具有共同危险特征的明显人口亚组,识别出慢性肾脏疾病危险因素之间的非线性交互作用效应,并监测在医院部署的机器学习模型(Identifying factors leading to model's performance decay over time)
May, 2019
为解决特征交互作用估计中存在的可辨认性问题,文章提出了纯交互作用的定义,通过提出一种快速、准确的算法,将任何分段常数函数转换为纯粹的、标准化的表示法,结果表明这种算法可以应用到基于多个数据集进行交互式广义可加模型训练的各个领域。
Nov, 2019
本文提出一种扩展Interaction-Transformation方法的新函数形式,称为Transformation-Interaction-Rational representation,通过对目标变量的变换,并使用两个Interaction-Transformation函数的有理数形式,提高了模型的近似能力。在大型基准测试中取得了与尖端性能相当的结果。
Apr, 2022
通过开发一种树基的方法学,Optimal Predictive-Policy Trees (OP2T),我们提出了一种规定性方法来解决机器学习模型选择中的关键问题,从而产生可解释的适应性策略以选择预测模型或集成,并具有参数化选项拒绝进行预测。
May, 2024
本研究解决了标量函数分类领域中的一个重要问题,通过将功能数据分析与基于树的集成技术相结合,提出了一种先进的监督分类方法。研究显示,丰富的基于树的分类器在高维时间序列分类中具有显著的提升效果,能够增强预测性能并降低方差,为复杂高维学习问题提供了新的见解。
Sep, 2024