Nov, 2019

使用功能 ANOVA 净化交互作用：一种恢复可识别加性模型的高效算法

PDF
TL;DR为解决特征交互作用估计中存在的可辨认性问题，文章提出了纯交互作用的定义，通过提出一种快速、准确的算法，将任何分段常数函数转换为纯粹的、标准化的表示法，结果表明这种算法可以应用到基于多个数据集进行交互式广义可加模型训练的各个领域。
发现论文，激发创造
  • 基于函数 ANOVA 框架的可解释机器学习：算法和比较

    该论文介绍了可解释的机器学习算法的重要性，重点讨论了低阶函数 ANOVA 模型框架以及解释性强的算法，例如 Explainable Boosting Machines 和 GAMI-Lin-T，并使用数据集比较了算法性能。

    May, 2023

  • ANOVA-boosting for 随机傅里叶特征

    提出了两种算法，用于提升随机傅里叶特征模型以近似高维函数，这些方法利用经典的方差分析和广义方差分析（ANOVA）分解学习低阶函数，其中变量之间的相互作用较少。算法能够可靠地找到重要的输入变量和变量交互的索引集，还将已有的随机傅里叶特征模型推广到 ANOVA 设置，可以使用不同阶数的项。算法具有解释性的优势，即可以了解到学习模型中每个输入变量的影响，甚至对于相关的输入变量。我们提供了理论和数值结果，证明了算法在敏感性分析方面的良好性能。ANOVA 增强步骤大大降低了现有方法的逼近误差。

    Apr, 2024

  • 通过功能分解量化模型复杂度，以获得更好的事后解释性

    提出了基于功能分解的模型不可知复杂度量度来量化任意机器学习模型的复杂度，并展示了在同时最小化损失和复杂度的多目标优化中应用这些量度的方法。

    Apr, 2019

  • 在功能依赖下识别因果效应

    我们研究因果效应的识别，主要包括通过知道因果图中某些变量是由其父变量决定的来实现可识别性，以及通过排除某些功能性变量观察来降低所需的观测数据量。

    Mar, 2024

  • 基于主成分的鲁棒函数回归

    通过提出鲁棒性函数主成分和鲁棒线性回归结合的两步估计方法和一种可以减少估计曲率的转换，本研究在椭圆分布下证明了这些估计量的 Fisher 一致性和在温和正则性条件下的一致性，探究了这些估计量的影响函数，模拟实验表明，相比现有的方法，所提出的估计方法具有合理的效率、能够防止出现异常预测点、产生平滑的估计值，并表现良好。

    Jun, 2018

  • 高维回归分析中的因子模型和变量选择

    本文提出了一种因子方法来同时考虑模型选择和功能回归的视角，通过将预测向量分解为反映解释变量的共同因素和特定变异性的两个不相关随机分量，以包括主成分作为额外的解释变量在增广回归模型中，维度高于样本大小的线性回归问题中传统假设的稀疏向量参数是具有限制性的，模型选择程序可以用于估计增广模型的参数，并得出其理论性质和有限样本表现。

    Feb, 2012

  • 关于在存在隐变量和选择偏差时识别总效应的研究

    本文提出基于可识别因子模型的新的图形可识别性标准，以解决存在隐变量和选择偏差情况下，总效应识别问题。该标准可用于识别观察研究中的总效应，并为因子模型的识别条件提供了新的视角。

    Jun, 2012

  • 因子图模型视角下的干预泛化

    本文利用因子图模型的语言，对干预因素模型 (IFM) 的可辨识性进行了分析，并通过实验数据来推导出 IFM 的必要和充分条件，以及实现将预期的结果推广到从未在数据中观察过的新条件的实用算法。

    Jun, 2023

  • 检测治疗与大量协变量之间相互作用的简单方法

    利用简单的方法来建立治疗和协变量之间的交互作用，用于个性化医疗，对大量的生物标志物进行筛选，确定对治疗有潜在益处的患者子集。

    Dec, 2012

  • 特征筛选与选择的交互式学习

    本文提出了一种被称为交互追踪（IP）的有效和灵活的程序，用于在超高维度下识别交互作用，其屏蔽交互作用和主效应的新特征筛选方法以及使用正则化方法在减少特征空间中选择重要交互作用和主效应，我们对其进行了理论上的讨论并证明了适用于交互作用和主效应，其具有将被筛选的确信性以及在选择中具有奥拉克不等式等性质。

    May, 2016