KDDSep, 2023

区域可加性模型：最小化特征相互作用的可解释性设计模型

PDF
TL;DRRegionally Additive Models (RAMs) 是一种新型的可解释设计模型，能够在捕获多个特征之间的交互项的同时，保持可解释性。通过在特征空间中确定减少交互的子区域，并为每个识别出的子区域拟合一个 GAM 成分，RAMs 能提供比普通的广义可加性模型（GAMs）更出色的表达能力和保持可解释性。
generalized additive modelsgamsregionally additive modelsramsexplainable-by-design models
发现论文，激发创造
  • NODE-GAM: 神经广义加性模型用于可解释的深度学习

    本文提出了一种神经广义加性模型（NODE-GAM）和神经广义加性和模型（NODE-GA^2M），这种模型相对于其他集成和深度学习模型而言更具有可解释性，且可以自监督预训练以提高模型准确性。

    Jun, 2021

  • 可解释机器学习模型的评估基于加性模型限制

    本文探讨 Generalized Additive Models 的五个高级扩展模型和传统的六个机器学习模型，研究和评估其预测绩效和可解释性，并提出了更多的改进设计建议。

    Apr, 2022

  • 多类加性模型的公理可解释性

    本文首先将一种基于提升树的最先进 GAMs 学习算法推广到多类别情况，并证明该算法优于现有的 GAMs 学习算法和全复杂度模型，其次，针对多类别情况下 GAMs 易于出现的错误推断，本文提出了 Additive Post-Processing for Interpretability (API)，这种技术被证明可以在保证精度的前提下，满足可解释性公理。

    Oct, 2018

  • 广义相加模型（GAMs）的可解释性和信任度如何？

    该文研究了各种算法在真实和模拟数据集上的表现，发现高特征稀疏性的广义加性模型可能会忽略数据中的模式并对稀有亚族群体不公平，而基于树的广义加性模型在稀疏性、保真度和准确性方面表现最佳，因此值得信赖。

    Jun, 2020

  • 现代广义加性模型的可扩展可视化方法

    本文提出了一组可视化工具，以应对现有通用加性模型的不足，并且这些工具可以与各种响应分布一起使用。这些新颖的可视化方式由 mgcViz R 软件包实现，并具有交互式和可扩展性。

    Sep, 2018

  • CAT: 可解释的基于概念的 Taylor 叠加模型

    CAT 是一种新颖的可解释的基于概念的 Taylor 加性模型，通过将输入特征简单地归类为广泛的组别，无需领域专家标注概念和其真实值，从而在多个基准测试中证明了其超过或与基准方法竞争的性能，同时减少对大量模型参数的需求，并能够通过人类可以理解的高级概念解释模型预测。

    Jun, 2024

  • Emb-GAM：使用预训练语言模型的可解释和高效预测器

    该研究利用神经语言模型提取输入的嵌入，学习嵌入空间中的线性模型来构建最终模型（称为 Emb-GAM），实现了透明的、线性的功能和特征交互，并能很好地泛化到新输入。通过各种自然语言处理数据集的实验，Emb-GAM 在不牺牲可解释性的情况下实现了强大的预测性能。

    Sep, 2022

  • 交互可视化编辑广义加性模型的 GAM 变革

    通过 GAM Changer 这个开源的互动系统，使用可视化技术使得机器学习领域的数据科学家和领域专家能够轻松地分析、验证、调整他们的广义可加模型，从而消除模型中潜在的不可取的模式。

    Dec, 2021

  • 高斯过程建模的可加核函数

    本文介绍了一种将加性模型与高斯过程相结合的方法，并提出了一种用于数据驱动参数估计的简明数值方法。通过休息技术，本方法在 Sobol's g-function 中的表现效果优于其他方法。

    Mar, 2011

  • 神经网络的全局解释：预测的映射景观

    该研究提出了一种名为 GAM 的方法，可以生成全局归因，解释神经网络预测的全局地貌。该方法在仿真数据和真实数据上得到了验证，并且通过用户研究证明了对实践者的直观性，以提高神经网络决策的透明度。

    Feb, 2019