Jun, 2024

CAT: 可解释的基于概念的 Taylor 叠加模型

PDF
TL;DRCAT 是一种新颖的可解释的基于概念的 Taylor 加性模型，通过将输入特征简单地归类为广泛的组别，无需领域专家标注概念和其真实值，从而在多个基准测试中证明了其超过或与基准方法竞争的性能，同时减少对大量模型参数的需求，并能够通过人类可以理解的高级概念解释模型预测。
generalized additive modelsinterpretable techniqueconcept-based interpretable methodscattaylornet
发现论文，激发创造
  • 可解释机器学习模型的评估基于加性模型限制

    本文探讨 Generalized Additive Models 的五个高级扩展模型和传统的六个机器学习模型，研究和评估其预测绩效和可解释性，并提出了更多的改进设计建议。

    Apr, 2022

  • NODE-GAM: 神经广义加性模型用于可解释的深度学习

    本文提出了一种神经广义加性模型（NODE-GAM）和神经广义加性和模型（NODE-GA^2M），这种模型相对于其他集成和深度学习模型而言更具有可解释性，且可以自监督预训练以提高模型准确性。

    Jun, 2021

  • 多类加性模型的公理可解释性

    本文首先将一种基于提升树的最先进 GAMs 学习算法推广到多类别情况，并证明该算法优于现有的 GAMs 学习算法和全复杂度模型，其次，针对多类别情况下 GAMs 易于出现的错误推断，本文提出了 Additive Post-Processing for Interpretability (API)，这种技术被证明可以在保证精度的前提下，满足可解释性公理。

    Oct, 2018

  • 通过多项式实现可扩展的可解释性

    提出了一种新的分类 GAMs 的方法，称为 Scalable Polynomial Additive Models (SPAM)，通过多项式的张量秩分解来实现高阶特征交互，同时保证模型的可解释性和易扩展性，大幅度地优于现有的可解释方案，并在真实世界的各种基准测试中表现出与 DNN / XGBoost 相当的性能。

    May, 2022

  • 区域可加性模型：最小化特征相互作用的可解释性设计模型

    Regionally Additive Models (RAMs) 是一种新型的可解释设计模型，能够在捕获多个特征之间的交互项的同时，保持可解释性。通过在特征空间中确定减少交互的子区域，并为每个识别出的子区域拟合一个 GAM 成分，RAMs 能提供比普通的广义可加性模型（GAMs）更出色的表达能力和保持可解释性。

    Sep, 2023

  • 广义相加模型（GAMs）的可解释性和信任度如何？

    该文研究了各种算法在真实和模拟数据集上的表现，发现高特征稀疏性的广义加性模型可能会忽略数据中的模式并对稀有亚族群体不公平，而基于树的广义加性模型在稀疏性、保真度和准确性方面表现最佳，因此值得信赖。

    Jun, 2020

  • 神经加性模型：利用神经网络进行可解释的机器学习

    由于深度神经网络在高风险领域应用时存在的不透明性，本文提出了一种名为神经添加模型（NAMs）的方法，将神经网络的表现力和广义可加模型的内在可解释性结合起来，令其在高风险领域有更好的应用前景，同时 NAMs 表现出了良好的性能，其可用于多任务学习及建立更复杂可解释的 COVID-19 模型。

    Apr, 2020

  • Emb-GAM：使用预训练语言模型的可解释和高效预测器

    该研究利用神经语言模型提取输入的嵌入，学习嵌入空间中的线性模型来构建最终模型（称为 Emb-GAM），实现了透明的、线性的功能和特征交互，并能很好地泛化到新输入。通过各种自然语言处理数据集的实验，Emb-GAM 在不牺牲可解释性的情况下实现了强大的预测性能。

    Sep, 2022

  • 高风险领域中基于概念和论证的可解释模型

    本文提出了基于概念挖掘和基于量化论证的模型（CAM），通过获得人类可理解的概念及其关系，进行知识表征和推理，从而提供一种透明、可解释的模型，该模型具有与人类理解相一致的知识，能够与其他最先进的模型取得竞争结果。

    Aug, 2022

  • 利用人类反馈学习可解释的基于概念的模型

    提出了一种透明的机器学习模型学习方法，使用用户的反馈来标记概念特征，从而生成透明的概念定义，以提高模型的可解释性和预测性能。

    Dec, 2020