Oct, 2023

基于树模型和替代模型的公平特征重要性评分

PDF
TL;DR我们提出了一种公平特征重要性评分，用于解释决策树等可解释的黑盒机器学习模型对公平性或偏见的贡献。通过模拟和真实示例，我们证明了该方法对树形集成和其他机器学习系统的树形替代物提供了有效的解释性。
machine learninginterpretable surrogatesfairnessfeature importance scoresml systems
发现论文，激发创造
  • 学习最优公平分类树：可解释性、公平性和准确性之间的权衡

    本研究设计了一个 MIO（mixed integer optimization）框架，用于学习最优的分类树算法，以及与任意公平性约束进行扩展；提出了一个新的模型可解释性度量标准，称为决策复杂度；在流行数据集上，我们对公平性、可解释性及预测准确性之间的权衡进行了综合分析，证明了我们的方法在几乎完全平等的情况下仍能保持精度.

    Jan, 2022

  • 对文本数据进行特征重要性和规则提取的可解释性比较

    本文研究机器学习算法中普遍存在的可解释性方法，通过不同的解释方法应用到简单的模型中，发现不同之处并提出一种新的方法来比较不同解释间的差异。

    Jul, 2022

  • 借助基于模型的树作为可解释的替代模型进行模型蒸馏

    使用模型树作为替代模型，将特征空间通过决策规则划分为可解释的区域，然后利用基于加性主效应的可解释模型来近似黑盒模型的行为，平衡可解释性和性能，对比了四种模型树算法，最后提供了用户特定的推荐概述。

    Oct, 2023

  • 超人公平性

    将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

    Jan, 2023

  • 深度神经网络可解释性方法评估基准

    本文提出了一种衡量深度神经网络特征重要性估计的近似准确性的经验方法，研究发现，在许多流行的可解释性方法中，只有某些集成方法，如 VarGrad 和 SmoothGrad-Squared，才能胜任随机指定特征重要性的任务。

    Jun, 2018

  • 特征重要性的固有不一致性

    本文提出一种新的特征重要性得分框架，通过将特征空间重新划分成可分离集合，从而统一了现有研究所存在的不一致性，实现了对机器学习算法的可解释性。

    Jun, 2022

  • 用于可解释无监督树集合的特征图：中心性、交互性及在疾病亚型划分中的应用

    在医疗保健等高风险领域中，可以理解模型预测原理同实现高预测准确性一样重要的可解释机器学习已成为利用人工智能的核心。本研究引入了从非监督随机森林构建特征图的新方法和通过这些图派生有效特征组合的特征选择策略，通过在整个数据集和个别聚类上构造特征图，利用树中的父子节点分割，使特征的重要性与聚类任务相关，同时边权重反映特征对的判别能力，从而广泛评估了基于图的特征选择方法在合成和基准数据集上降低维度、改善聚类性能和增强模型可解释性的能力。对于疾病亚类型鉴定的组学数据应用，确定了每个聚类的顶级特征，展示了提出方法在聚类分析中提高解释性和在现实世界的生物医学应用中的实用性。

    Apr, 2024

  • 针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

    本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

    Nov, 2022

  • 树形方法中特征重要性的无偏测量

    通过纠正 Random Forests 和其他基于树的方法中的变量重要性衡量中的偏差，将 split-improvement 在外部样本数据上计算后巧妙地整合，可以得到更好的特征总结和筛选工具。

    Mar, 2019

  • 基于信息论的公平感知特征选择度量

    本篇文章提出了一种基于信息论度量和 Shapley 值函数的公平特征选择框架，以考虑特征与决策结果之间的相关性，量化了不同特征对决策结果准确性与公平性的影响，最终设计了一个特征的公平效用分数，对真实和合成数据进行了性能评估。

    Jun, 2021