Jan, 2022

学习最优公平分类树：可解释性、公平性和准确性之间的权衡

PDF
TL;DR本研究设计了一个 MIO（mixed integer optimization）框架，用于学习最优的分类树算法，以及与任意公平性约束进行扩展；提出了一个新的模型可解释性度量标准，称为决策复杂度；在流行数据集上，我们对公平性、可解释性及预测准确性之间的权衡进行了综合分析，证明了我们的方法在几乎完全平等的情况下仍能保持精度.
machine learninginterpretable algorithmsfair classificationdecision complexitypredictive accuracy
发现论文，激发创造
  • 多类分类的学习最优公平评分系统

    使用混合整数线性规划技术，我们提出了一种可解释的，具有稀疏性和公平性约束的多类别分类评分系统，扩展了 Rudin 和 Ustun 提出的适用于二元分类的 SLIM 框架。

    Apr, 2023

  • 基于树模型和替代模型的公平特征重要性评分

    我们提出了一种公平特征重要性评分，用于解释决策树等可解释的黑盒机器学习模型对公平性或偏见的贡献。通过模拟和真实示例，我们证明了该方法对树形集成和其他机器学习系统的树形替代物提供了有效的解释性。

    Oct, 2023

  • 强制可解释性及其统计影响：准确性与可解释性之间的权衡

    本文针对机器学习中的可解释性问题，提出将可解释性视为对学习算法的限制条件，以此模拟保持可解释性的影响并利用已知的统计学习理论结果来分析摆脱这个限制条件的代价问题。

    Oct, 2020

  • 强优化分类树

    该论文提出了一种基于流的 MIO 表达式，以用于学习最优二叉分类决策树，并可容纳相应的边际约束，从而使决策树设计变得透明和公平。作者通过实验证明，其相较同类现有 MIO 方法，在性能和计算速度方面有明显提升。

    Mar, 2021

  • 机器学习的准确性和公平性权衡：基于随机多目标方法的研究

    本文介绍了一种新的处理公平性的方法，通过建立一个随机多目标优化问题，得到一组准确且平衡的 Pareto 前沿，以此权衡准确度和公平性，以更高效地处理大量的流数据。

    Aug, 2020

  • 通过最优树实现可解释的聚类

    本文介绍了一种新的无监督学习算法，利用混合整数优化技术生成可解释的基于树的聚类模型，以提高群集算法的可解释性，并在医疗应用中具有重要意义。

    Dec, 2018

  • 学习非歧视性决策树的最优和公平决策

    本文提出了一个多功能的混合整数优化框架，用于学习最优和公平的决策树和其变体，避免不公平对待和 / 或不公平影响。计算结果表明，这个框架提高了领域内的技术水平，能以更低的成本提高准确性，从而产生非歧视性的决策。

    Mar, 2019

  • 公平精确性平衡下的内在公平性 - 准确性权衡

    机器学习在执法、刑事司法、金融、招聘和招生等领域的日益广泛应用，确保机器学习辅助决策的公平性变得越来越关键。本文以统计学的 “平等机会” 概念为基础，研究了公平性和准确性之间的折衷。我们提出了一个新的准确性上限（适用于任何分类器），并将其作为公平预算的函数。此外，我们的上限还与数据、标签和敏感群体属性的底层统计学关系密切相关。通过对三个真实世界数据集（COMPAS、成年人和法学院）进行经验分析，我们验证了我们理论上限的有效性。具体而言，我们将我们的上限与文献中各种现有公平分类器所实现的折衷情况进行了比较。我们的结果表明，在统计差异存在的情况下，实现高准确性条件下的低偏差可能从根本上受到限制。

    May, 2024

  • 可解释分类规则的高效学习

    本文介绍了一种名为 IMLI 的基于最大可满足性的可解释学习框架，通过结合小批量学习和迭代规则学习的方法，实现了分类规则的合成。实验结果表明，IMLI 在预测准确性、可解释性和可伸缩性之间取得了最好的平衡，并用于学习流行的可解释分类器，如决策列表和决策集。

    May, 2022

  • 学习公平表达的固有折衷

    本文研究了分类问题中的公平性和准确性之间的权衡，并提供了任何公平分类器群体误差和任何（近似）公平分类器的联合误差的下限，从公平表示学习角度推广这个结果。

    Jun, 2019