Apr, 2024

可解释的公平框架：物质使用障碍治疗结束预测

PDF
TL;DR发展和部署可解释模型对提高其可信度和采用率至关重要，本研究旨在开发和实施一个同时解决公平性和可解释性问题的框架，通过优化性能建立模型，采用处理中的方法减轻模型对种族和性别等敏感属性的偏见，进而通过探索特征重要性的变化来探索和可视化模型变化的解释，结果表明，我们的公平增强模型保持高的敏感性，同时提高了公平性，并提供了对临床决策和资源配置有帮助的公平改善洞察。
fairnessmachine learning modelshealthcareinterpretable modelsexplainability
发现论文，激发创造
  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022

  • 公平性和可解释性：缩小公平模型解释的差距

    通过解释的方式，我们提出了基于过程的公正度并识别了过程相关偏见，并通过优化目标设计了一种综合公正度算法，以在提高传统公正度、满足解释公正度和维护实用性能之间达到多重目标的平衡。

    Dec, 2022

  • 公平机器学习的可解释性

    本文提出了一种新的基于 Shapley 值范例的机器学习公平解释方法，并提出了一种元算法来应用现有的训练时公平干预。

    Oct, 2020

  • 推荐系统中可解释的公平性

    该研究基于可解释的 AI 技术，提出了一个计数事实可解释公平框架（CEF）来解决推荐系统中存在的公平性缺陷问题。该模型能够生成关于模型公平性的解释，以提供有关即使做出相关更改也不会显著损害其性能的公平性分数排名的信息。

    Apr, 2022

  • 解释模型：解释对公正评判的影响的经验研究

    通过一项关于程序生成解释的实证研究，我们发现不同类型的解释如何影响人们对机器学习系统的公平判断，其中某些解释可增强人们对算法公正性的信心，但也有部分解释会被认为是不公平的，此外，不同类型的解释也能更有效地揭示不同的公平问题，因此我们讨论了提供个性化和自适应的解释来支持机器学习系统的公平判断。

    Jan, 2019

  • 用于信任机器学习的公平可解释建模（FAIM）在医疗保健领域

    我们提出了一个可解释的框架 - 公平感知可解释建模（FAIM），以提高模型的公平性，同时保持性能，通过交互界面从一组高性能模型中识别出一个 “更公平” 的模型，并推动数据驱动证据和临床经验的整合，以增强情境公平性。我们通过使用两个真实世界数据库（MIMIC-IV-ED 和 SGH-ED）在预测入院时减少性别和种族偏见方面展示了 FAIM 的价值。我们展示了针对这两个数据集，FAIM 模型不仅表现出令人满意的区分能力，而且通过广泛使用的公平度量指标显著减轻了偏见，胜过常用的偏见减轻方法。我们的方法展示了在不牺牲性能的情况下提高公平性的可行性，并提供一种邀请领域专家参与的建模模式，促进定制人工智能公平性的多学科工作。

    Mar, 2024

  • 采用以人为本的 AI 方法实现公平公正可解释 AI

    本文探讨了机器学习中公平性、可解释性、人本主义、社会偏差等问题，并提出了一种以人为本的人工智能方法，以增强分类系统和单词嵌入的可解释性和公平性，通过 D-BIAS 等可视化工具识别和缓解社会偏见。

    Jun, 2023

  • 公正与可解释性之间的相互作用

    建立可靠且值得信赖的自然语言处理应用程序，模型需要在不同人群之间既公平又可解释。本研究通过两个文本分类数据集进行实验证明，公平和可解释性并不总是相互影响的，因此需要同时考虑这两个目标，以获得更好的结果。

    Oct, 2023

  • 可解释的临床风险预测人工智能：概念、方法和形式调查

    AI 在医疗应用中的最新进展显示出在诊断和疾病预测方面超越人类表现的巨大潜力。然而，随着 AI 模型的复杂性日益增加，人们对其不透明性、潜在偏见和解释性的需求也越来越担忧。为了确保 AI 系统的信任和可靠性，特别是在临床风险预测模型中，解释性变得至关重要。这篇综述中，我们讨论了这些概念之间的关系，因为它们经常一起或可互换使用。该综述还讨论了最近在发展用于临床风险预测的可解释模型方面的进展，强调了定量和临床评估和验证在临床实践中的多个常见模态上的重要性。它强调了外部验证和多种解释性方法的结合以增强信任和公平性的必要性。采用严格的测试，例如使用具有已知生成因素的合成数据集，可以进一步提高解释性方法的可靠性。开放访问和代码共享资源对于透明性和可重现性至关重要，以促进可解释性研究的增长和可信度。尽管存在挑战，但将解释性纳入临床风险预测的端到端方法，包括从临床医生到开发人员的利益相关者，对于取得成功至关重要。

    Aug, 2023

  • 更公平、更准确，但为谁而做？

    该论文介绍了一种比较不同风险评估模型公平性的框架，特别关注与种族和性别的不平等问题，以预测再犯率和贷款为例进行实验。

    Jun, 2017