Dec, 2020

Python 中使用 dalex 进行负责任机器学习、交互式可解释和公平性

PDF
TL;DR本研究讨论了预测模型在预测、公平性和一致性方面的问题，介绍了一个名为 'dalex' 的 Python 包，提供了对机器学习模型的交互式探索，以实现深度透明度和合理的机器学习模型。
predictive modelsmlopsmodel transparencymodel performancefairness
发现论文，激发创造
  • Xplique：深度学习可解释性工具箱

    Xplique 是一个用于可解释性的软件库，可以帮助研究人员打开黑盒模型并揭示其决策策略、内部状态或底层数据表示，包括代表性的解释性方法和相关评估指标，并与 TensorFlow 等主流学习库接口。

    Jun, 2022

  • 文本复杂推理的可追溯和可解释方法

    研究复杂推理任务的机器学习模型的问责和透明度方法，通过暴露潜在漏洞和解释模型推理过程来提高利益相关者的信任度和发现模型决策中的错误和不公平性。

    Nov, 2022

  • 解释性之路的通行需面对偏见：衡量解释的公平性

    本文通过在金融、医疗保健、大学招生和美国司法系统等四个领域的实际数据中审计了不同保护子组的解释质量，发现不同子组的近似质量显着不同，而解释深度学习模型的近似质量差异存在着公平性挑战，需要进一步解决。

    May, 2022

  • 机器学习透明性的什么和怎样：使用可互操作算法组件构建定制可解释性工具

    介绍了通过解释性表现组合、数据采样和解释生成构建和评估定制模块化替代解释器的过程的手册，以帮助了解人工智能和机器学习算法的可解释性技术。

    Sep, 2022

  • 可解释人工智能方法的可靠性和稳定性如何？

    黑盒模型、可解释人工智能方法（XAI 方法）、eXirt、扰动等是本研究的关键词，通过实验和生成解释以评估 XAI 方法的稳定性和可靠性。结果表明，eXirt 能够识别出最可靠的模型，同时发现当前 XAI 方法对扰动敏感，但存在一个特定方法例外。

    Jul, 2024

  • 具有差分隐私的模型解释

    使用差分隐私机制构建基于特征的模型解释，降低解释数据隐私泄露，评估差分隐私模型及其隐私机制对模型解释质量的影响。

    Jun, 2020

  • 采用以人为本的 AI 方法实现公平公正可解释 AI

    本文探讨了机器学习中公平性、可解释性、人本主义、社会偏差等问题，并提出了一种以人为本的人工智能方法，以增强分类系统和单词嵌入的可解释性和公平性，通过 D-BIAS 等可视化工具识别和缓解社会偏见。

    Jun, 2023

  • Fairlearn: 评估和改进 AI 系统的公平性

    Fairlearn 是一个开源项目，旨在帮助从业人员评估和提高人工智能系统的公平性。项目包括名为 fairlearn 的 Python 库，支持跨受影响人群评估模型输出，并包含多种解决公平性问题的算法。在公平性是一个社会技术挑战的认识基础上，该项目整合学习资源，帮助从业人员考虑系统在更广泛的社会背景下的作用。

    Mar, 2023

  • 在交互式人机协同 AI 公平性中促进最终用户的参与

    我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

    Apr, 2022

  • 自然语言处理的可解释性评估及性能和可解释性之间的算法分析

    探讨了在医疗保健领域中机器学习的应用。通过在 MIMIC-III 临床笔记中预测死亡率的任务中，我们展示了各种可完全解释的方法和模型不可知后续属性的可视化技术，同时提供了评估解释质量的通用方法。

    Jul, 2021