Sep, 2022

机器学习透明性的什么和怎样：使用可互操作算法组件构建定制可解释性工具

PDF
TL;DR介绍了通过解释性表现组合、数据采样和解释生成构建和评估定制模块化替代解释器的过程的手册，以帮助了解人工智能和机器学习算法的可解释性技术。
发现论文，激发创造
  • 一个解释并不能适用于所有情况：交互式解释对于机器学习透明度的承诺

    通过交互式机器学习，将对比解释应用于黑盒机器学习系统，个性化调整其条件语句并通过提问 “What if？” 的方式提取更多解释，从而提高系统的透明度。

    Jan, 2020

  • 面向可解释的人工智能

    本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

    Sep, 2019

  • 可解释的人工智能的数据科学原理

    社会对算法问题解决的能力前所未有地增强。人工智能如今应用于更多的领域，这是强大的抽象化、丰富的数据和易于使用的软件的结果。随着能力的扩展，风险也增加了，因为模型常常在没有完全理解其潜在影响的情况下部署。可解释且交互式的机器学习旨在使复杂模型更加透明和可控，增强用户机构。本综述从这一领域的不断增长的文献中综合了关键原则。

    May, 2024

  • 可解释机器学习的原则和实践

    这篇报告对数据驱动方法 - 特别是机器学习和模式识别模型进行了综述和总结，以便于业界从业者和数据科学家更好地理解 “可解释的人工智能” 的领域并应用正确的工具。

    Sep, 2020

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 自然语言处理的可解释性评估及性能和可解释性之间的算法分析

    探讨了在医疗保健领域中机器学习的应用。通过在 MIMIC-III 临床笔记中预测死亡率的任务中，我们展示了各种可完全解释的方法和模型不可知后续属性的可视化技术，同时提供了评估解释质量的通用方法。

    Jul, 2021

  • 面向外部利益相关者的机器学习可解释性

    本文主要介绍了在高风险背景下机器学习算法变得越来越重要的情况下，为了能够更好地解释机器学习算法，需要考虑相关方利益，例如终端用户，监管机构和领域专家。但是目前较少有关于实现解释性机器学习的工程实践，因此我们进行了一个闭门的研讨会，汇集了学界、产业界、法律界和政策界的专家，分析了当前实现解释性机器学习的现状，分享了大量实例和经验，并探讨了相关未解决的问题。

    Jul, 2020

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 监督式机器学习可解释性调查

    该综述论文提供了解释性监督机器学习的基本定义、原则和方法，并对过去和最近的解释性机器学习方法进行了分类和综述。通过解释性案例研究阐明了原则，并讨论了重要的未来方向。

    Nov, 2020

  • 演化优化模块的可解释管道用于具可视输入的 RL 任务

    本文探讨了提高人工智能的可解释性的需求，通过使用解释性（即玻璃盒）模型并使用演化算法来实现端到端管道的方式以在 Atari 基准测试的强化学习环境中得出可比较的结果。

    Feb, 2022