ICMLJun, 2018

机器学习中为什么需要解释性？分布式检测和数据融合理论的解答

PDF
TL;DR本文通过使用分布式检测理论对两节点串联数据融合系统的性能进行描述，将可解释的学习模型建模为多级量化器，并证明在本文提出的抽象条件下，具有可解释分类器的人类和黑匣子分类器组成的系统性能优于只有黑匣子分类器的系统。
artificial intelligencemachine learninginterpretabilitydata fusion systemsdistributed detection
发现论文，激发创造
  • 面向可解释的元学习从事 DDoS 检测

    本文提出了一种基于人工免疫系统的严格可解释人工智能驱动的入侵检测方法，重点介绍了决策树模型的严格解释计算过程，并给出了正常流量的素质蕴含说明。

    Apr, 2022

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 机器学习在食品加工、农业和卫生应用中的可解释性与可访问性

    本文回顾了在全球问题背景下，针对农业、食品加工和医疗健康等领域的机器学习可解释性和可访问性方面所做的工作，涵盖了科学和数学解释，统计解释和部分语义解释等多个方面

    Nov, 2022

  • 机器学习的模型无关可解释性

    机器学习中的可解释性问题已经成为一个重要的关注点，本文提出使用模型无关的方法解释机器学习预测，这种方法可以提供选择模型、解释和表示的灵活性，同时改善了调试、比较和用户接口等问题，同时回顾了最近引入的模型无关的解释方法 LIME 及其面临的主要挑战。

    Jun, 2016

  • 人工智能模型语义可解释性

    本研究从广阔的角度观察模型可解释性，超越了机器学习的范畴，涵盖了分布语义学和模糊逻辑等不同的人工智能领域。我们根据模型的性质和它们引入可解释性方面的方法进行分类，并分析每种方法如何影响最终用户。同时指出还需要解决的问题，以提供更以人为本的解释性解决方案。

    Jul, 2019

  • 使用机器学习设计可解释决策支持系统是什么？

    本文提出增强学习可用于学习不同用户可解释的模型，由此建立他们对机器学习模型的信任。通过与医生交互，基于神经网络模型，设计了一个基于强化学习的临床决策支持系统，结果表明，机器学习专家无法准确预测哪个系统输出将最大化临床医生对底层神经网络模型的信心，这些结果对将来机器学习可解释性研究以及机器学习在医学中的应用都具有广泛的意义。

    Nov, 2018

  • 可解释机器学习技术

    本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

    Jul, 2018

  • 可解释的人工智能的数据科学原理

    社会对算法问题解决的能力前所未有地增强。人工智能如今应用于更多的领域，这是强大的抽象化、丰富的数据和易于使用的软件的结果。随着能力的扩展，风险也增加了，因为模型常常在没有完全理解其潜在影响的情况下部署。可解释且交互式的机器学习旨在使复杂模型更加透明和可控，增强用户机构。本综述从这一领域的不断增长的文献中综合了关键原则。

    May, 2024

  • 机器学习中的可解释性：与解释性、预测性能和模型的相互作用

    最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。

    Nov, 2023

  • 可解释的深度学习：解释、可解释性、可信度及其他

    本文综述了神经网络的解释工具和算法，提出了一种新的分类方法，介绍了解释结果的评估方法和信任度算法的应用，讨论了深度模型解释与鲁棒性和借鉴解释的联系，并介绍了一些开源库。

    Mar, 2021