Jan, 2019

本地可解释的机器学习和人工智能：初步结果和未来方向

PDF
TL;DR该论文介绍了如何结合 k 最近邻算法与信息论来解决机器学习模型复杂度与可解释性之间的矛盾，以实现全面审计的机器学习和人工智能技术
machine learningk-nearest neighborsinterpretabilityinformation theoryauditable
发现论文，激发创造
  • 深度 k 近邻：朝着自信、可解释和鲁棒的深度学习发展

    本研究针对深度学习在对抗性环境下的鲁棒性和预测不可解释性等问题，通过将 k-NN 算法与深度学习结合，提出了一种名为 DkNN 的混合分类器，它可以为输入数据提供信心估计和人类可解释的预测解释。实验证明，DkNN 算法可以准确识别模型外部的输入，同时提供直观和有用的模型失败解释。

    Mar, 2018

  • 基于意外驱动的鲁棒且可解释的非参数学习的 $k$- 最近邻算法

    使用信息论的观点提出了一种稳健且可解释的框架，利用单个模型来进行分类、回归和异常检测任务，该框架能够在性能上与最先进的方法持平或超过，并通过提供新的数据和预测特征的概念来增强解释性。

    Nov, 2023

  • 机器学习中为什么需要解释性？分布式检测和数据融合理论的解答

    本文通过使用分布式检测理论对两节点串联数据融合系统的性能进行描述，将可解释的学习模型建模为多级量化器，并证明在本文提出的抽象条件下，具有可解释分类器的人类和黑匣子分类器组成的系统性能优于只有黑匣子分类器的系统。

    Jun, 2018

  • 利用 k 近邻表示解释和改善模型行为

    使用 kNN 表示法来解释 NLP 模型的预测结果，发现其除了具有解释性外，还能揭示学习到的虚假关联，发现存在错误标记的例子，并提高模型的性能和抵御对抗攻击的能力。

    Oct, 2020

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 人工神经网络可解释性调研

    该论文系统地回顾了近期研究的理解神经网络机理、解释深度学习应用特别是在医疗领域方面以及讨论了解释性研究的未来方向，如与模糊逻辑和脑科学的关系。

    Jan, 2020

  • 信息修改的 K 最近邻算法

    提出了一种新的分类方法，名为信息修正 KNN（IMKNN），通过引入互信息（MI）来提高 K - 最近邻算法（KNN）的性能，并从合作博弈论中的 Shapley 值概念汲取灵感，以优化价值分配。实验结果表明，在不同数据集和评判标准下，IMKNN 始终优于其他方法，突出了其在各种分类任务中的优越性能，凸显了 IMKNN 在增强 KNN 算法能力方面的潜力。

    Dec, 2023

  • 面向可解释的人工智能

    本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

    Sep, 2019

  • 机器学习在食品加工、农业和卫生应用中的可解释性与可访问性

    本文回顾了在全球问题背景下，针对农业、食品加工和医疗健康等领域的机器学习可解释性和可访问性方面所做的工作，涵盖了科学和数学解释，统计解释和部分语义解释等多个方面

    Nov, 2022

  • 机器学习的可解释性：最新进展和未来前景

    这篇论文调查了机器学习中可解释性的进展和未来前景，提出了多媒体计算中的应用示例，并明确指出可解释性的研究是一个值得进一步投资的重要研究方向。

    Apr, 2023