Jan, 2024

人工智能系统的演绎模型若无良好解释则不足

PDF
TL;DR基于机器学习和深度神经网络的研究，讨论了其对逼近复杂函数的有效性，但常常缺乏透明度和解释力这些局限性。文章强调归纳问题：过去的观察未必能够准确预测未来事件，这是机器学习模型在遇到新的未知数据时所面临的挑战。文章主张不仅要进行预测，还要提供良好的解释，这是当前模型常常难以提供的特性。它建议为了人工智能的进展，我们必须寻找能提供洞察和解释而不仅仅是预测的模型。
发现论文，激发创造
  • AI 解释的解释

    该论文关注机器学习中可解释性问题，侧重于简化模型的构建及不同形式的解释与说明，并探讨了机器学习在处理该问题时的广义视角。

    Nov, 2018

  • 面向可解释的人工智能

    本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

    Sep, 2019

  • 可解释的人工智能：理解、可视化和解释深度学习模型

    基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

    Aug, 2017

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 走向可解释人工智能方法基准测试

    本文以科学哲学理论作为分析视角，研究解释性方法在神经网络性能评估中的应用，并发现解释性方法的实用性依赖于人类领域知识和理解推理能力。本研究得出结论，基准测试解释性方法是迈向可信人工智能和机器学习的中心任务。

    Aug, 2022

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 因果革命中七个火花对机器学习的理论阻碍

    为了实现强人工智能，机器学习系统需要现有因果推断任务所使用的现实模型等形式来进行指导，以克服当前系统以统计或无模型方式运行时的理论性局限和性能障碍。该论文总结了现有系统无法完成的七个任务，并说明了现实模型对机器学习系统的必要性。

    Jan, 2018

  • 使人工智能更易解释的不同方法学综述

    人们对越来越多的决策由机器完成的需求增加，但黑盒模型的决策推理令人不解，因此需要关注决策推理的清晰度与可解释性，以及如何扩展到反事实思考。

    Nov, 2023

  • 从嘈杂数据中学习解释性规则

    本文介绍 Differentiable Inductive Logic 框架，结合了 Inductive Logic Programming 和神经网络，非常高效地训练模型。该框架不仅支持传统 ILP 系统擅长的任务，而且对于噪声和训练数据中的错误表现出高鲁棒性。此外，它还可以与神经网络相连接以处理模糊非符号域的数据，同时提供超越单独使用神经网络所能达到的数据效率和泛化能力。

    Nov, 2017

  • 机器解释与人类理解

    本研究通过适应性因果图的方式，探讨了人机共存下机器学习模型解释与人类理解的相互作用。研究发现，提高人类针对模型决策边界的理解是可能的，但提高人类对任务决策边界或模型错误的理解需要结合人类主观性经验去实现。最后，本研究提出了一些可行的措施，以及未来机器学习模型解释研究的方向。

    Feb, 2022