机器学习的可解释性：最新进展和未来前景

Apr, 2023

机器学习的可解释性：最新进展和未来前景

Interpretability of Machine Learning: Recent Advances and Future Prospects

Lei Gao, Ling Guan

TL;DR这篇论文调查了机器学习中可解释性的进展和未来前景，提出了多媒体计算中的应用示例，并明确指出可解释性的研究是一个值得进一步投资的重要研究方向。

Abstract

The proliferation of machine learning (ML) has drawn unprecedented interest in the study of various multimedia contents such as text, image, audio and video, among others. Consequently, understanding and learning ML-based representations have taken center stage in knowledge discovery i

machine learning representation learning interpretability deep neural networks multimedia computing

发现论文，激发创造

人工神经网络可解释性调研

该论文系统地回顾了近期研究的理解神经网络机理、解释深度学习应用特别是在医疗领域方面以及讨论了解释性研究的未来方向，如与模糊逻辑和脑科学的关系。

Jan, 2020

音视频情感机器学习的可解释性研究综述

该研究通过对 29 篇研究文章进行结构化文献综述，发现近五年来出现了在情感机器学习中采用可解释性方法的趋势，然而这些方法存在范围和评估深度的限制，并且缺乏用例的考虑，因此提出了对研究的主要空白的概述和建议。

Jun, 2023

可解释的机器学习：基本原则和 10 大挑战

本文旨在提供可解释机器学习的基本原则，解决常见误解，并识别了十个技术挑战领域，包括稀疏逻辑模型、神经网络中的监督和非监督可分离性、增强学习的解释性等。此次调查适用于对可解释机器学习感兴趣的统计学家和计算机科学家。

Mar, 2021

可解释的人工智能：理解、可视化和解释深度学习模型

基于深度学习的解释性可视化方法在人工智能领域日益被重视，本文总结了目前解释深度学习模型的最新发展，并提出两种解释预测的方法，并将这些方法用于三个分类任务中进行评估。

Aug, 2017

机器学习在食品加工、农业和卫生应用中的可解释性与可访问性

本文回顾了在全球问题背景下，针对农业、食品加工和医疗健康等领域的机器学习可解释性和可访问性方面所做的工作，涵盖了科学和数学解释，统计解释和部分语义解释等多个方面

Nov, 2022

面向可解释的人工智能

本文介绍了机器学习和深度学习算法在科学和工业领域中的应用及其不透明性问题，提出了解释性学习算法和可视化方法的重要性。

Sep, 2019

可解释的机器学习 -- 简史、现状和挑战

简述了解释性机器学习领域的发展历程，综述了最新的解释方法，讨论了挑战，提出了回归建模、基于规则的机器学习、敏感性分析、因果推断和社会科学等领域的启示。

Oct, 2020

可解释机器学习技术

本文综述了提高可解释机器学习模型的技术，并讨论了未来研究的关键问题，如设计用户友好的解释和开发全面的评估指标，以进一步推动可解释机器学习的发展。

Jul, 2018

深入探索神经影像中可解释深度学习的综合调查

本文综述了神经影像领域中可解释深度学习模型的当前状态和应用，讨论了其相关方法、挑战和意见，以及如何利用模型解释性捕捉与模型预测相关的解剖和功能性大脑变化，最后讨论了当前做法的局限性，并提供了有关如何引导未来研究方向以使深度学习模型更加可解释并推进对脑疾病科学理解的宝贵见解和指导。

Jul, 2023

面向临床辅助基于成像的生物医学应用的多模态机器学习

机器学习在医疗人工智能系统中的应用，从传统和统计方法转向深度学习模型甚至最近的生成模型。近年来，发现了支持多模态数据集成的广泛可用的深度学习架构，尤其是针对图像的。将多种模态融入到这些模型中是一个蓬勃发展的研究课题，提出了独特的挑战。本文讨论了针对医学基于图像的临床决策支持模型的多模态人工智能的五大挑战（表示、融合、对齐、翻译和协同学习），并调查了近期解决这些挑战的方法。我们最后讨论了该领域的未来，并提出了在成功的临床模型及其在临床环境中的转化方面应进一步阐明的方向。

Nov, 2023