为何 “问题” 预示着积极情感？情感分类中解释令人费解的特征的案例研究

Jun, 2024

为何 “问题” 预示着积极情感？情感分类中解释令人费解的特征的案例研究

Why is "Problems" Predictive of Positive Sentiment? A Case Study of Explaining Unintuitive Features in Sentiment Classification

PDF

Jiaming Qu, Jaime Arguello, Yue Wang

TL;DR通过解释感情分类中具有预测能力但令人费解的特征，我们提出了自动检测这些特征并生成解释帮助用户理解其预测能力的方法。众包研究结果表明我们的方法能够有效地检测和解释感情分类中具有预测能力但令人费解的特征。

Abstract

explainable ai (XAI) algorithms aim to help users understand how a machine learning model makes predictions. To this end, many approaches explain which input features are most predictive of a target label. Howeve

explainable ai machine learning input features xai research sentiment classification

发现论文，激发创造

使用可解释的人工智能根本原因分析预测异常

该论文介绍了可解释人工智能在连续学习用户参与数据的机器学习模型中追溯性能退化的新应用。我们成功地将这种技术应用于提高个性化广告模型的可靠性。这种系统中的性能退化表现为模型中的预测异常。我们演示了全局特征重要性分布的时间漂移如何有效地隔离预测异常的原因，具有比模型对特征相关性方法更好的召回率。该技术似乎在使用简单的扰动方法来近似局部特征重要性并在几千个示例上聚合时也是有效的。我们发现这种技术是一种与模型无关、成本低廉且有效监控生产中复杂数据流水线的方法，并已部署了用于连续分析连续训练模型的全局特征重要性分布的系统。

Mar, 2024

关于计算概率性还原解释

探索实用于广泛使用的决策树、朴素贝叶斯分类器和命题语言的几个家族更好地计算超过给定阈值的目标类的相关集，证实了这些类别的相对简洁的相关特征集可以很容易地获得。

Dec, 2022

可解释人工智能的漏洞：超越解释马蜂窝的问题

本研究提出了解释能力陷阱的概念，这是一种在没有意图欺骗用户的情况下从 AI 解释中产生的未预期后果。研究旨在提高 Explainable AI（XAI）系统的可靠性，并提出了三个相互关联的层次：研究、设计和组织，以解决解释能力陷阱。

Sep, 2021

关于 AI 解决方案的可解释性：跨领域调查

该研究是对人工智能模型解释的广泛调查，发现解释决策和原因的不同方法和原因的异质性导致了个体解释框架。

Oct, 2022

从聚类到聚类解释的神经网络方法

提出基于神经网络和聚类模型的可解释 AI 框架，能够对数据的簇分配进行高效和可靠的解释，并且从分析数据和表示中提取新的见解。

Jun, 2019

机器学习模型中的统一解释：一种扰动方法

面向可解释人工智能（XAI）的高速范式转变已在近年来出现。高度复杂的机器学习（ML）模型在许多智能任务中蓬勃发展，而问题开始从传统的有效性度量转向更深层次的问题：该模型告诉我关于我的数据什么，它是如何得出这些结论的？XAI 和建模技术之间的不一致可能对这些解释性方法的效力产生质疑。为了解决这些问题，我们提出了一种针对流行的 XAI 的模型不可知方法 SHapley Additive exPlanations（Shap）进行系统的扰动分析。我们设计了一些算法，在动态推理的设置下生成相对特征重要性，这些设置针对一套流行的机器学习和深度学习方法，以及允许我们量化静态情况下生成解释的质量的度量指标。我们提出了特征重要性方法论的分类体系，度量了一致性，并观察了几个数据集中解释模型之间的可量化相似性。

May, 2024

解释解释：机器学习的可解释性概述

有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

May, 2018

解释并非技术术语：XAI 中的歧义问题

本研究探讨了可解释性人工智能（XAI）中说明的特征和其效用评估，强调了说明的功能角色、用户知识状态以及生成说明所需的信息的要求，并定义了 XAI 领域的重要下一步：建立指导和基础系统生成说明效用的度量标准，以避免 XAI 可能带来的对系统的信任而没有建立其可靠性。

Jun, 2022

可解释人工智能方法：一项调查

该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

Jan, 2021

高维文本分类器解释

使用理论证明的高维特性，在神经网络分类器中提出一种新的可解释性方法，并在经典情感分析任务和恶意软件检测任务中进行了实验。

Nov, 2023