在金融文本分类中为深度变压器生成合理的反事实解释

COLINGOct, 2020

在金融文本分类中为深度变压器生成合理的反事实解释

Generating Plausible Counterfactual Explanations for Deep Transformers in Financial Text Classification

Linyi Yang, Eoin M. Kenny, Tin Lok James Ng, Yi Yang, Barry Smyth...

TL;DR本文提出一种新方法来产生可信的反事实解释，探索金融科技领域语言模型对于敌对训练的规范化优势，实验结果表明，与现有的最先进技术和人类表现相比，该方法不仅提高了模型的准确性，而且根据人类试验，产生的反事实解释更加可信。

Abstract

Corporate mergers and acquisitions (M&A) account for billions of dollars of investment globally every year, and offer an interesting and challenging domain for artificial intelligence. However, in these highly se

mergers and acquisitions artificial intelligence explainable ai financial text classification counterfactual explanations

发现论文，激发创造

使用自然语言生成反事实解释

本文提出了一种基于深度神经网络的自然语言解释方法用于图像的分类，其中通过缺失证据来产生反事实解释，并提出了自动度量以分析所生成的反事实解释。

Jun, 2018

生成深度学习的可信反事实和半事实解释

研究提出一种新方法 PlausIble Exceptionality-based Contrastive Explanations (PIECE)，用于生成黑匣子 CNN 分类器的可信反事实和半事实，称其比文献中的其他方法生成最可信的反事实和半事实。

Sep, 2020

文本分类的任意生成对抗解释

在机器学习中，理解分类器推荐或预测背后的推理对用户非常重要。然而，学习的模型通常太复杂，以至于人类难以理解。本文提出了一个通用框架，用于在文本领域生成反事实解释，这个框架是不限于模型、表示和领域的，并且可以随时使用。本文将任务建模为通过替换文本的各个部分来转换初始状态为分类文本的搜索问题，包括独立于领域的运算符，但也可以通过专门的运算符利用领域特定的知识。搜寻算法试图找到距离原始分类对象具有最小的基于单词级别的 Levenshtein 距离的互补类文本。

Nov, 2022

利用因果发现对黑盒机器学习模型进行反事实解释，并应用于信用评级

该研究提出了一种新的可解释人工智能框架，利用反事实概率和关于因果结构的先验信息，以实现通过因果发现方法和黑盒分类模型来估计因果图并估计解释得分，从而更准确地解释模型的内部机制。通过人工数据的数值实验和信贷评级的实际数据应用，证明了该方法在因果图未知的情况下的有效性。

Feb, 2024

因果解释的分歧：透明度如何具有欺骗性

本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

Apr, 2023

生成商业流程结果预测的可行和可信的反事实解释

利用 REVISEDplus 数据驱动方法，通过在高密度区域内生成可行且合理的反事实解释，学习过程案例中活动之间的顺序模式，并评估反事实解释的有效性。

Mar, 2024

使用多目标优化探索反事实解释中的可信度、变化强度和对抗能力之间的权衡

使用多目标优化模型，通过生成逆因模型生成可信的对抗实例，以提高深度学习模型的透明度，检测偏见和数据不当的形式。