面向文本分类的显式交互模型
提出了一种新方法,即检测特征交互来构建分层解释,从而可视化不同层级中单词和短语的组合方式,帮助用户理解黑匣子模型的决策过程,并在 LSTMs、CNNs 和 BERTs 三个神经文本分类器的两个基准数据集上进行了评估,通过自动和人工评估实验证明此方法提供的解释既忠实于模型,又易于解释。
Apr, 2020
本文提出了一种新的 Hierarchical INTerpretable 神经文本分类器 Hint,它可以自动生成按标签关联的话题的模型预测解释,实验结果表明 Hint 方法在文本分类方面不仅与现有的最先进的文本分类器相当,而且生成的解释比其他可解释的神经文本分类器更符合模型预测,并且更易于被人类理解。
Feb, 2022
本篇综述研究了在 NLP 领域中各种 ExplainableAI 方法的模型透明度,解释能力和评估方法,并将其分为三个层面:输入层(词嵌入),处理层(模型内部运算),输出层(模型判定),并提出了未来的研究方向。
Oct, 2022
本文分析了深度学习在自然语言处理三个核心任务(文本表示、词序建模和知识表示)中的应用现状,探讨了在文本分类背景下自然语言处理所取得的改进和协同效应,同时考虑了文本生成、文本分类和语义解析中对抗技术所带来的挑战,通过对文本分类任务的经验研究,证明了交互式集成训练的有效性,特别是与 TextCNN 结合,凸显了这些进展对文本分类增强的重要性。
Mar, 2024
通过深度编码和交互来提取深层语义信息的句子匹配方法,使用自注意机制和双向注意机制获得深层语义信息并进行分类,适用于文本蕴含识别、释义识别和答案选择,实验证明其可有效提取深层语义特征并验证其在句子匹配任务中的有效性。
Mar, 2022
研究了自然语言分类中交互的潜力,提出了一种基于限制性的交互形式来进行意图分类,系统通过二进制或多项选择问题来提取额外信息,在提取信息与做出最终分类预测之间进行权衡。通过两个领域的实验证明了交互的优势和平衡请求附加信息与做出最终预测的学习的益处。
Nov, 2019
本文全面调研了针对词嵌入、序列建模、注意力模块、Transformer、BERT 以及文档排名的机器学习和自然语言处理研究的可解释性和解释性方法,最后提出了未来的研究方向。
Dec, 2022
本文提出一个可视化分析工具 DeepNLPVis,采用基于互信息的量化方法对深度自然语言处理模型进行统一理解,通过多层次的可视化(语料库级别、样本级别和单词级别)支持从整体到个别的分析,通过两个分类任务的案例研究和模型比较,证明了 DeepNLPVis 能够帮助用户识别潜在问题并做出知情决策。
Jun, 2022
利用大型语言模型解释视觉模型的学习特征,通过训练神经网络建立图像分类器和语言模型之间的连接,生成大量的句子来解释分类器学习到的特征,并提取最频繁的词语,增强图像分类器的解释性和鲁棒性。
Sep, 2023