ICMLJun, 2019

使用嵌入和多任务学习教授人工智能解释其决策

PDF
TL;DR提供解释的新框架 TED 可确保解释适合消费者的复杂期望和领域知识，研究表明，有意义的解释可以可靠地教给机器学习算法，并在某些情况下提高建模精度。
machine learningexplanationsted frameworkchemical odorskin cancer prediction
发现论文，激发创造
  • TED: 教授人工智能解释其决策

    本文介绍了一种名为 TED（Teaching Explanations for Decisions）的实用框架，它提供了能够匹配消费者心智模型的有意义的解释，通过两个例子的演示，表明这种方法的广泛性和有效性，同时无损准确性。

    Nov, 2018

  • 利用知识片段丰富人工智能解释

    本研究使用人工智能模型进行制造业数据分析，考虑参数排序以及媒体新闻和元数据等数据源，提高对需求预测项目的解释性和可靠性。

    Apr, 2022

  • 重新思考用户研究设计以评估模型解释

    该研究通过一个众包实验，探讨解释机器学习模型的预测对人类是否具有帮助，并发现在给定特征系数的情况下，人们能够更有效地对线性词袋模型进行操纵，但解释对 BERT 型分类器并没有显著提高操纵能力，而通过伪造 BERT 模型的线性模型的对全局归属的解释则可以有效地操作 BERT 型模型。

    Dec, 2021

  • 利用解释桥接人工智能和人类

    该研究论文提出了解释性机器学习方法来提高人类决策水平和人工智能协助决策效能之间的差距。

    Mar, 2020

  • 人类预测和机器学习模型解释中的欺骗检测案例研究

    该研究利用欺骗检测作为实验平台，研究了如何利用机器学习模型的解释和预测来提高人类表现，并保持人类主体性。结果表明，机器预测的解释可以促进人类表现的提高，而这种提高与机器高性能的明确建议具有相似的效果。

    Nov, 2018

  • 欺诈性 AI 解释：创建和检测

    研究了如何使用深度学习和现有工具来创建和检测欺骗性解释，发现欺骗性解释可以骗过人类，但可以使用机器学习方法检测，即使缺乏领域知识，也可以以无监督的方式推断解释的不一致性。

    Jan, 2020

  • EDUCE: 通过无监督概念提取解释模型决策

    本文提出一种新的自我解释模型，通过低维度二进制表示预测结果并提供输入概念存在的解释，自动定义相关概念，实现易解释性，实验结果表明模型在文本分类和情感分析任务中具有较好的表现。

    May, 2019

  • 解释、预测，再次预测

    本文介绍了一种名为 ExPred 的新方法，采用多任务学习的方法，在任务输入的解释生成阶段有效地平衡了解释和预测的损失，并使用另一个预测网络来优化任务性能。在三个不同的语言数据集上进行了广泛的评估，发现我们明显优于现有方法。

    Jan, 2021

  • 针对任务的嵌入用于前处理可解释文本分类

    本文提出了一种基于 k 最近邻分类的替代方法，学习任务特定的文本嵌入表示方式，从而实现解释性和增量学习，而不影响分类准确性。

    Nov, 2022

  • 模型何时能从解释中学习？理解解释数据的角色的正式框架

    这篇论文研究了解释数据对于模型效能的影响，利用回收法证明了推理为主的文本输入任务中，解释数据可用作模型输入，且采用检索式的建模方法可以使合成任务的准确率达到 95%，而无解释数据的基线准确率低于 65%。

    Feb, 2021