Sep, 2023

解释性在旁观者的思维中：一种人类可解释表达学习的因果框架

PDF
TL;DR通过数学框架提出了一种获取可解释表示的方法，旨在建立人与算法方面之间的理解性桥梁，并为人类可解释性表示的新研究奠定基础。
explainable aiconcept interpretabilityhuman-interpretable representation learningalignmentconcept leakage
发现论文，激发创造
  • 学习可解释概念：统一因果表示学习与基础模型

    通过结合因果表示学习和理解如何从数据中学习可理解概念的思想，本研究正式定义了一个概念的概念，并证明了它们可以从多样数据中被可靠地还原，合成数据和大型语言模型上的实验表明了我们统一方法的实用性。

    Feb, 2024

  • 对解释的人类可解释性评估

    研究探讨了通过对模拟响应、验证建议响应、确定建议响应的正确性并观察其输入变化等三项特定任务，来解释可解释的 AI 的互动可能。结果表明，特定的正则化可以用于优化可解释性，而一些共同点和设计原则也可能存在于解释的系统之间。我们的结果表明，认知块比变量重复更影响表现，并且这些趋势在任务和领域中保持一致。

    Jan, 2019

  • 评估解释的统一框架

    评估可解释性模型的统一框架是该论文的重点，它介绍了各个研究群体对解释性评估的重叠和语义错位，并提出了解释的可行性和可理解性的评估标准，以及基于可解释神经网络的学习行为预测的案例。

    May, 2024

  • 机器学习中的可解释性：与解释性、预测性能和模型的相互作用

    最近，解释性已经引起了机器学习领域的关注，因为在关键决策或故障排除时至关重要。本文阐述了解释性的关系，即与机器学习中的重要概念（如可解释性，预测性能和机器学习模型）的关系，以澄清对解释性存在的一些误解。

    Nov, 2023

  • 模型可解释性的人类评估的挑战与机遇

    本文提出了 “描述性解释” 和 “说服性解释” 的区别，讨论了功能解释与认知功能和用户偏好可能相关的推理，并提出了两个研究方向来消除认知功能和解释模型之间的歧义，保持准确性和可解释性之间的权衡控制。

    Nov, 2017

  • 利用人类反馈学习可解释的基于概念的模型

    提出了一种透明的机器学习模型学习方法，使用用户的反馈来标记概念特征，从而生成透明的概念定义，以提高模型的可解释性和预测性能。

    Dec, 2020

  • 深度学习的可视化可解释性调查

    本文综述了解神经网络表示和学习可解释 / 解耦的中间层表示的最新研究进展，并重点介绍了卷积神经网络 (CNNs) 的可视化、诊断、解耦、学习及其在可解释人工智能方面的前景趋势。

    Feb, 2018

  • 有意义的模型：利用概念结构提高机器学习的可解释性

    本文探讨如何利用概念和意义的构建方式来创建更易理解的机器学习模型，通过提出分类概念的新方法，即 “形式” 和 “功能”，阐明了意义的本质，并提出了提高模型可理解性的建议。

    Jul, 2016

  • 有帮助、误导或使人困惑：人类如何感知人工智能解释的基本构建块

    这篇论文探讨了可解释的人工智能技术和其评估方法之间的差距，介绍了使用简单的数学模型来评估不同模型表述的易理解程度，以及如何设置和执行相关用户研究的概念和实践框架。

    Mar, 2023

  • 机器学习的因果可解释性：问题、方法和评估

    本文综述了因果可解释模型的问题和方法，并深入探讨了用于衡量解释度的评估度量标准，从而帮助实践者了解每种评估度量标准适用于哪些场景。

    Mar, 2020