MMJun, 2020

从概率到综合：解释价值如何实现贝叶斯推理

PDF
TL;DR提出了一种贝叶斯方法来解释认知科学中广泛的说明价值，并阐明了心理学、统计学和科学哲学中的核心价值如何从一个公共数学框架中出现。同时，这个框架还可以用来重新解释推动阴谋论、妄想和极端意识形态的说明副产品。
cognitive sciencebayesian accountexplanatory virtuespsychologyextremist ideologies
发现论文，激发创造
  • 解释性的提高是否等同于最优性的减损？—— 解释对决策的偏见

    机器学习算法越来越被用于组织的决策中，特征解释引入因果模型的语义，导致决策者的先验偏见泄漏，并产生确认偏见和决策结果的差异，从而导致次优和有偏的决策结果。

    Jun, 2022

  • 信念偏误和解释的交互作用

    该研究介绍了解释性方法的评估问题，说明了评估中信仰偏见的重要性并提出了 NLP 从业者应该如何解决这一问题，同时通过基于梯度的解释性案例研究得到，在评估中考虑个体先验信仰的重要性。

    Jun, 2021

  • 基于解释的信念修正：从极简主义向解释理解进发

    通过解释假设，本研究提出了一种基于解释的信念修订操作符，以试图更好地描述人们在解决信念不一致性时所采用的策略，并进行了两项人类参与研究以验证该方法。

    May, 2024

  • 解释概率模型的分布值

    通过概率模型的分布值和随机变量，这篇论文扩展了合作博弈和价值算子的方法，解决了可解释性机器学习中解释与当前方法之间的不匹配问题，并通过视觉和语言模型的案例研究提供了细致深入的解释。

    Feb, 2024

  • 因果贝叶斯网络的解释树

    本文提供基于因果关系树的贝叶斯网络解释方法，并结合现有方法讨论了解释所需的必要条件，比较了方法在已知网络上的效果。

    Jun, 2012

  • 评估解释：老师的解释在多大程度上有助于学生？

    本文提出了一个框架，通过衡量解释对用于模拟教师模型的学生模型的精确度增益来量化解释的价值，并比较了多种文本分类和问题回答任务的解释方法，观察到了在不同学生模型结构和学习策略中一致的定量差异。

    Dec, 2020

  • 自然语言处理中解释价值的作用

    本文主要讨论了自然语言处理应该注重语言行为的解释价值，而非仅仅是模型的可解释性，并比较了一些人类语言生产模型，提出了自然语言处理研究和机构政策在注重可解释性的同时，需要注意一些可能的陷阱。

    Sep, 2022

  • 自动事实验证解释评估框架的探索

    深度神经模型在自然语言处理中变得越来越复杂且难以解释，因此解释它们的必要性也越来越大。本文提出了一个正式框架来支持对解释的系统评估，并提供了适用于不同结构的解释的示例，重点是自动事实验证任务。

    Mar, 2024

  • 关于视觉解释的定量评估的一致性

    研究神经网络的预测可视化解释，并评价这些解释的好坏。其中，绝大多数评价方法使用 ImageNet-1k 和人工检测评估结果，结果表明评价方法之间缺乏一致性。同时，解释的稀疏性对评价方法的表现具有显著影响。

    Feb, 2023

  • 基于因果关系的分类结果解释

    本研究提出了一种基于因果关系概念的分类器结果解释定义，并与以前提出的解释概念进行了比较和研究，同时在金融领域使用两个真实数据集进行了实验评估。

    Mar, 2020