Oct, 2023

理解工作负荷权衡的信息瓶颈特征

PDF
TL;DR最近人工智能领域取得的进展强调了支持人类对人工智能系统的理解的可解释人工智能（XAI）的需求。本研究通过信息瓶颈方法对工作负荷 - 理解平衡进行定义，通过人体实验建立了工作负荷与复杂性、理解与信息量之间的经验联系，为用户定制的 XAI 设计提供了重要的数学描述。
artificial intelligenceexplainable aixaihuman factorsworkload-understanding tradeoff
发现论文，激发创造
  • 可解释人工智能对认知负荷的影响：一项实证研究的见解

    通过对 271 个未来医生进行实证研究，本文发现可解释人工智能在决策支持系统中对最终用户的认知负荷、任务绩效和任务时间具有强大的影响，进一步提供了实现最佳效果的本地可解释人工智能解释类型建议，为社会技术可解释人工智能研究提供了实践价值。

    Apr, 2023

  • 有帮助、误导或使人困惑：人类如何感知人工智能解释的基本构建块

    这篇论文探讨了可解释的人工智能技术和其评估方法之间的差距，介绍了使用简单的数学模型来评估不同模型表述的易理解程度，以及如何设置和执行相关用户研究的概念和实践框架。

    Mar, 2023

  • 面向人类认知水平的反事实解释实验设计（XAI）

    使用 Bloom's 分类法作为用户的认知能力测量模型，在讲解生成的过程中采用反事实解释为媒介，结合用户反馈，验证讲解在每个认知层次上的理解水平，并据此改进讲解的生成方法。

    Oct, 2022

  • 基于信息瓶颈原理的人 - 代理通信

    本文研究了如何平衡效用、信息的有效性和复杂性，从而塑造新兴的通信，并将其与人类通信进行比较。我们使用 VQ-VIB 方法训练神经代理来压缩输入以获得离散信号，从而比以往的神经体系结构在其性能方面更具优越性，并发现惩罚交际复杂性可以维持高效用的同时维持类似人类的词汇量。此外，我们还发现，VQ-VIB 优于其他离散通信方法。

    Jun, 2022

  • 人工智能在协同工作中可解释性和可接受性要求

    该论文探讨了需求透明度和可接受性以建立人类对 AI 的信赖感，具体介绍了开发者和最终用户在信息需求方面的差异以及信任在人工智能系统中的作用。

    Jun, 2023

  • 信息瓶颈问题及其在机器学习中的应用

    该论文介绍了信息瓶颈理论作为一种信息理论范例来分析机器学习中使用深度学习等算法进行降维操作的有效性，并总结了其在深度学习理论中的重要性和实际算法的启示。

    Apr, 2020

  • 挑战功能归因解释中的常见可解释性假设

    通过人类实验，我们发现属性解释法在某些情况下会导致决策者做出更糟糕的决策，这一结果挑战了应用这些方法的普遍好处的假定，在可解释的 AI 研究中人类评价的重要性下应该得到重视。

    Dec, 2020

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 解释解释：机器学习的可解释性概述

    有关解释人工智能的最佳实践和挑战的调查表明，现有的解释方法尤其是对于深度神经网络而言不足以提供算法的公正性、数据偏见和性能。

    May, 2018

  • 解释性的心理学理论

    研究人员提出了一种心理学理论，解释了人们如何从显著性图中得出结论，为 XAI 中的精确预测和验证提供了理论依据，并进行了一项用户研究以验证该理论。

    May, 2022