Jun, 2023

可解释人工智能中的操作风险：不一致问题的影响

PDF
TL;DR人工智能在人类生活的高风险领域的的应用愈加普及，XAI 应运而生，但其面临的 “不一致问题” 可能会导致潜在的危险后果，因此有必要采取缓解措施。本文提供了一些调适不一致解释的方法，分析了不同的攻击方式以及行为同调调整在社会上潜在危险造成的影响。
发现论文，激发创造
  • 可解释性与问责制决策算法的冲突

    本文旨在探讨可解释人工智能是否能帮助解决自主 AI 系统所提出的责任问题，并得出结论，提供一系列建议如何处理算法决策的社会技术过程，并提出采用严格的法规来防止设计者逃避责任。

    May, 2022

  • 因果解释的分歧：透明度如何具有欺骗性

    本文针对可解释人工智能中的对策解释方法（Counterfactual explanations）中存在的异议问题（the disagreement problem）进行了大规模实证研究，发现不同算法生成的解释之间存在高度异议，从而呼吁更多关于算法决策透明度的讨论和实验研究。

    Apr, 2023

  • 超越可解释人工智能：面向负责任人工智能的障碍

    透明度、可理解性和责任 AI 的局限性以及其与隐私、公平性和争议性等重要方面的联系。

    Sep, 2023

  • 可解释人工智能方法：一项调查

    该研究演示了可解释人工智能的多种方法，并与信用违约预测等任务进行了比较，提出了定量解释性的有意义见解，为开发负责任或以人为中心的 AI 系统提供方向和未来研究方向，有助于在高风险应用中采用 AI。

    Jan, 2021

  • 可解释人工智能中的对抗攻击和防御：一项调查

    该论文对 50 多篇与机器学习模型解释袭击和公正性度量有关的研究进行了简要综述，并讨论了如何防御攻击和设计稳健的解释方法。该论文提出了现有 XAI（可解释人工智能）不安全因素的列表，并概述了 Adversarial XAI（AdvXAI）的新兴研究方向。

    Jun, 2023

  • 关于调和可用性和实用性的可解释人工智能方法

    本论文以自动驾驶汽车为研究对象，研究了四种常见的可解释人工智能方法，即决策树、文本、程序和图示。研究表明，参与者倾向于使用语言解释，但通过决策树解释更能客观地理解汽车的决策过程，并且结果显示，计算机科学经验和观察汽车成功或失败的情况可以影响解释的感知和有用性，因此本研究提出，设计 XAI 系统必须考虑用户的特定需求和情境因素。

    Jan, 2023

  • 以解释为基础的决策：关于可解释人工智能在辅助决策中的角色的人类中心评估

    最近的实证研究调查了可解释人工智能对人工智能决策的影响，识别了挑战并提出未来的研究方向。

    Dec, 2023

  • 可解释人工智能在数据驱动系统中的隐私影响

    机器学习模型的不透明性威胁到其可解释性，可解释人工智能（XAI）技术通过提供解释 ML 模型内部决策过程的框架和方法来解决这一挑战，同时维护隐私的难题需要在理解 ML 决策和保护隐私之间找到平衡点。

    Jun, 2024

  • 可解释机器学习中的异议问题：从从业者角度的看法

    通过研究解释性机器学习中的不一致性问题，本文介绍了一种定量框架来形式化不同解释方法生成的解释之间的不一致性，并通过萨实证分析和在线调查了解了数据科学家如何解决这些分歧。结果表明，当今最先进的解释方法在生成解释方面经常存在分歧，强调了开发原则性评估指标以实现有效比较解释的重要性。

    Feb, 2022

  • 论述型可解释人工智能：一项调查

    本文综述了利用计算论证方法建立的可解释 AI 方法，重点关注其不同类型的解释，使用的不同模型，不同交互方式和不同的论证框架。此外，我们还规划了未来的发展方向。

    May, 2021