Apr, 2023

AI 政策中的可解释性：欧盟、美国和英国的沟通、报告、法规和标准的关键回顾

PDF
TL;DR本文通过对欧盟、美国和英国政策文件的调查，针对可解释性人工智能的技术和社会影响进行了主题和缺口分析。发现政策通常基于对解释的粗略观念和要求。最终提出了一组关于如何解释 AI 系统的建议，其中包括定义、可行性、可用性以及分配解释提供者的责任。
explainabilityairegulationsgap analysisaccountability
发现论文，激发创造
  • 解释性人工智能（XAI）中的虚假安全感

    通过分析有关 AI 规定和政策的立法进展，本研究讨论了可解释性人工智能（XAI）的技术现状及其对 AI 治理的潜在威胁，指出需要明确、合理的立法和政策以解决 AI 解释能力的问题。

    May, 2024

  • 协调可解释 AI 和法律：欧洲视角

    本研究探讨了欧盟提出的《人工智能法案》中涉及的 AI 监管，特别关注了卫生保健等高风险领域中使用的 AI 系统的透明性和可解释性的要求。研究发现，XAI 解决方案与 AI 法案的要求存在显著差异，因此认为律师和 XAI 研究人员之间的合作至关重要。该研究讨论了 XAI 的法律关联性和 AI 法案和 GDPR 中的透明性和可解释性要求等四个主要问题。最终旨在促进学科间的研究，支持制定可持续监管，促进负责任的创新。

    Feb, 2023

  • 协调解释性要求的七个挑战

    本文回顾了最近关于可解释 AI（XAI）的技术文献，并认为基于我们当前对该领域的理解，实践中使用 XAI 技术需要考虑特定业务应用程序的利益相关者的具体需求。

    Aug, 2021

  • AI 决策应如何解释？从欧洲法律的角度来看的解释要求

    该研究探讨了法律与可解释人工智能（XAI）之间的关系，通过对欧洲法律、AI 法案以及 XAI 方法的要求等方面的研究，得出法律对不同的 XAI 属性有不同的要求，并指出现有技术水平尚不能充分满足这些要求，尤其是在 XAI 方法的正确性和置信度估计方面。

    Apr, 2024

  • 人工智能监管政策的综合评述与系统分析

    通过全球的 AI 监管政策提案，历史教训和分析方法的研究，我们旨在通过一种分而治之的方式帮助管理机构解决 AI 监管混乱。

    Jul, 2023

  • 走向可规管的 AI 系统：技术差距与政策机遇

    本文探讨如何规范人工智能系统，研究发现通过两个公共部门采购清单可标识现在和未来技术创新方面的人工智能是否符合规定要求，并且确认需跨学科合作来满足某些要求。

    Jun, 2023

  • 标准化可解释性的必要性

    本研究的目的是对可解释性（Explainable AI，XAI）领域的现状提供一个视角，并提供解释性和可解释性的新定义，以开始标准化这个研究领域。研究提供了可解释性文献的概述和现有方法的概述，最后提供了不同可解释性方法的初步分类法，为未来的研究打开了大门。

    Oct, 2020

  • 反对可解释性

    本文研究了 AI 系统解释决策的重要性，探究了现有的端用户可解释性是否满足了解释决策的法律需求，发现端用户可解释性虽然在某些方面表现出色，但在满足理解人类决策者的需求方面表现欠佳，因此提出 AI 系统的解释权可能带来更多负面影响的观点，呼吁相关管理者和机器学习从业者重新考虑 AI 系统的端用户可解释性与解释权。

    May, 2023

  • 基于文化的可解释人机冲突解决

    该研究提出了一种基于论证对话的人工智能体架构，将人类规则映射到可以解释行为的人工智能文化中，并通过用户研究验证了其有效性，结果表明当系统更加复杂时，解释可以显著提高人类绩效表现。

    Nov, 2019

  • AI 在法律下的问责：解释的作用

    本研究回顾了当前法律下需要解释的情况，列出了必须考虑的技术方面，以期望提供类似于人类所需的解释的人工智能系统的研究。

    Nov, 2017