Feb, 2023

协调可解释 AI 和法律：欧洲视角

PDF
TL;DR本研究探讨了欧盟提出的《人工智能法案》中涉及的 AI 监管，特别关注了卫生保健等高风险领域中使用的 AI 系统的透明性和可解释性的要求。研究发现，XAI 解决方案与 AI 法案的要求存在显著差异，因此认为律师和 XAI 研究人员之间的合作至关重要。该研究讨论了 XAI 的法律关联性和 AI 法案和 GDPR 中的透明性和可解释性要求等四个主要问题。最终旨在促进学科间的研究，支持制定可持续监管，促进负责任的创新。
发现论文，激发创造
  • AI 决策应如何解释？从欧洲法律的角度来看的解释要求

    该研究探讨了法律与可解释人工智能（XAI）之间的关系，通过对欧洲法律、AI 法案以及 XAI 方法的要求等方面的研究，得出法律对不同的 XAI 属性有不同的要求，并指出现有技术水平尚不能充分满足这些要求，尤其是在 XAI 方法的正确性和置信度估计方面。

    Apr, 2024

  • 解释性人工智能（XAI）中的虚假安全感

    通过分析有关 AI 规定和政策的立法进展，本研究讨论了可解释性人工智能（XAI）的技术现状及其对 AI 治理的潜在威胁，指出需要明确、合理的立法和政策以解决 AI 解释能力的问题。

    May, 2024

  • 协调解释性要求的七个挑战

    本文回顾了最近关于可解释 AI（XAI）的技术文献，并认为基于我们当前对该领域的理解，实践中使用 XAI 技术需要考虑特定业务应用程序的利益相关者的具体需求。

    Aug, 2021

  • AI Act 提案：技术可解释性的新权利？

    研究欧盟法律框架中技术可解释性权利的存在，特别关注 AI 法案及 GDPR 等新条款是否已经足够，以及是否还需要加入相关权利。

    Mar, 2023

  • AI 在法律下的问责：解释的作用

    本研究回顾了当前法律下需要解释的情况，列出了必须考虑的技术方面，以期望提供类似于人类所需的解释的人工智能系统的研究。

    Nov, 2017

  • 可信的 AI 系统需要准确性和解释性两者兼备

    本文说明在 AI 经济和社会领域中，快速发展的 AI 技术在很多方面已经超越人类专家。但由于错误率、偏见、噪声干扰等因素，AI 系统的应用却面临诸多挑战。为应对这种问题，出现了很多政府和监管部门针对具有准确性和健壮性的可信赖、道德的 AI 技术的监管机制。其中，说明性的 AI 技术则被广泛应用。本文从几方面介绍了这种技术在高风险可信赖 AI 系统的全生命周期中的应用。

    Dec, 2022

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 公司是否需要可解释的人工智能？从员工的角度探讨挑战、期望和机遇

    通过对员工的在线调查，该研究为研究和开发以人为中心和特定领域的 XAI 设计作出了贡献，发现员工对 AI 和 XAI 的认识度非常高，拥有透明且易于理解的洞察结论是实现 AI 成功应用的潜在驱动力，而支持企业的高层管理人员是宝贵的催化剂。

    Oct, 2022

  • 超越可解释人工智能：面向负责任人工智能的障碍

    透明度、可理解性和责任 AI 的局限性以及其与隐私、公平性和争议性等重要方面的联系。

    Sep, 2023

  • 可解释人工智能 (XAI) 中的机遇与挑战：一份调查

    本文介绍了深度学习中可解释人工智能技术（XAI），提出了技术分类法并介绍了方法学、范畴和应用层次等主要原则，旨在建立可信、可解释和自说明的深度学习模型。此外，通过八种不同的可解释人工智能算法对图像数据进行了评估，讨论了这种方法的局限性，并提出了未来改进的潜在方向。

    Jun, 2020