Apr, 2024

AI 决策应如何解释？从欧洲法律的角度来看的解释要求

PDF
TL;DR该研究探讨了法律与可解释人工智能（XAI）之间的关系，通过对欧洲法律、AI 法案以及 XAI 方法的要求等方面的研究，得出法律对不同的 XAI 属性有不同的要求，并指出现有技术水平尚不能充分满足这些要求，尤其是在 XAI 方法的正确性和置信度估计方面。
lawexplainable artificial intelligence (xai)ai acteuropean lawxai-methods
发现论文，激发创造
  • 协调可解释 AI 和法律：欧洲视角

    本研究探讨了欧盟提出的《人工智能法案》中涉及的 AI 监管，特别关注了卫生保健等高风险领域中使用的 AI 系统的透明性和可解释性的要求。研究发现，XAI 解决方案与 AI 法案的要求存在显著差异，因此认为律师和 XAI 研究人员之间的合作至关重要。该研究讨论了 XAI 的法律关联性和 AI 法案和 GDPR 中的透明性和可解释性要求等四个主要问题。最终旨在促进学科间的研究，支持制定可持续监管，促进负责任的创新。

    Feb, 2023

  • 解释性人工智能（XAI）中的虚假安全感

    通过分析有关 AI 规定和政策的立法进展，本研究讨论了可解释性人工智能（XAI）的技术现状及其对 AI 治理的潜在威胁，指出需要明确、合理的立法和政策以解决 AI 解释能力的问题。

    May, 2024

  • AI Act 提案：技术可解释性的新权利？

    研究欧盟法律框架中技术可解释性权利的存在，特别关注 AI 法案及 GDPR 等新条款是否已经足够，以及是否还需要加入相关权利。

    Mar, 2023

  • 法律要求对机器学习可解释性的影响

    本研究分析了欧洲法律对解释性的要求及其对机器学习模型的影响，探讨了在私人和公共决策中所要求的解释义务，并探讨了如何通过机器学习技术来实现这些义务。

    Jul, 2020

  • 协调解释性要求的七个挑战

    本文回顾了最近关于可解释 AI（XAI）的技术文献，并认为基于我们当前对该领域的理解，实践中使用 XAI 技术需要考虑特定业务应用程序的利益相关者的具体需求。

    Aug, 2021

  • AI 在法律下的问责：解释的作用

    本研究回顾了当前法律下需要解释的情况，列出了必须考虑的技术方面，以期望提供类似于人类所需的解释的人工智能系统的研究。

    Nov, 2017

  • 解释性人工智能（XAI）评估方法的新视角

    要在可行性、领域特征和风险考虑等方面综合权衡，才能更好地协商可解释性和系统性能之间的平衡，并为未来研究和最佳实践提供基础。

    Jul, 2023

  • 灵活和上下文特定的 AI 可解释性：一种多学科方法

    该论文提出了一个框架，结合了技术、法律和经济因素，以定义在特定情境下的 “适当” 的解释水平，包括观众、操作环境、系统可能造成的伤害级别和法律 / 监管框架等主要情境因素，并提出了与此相关的社会效益。同时，论文还探讨了可用的技术工具，选择全局和局部解释输出的正确水平，并强调了解释只有在总社会效益大于成本时才具有社会价值。

    Mar, 2020

  • 可解释人工智能分析和设计的多组件框架

    这篇论文讨论了符合科学历史的可解释人工智能 (XAI) 的框架问题，其原因追溯至现代机器学习（尤其是深度和强化学习）和对创造值得信赖的 AI 系统的关注，它的五个级别框架是 XAI 的关键组成部分。

    May, 2020

  • 公司是否需要可解释的人工智能？从员工的角度探讨挑战、期望和机遇

    通过对员工的在线调查，该研究为研究和开发以人为中心和特定领域的 XAI 设计作出了贡献，发现员工对 AI 和 XAI 的认识度非常高，拥有透明且易于理解的洞察结论是实现 AI 成功应用的潜在驱动力，而支持企业的高层管理人员是宝贵的催化剂。

    Oct, 2022