Aug, 2023

解读人工智能的责任

HTML
PDF
TL;DR为了在涉及AI-enabled系统的复杂情况中理解责任应当在何处，首先我们需要有一个足够清晰和详细的跨学科的责任词汇；本文通过以 'Actor A对Occurrence O负责' 的三部分表述，识别了A、负责和O的有效组合，形成了四种责任的含义，并通过两个案例进行了阐述，最终形成了81个责任词组。这些词组为不同学科的人们提供了明确和具体的方式，解释在寻求责任的复杂事件中，不同的行动者对不同的事件负有责任的不同方式，从而允许精确和有针对性的跨学科规范性讨论。
发现论文，激发创造
  • 关于责任、意图和道德责任的正式定义探讨

    我们提供了关于责任和意图的正式定义，并应用于具有悖论情境的案例，从而阐明了道德判断中的关键因素。

    Oct, 2018

  • 负责任 AI 设计：设计负责任 AI 系统的模式集合

    通过系统文献综述，我们发现了一个缺失的元素-系统级指导。为了促进设计负责任的人工智能系统，本文提出了设计模式的总结。

    Mar, 2022

  • 可解释性与问责制决策算法的冲突

    本文旨在探讨可解释人工智能是否能帮助解决自主AI系统所提出的责任问题，并得出结论，提供一系列建议如何处理算法决策的社会技术过程，并提出采用严格的法规来防止设计者逃避责任。

    May, 2022

  • 金融服务的负责任聊天机器人开发: 一种面向模式的负责任人工智能工程方法

    本文提出通过模式驱动的负责任的 AI 工程方法和构建一种能从系统角度实现负责任 AI 的垫片目录来填补负责任 AI 的操作化的空白，研究了 chatbot 开发过程中的风险，并提供了垫片驱动的缓解措施。

    Jan, 2023

  • 人工智能系统的道德责任

    伴随着越来越多具有重大伦理维度的决策外包到AI系统中，有必要找到一个可应用于AI系统的道德责任定义。本研究基于因果模型的框架提出了一种正式的道德责任定义，包括因果条件和认识条件。并将该定义与BvH和HK的现有方法进行比较，进而将其推广为一种责任度量。

    Oct, 2023

  • 广义形式博弈中的责任

    该论文提出了一种将反事实责任和看管责任相结合的定义，阐述了责任的概念并研究了两种责任形式之间的鸿沟，表明在考虑到高阶责任时，这两种责任形式可以被规定在每种可能的情况下。

    Dec, 2023

  • AI基准安全系统的责任建模

    AI-基于安全关键系统（AI-SCS）在现实世界中的部署越来越多。降低风险是开发和运营中的首要任务。本文考虑了责任的不同方面（角色、道德、法律和因果关系），以及它们在AI-SCS安全背景下的应用。我们使用一个核心概念（演员（A）对事件（O）负责）来创建角色责任模型，从而产生了一种捕捉责任关系并澄清以前已知的责任问题的实用方法。通过对事故案例和基于AI的糖尿病并发症预测器的安全性分析，我们的主要目标是在安全性方面减少对操作员或开发人员的不公平或不成比例的责备。我们提出了进一步研究的讨论和方向。

    Dec, 2023

  • 商业人工智能、冲突与道德责任：对双用途人工智能技术的道德责任的理论分析和实践方法

    人工智能系统的伦理责任是对其可能用于冲突应用的非军事应用进行理论分析和实践方法的介绍，包括通过建立多视角能力测试、集成数字水印和利用监测与报告机制来减轻开发者的道德责任。

    Jan, 2024

  • AI诱发事件中的责任归因:一种用于问责的计算反思均衡框架

    人工智能引入的广泛整合在涉及AI系统的事件中引入了复杂的责任和问责挑战；本文提出了一种计算反思均衡方法，为所有利益相关者建立了一个连贯和道德可接受的责任归因框架，结合案例研究展示了该框架在责任归因过程中的可解释性、连贯性和适应性。

    Apr, 2024

  • 人机协作中的因果责任归属

    本研究解决了人工智能（AI）系统对决策结果的影响中责任归属的复杂性问题。通过提出基于结构性因果模型的框架，系统性地对人机系统中的责任进行归属，并利用反事实推理来考虑代理者的预期知识水平。研究显示，该框架在不同的人机协作场景中具有良好的适应性，能够提高责任划分的准确性。

    Nov, 2024