Dec, 2023
AI 基准安全系统的责任建模
What's my role? Modelling responsibility for AI-based safety-critical systems
Philippa Ryan, Zoe Porter, Joanna Al-Qaddoumi, John McDermid, Ibrahim Habli
TL;DRAI - 基于安全关键系统（AI-SCS）在现实世界中的部署越来越多。降低风险是开发和运营中的首要任务。本文考虑了责任的不同方面（角色、道德、法律和因果关系），以及它们在 AI-SCS 安全背景下的应用。我们使用一个核心概念（演员（A）对事件（O）负责）来创建角色责任模型，从而产生了一种捕捉责任关系并澄清以前已知的责任问题的实用方法。通过对事故案例和基于 AI 的糖尿病并发症预测器的安全性分析，我们的主要目标是在安全性方面减少对操作员或开发人员的不公平或不成比例的责备。我们提出了进一步研究的讨论和方向。