Mar, 2024
(超越) 合理疑点：公共辩护人在法庭上审查人工智能所面临的挑战
(Beyond) Reasonable Doubt: Challenges that Public Defenders Face in Scrutinizing AI in Court
Angela Jin, Niloufar Salehi
TL;DR公共捍卫律师在法庭上审查人工智能系统以争议使用，在此研究中，我们通过研究公共捍卫律师如何审查法院中的人工智能系统来研究实践中争议人工智能系统的努力。我们通过对美国公共辩护社区的 17 名成员的访谈，揭示了他们对计算法医软件（CFS）的感知和经验，CFS 是政府用来定罪和监禁犯罪嫌疑人的自动决策系统，例如面部识别、枪击检测和概率基因分型工具。我们发现，参与者们在评估和质疑 CFS 的可靠性时面临着困难，这是因为他们难以（a）了解 CFS 的开发和使用方式，（b）克服法官和陪审团对 CFS 的不批判性认知，以及（c）获取 CFS 专业知识。最后，我们提供了以技术、社会和制度背景为中心的建议，以更好地支持实践中的争议性介入，如性能评估。