政府发展和使用先进自动化系统对个人进行决策的建议
2023 年 10 月,拜登总统发布了一项详细但大部分抱负性内容的行政命令,为人工智能的安全和负责任发展提供了路线图。该研究报告总结了一个研讨会,探讨了在高级自动决策系统背景下,用户、开发人员和机构在促进抗议能力方面所面临的挑战,并提出了具体建议。
Jun, 2024
通过城市公共人工智能系统的竞争性设计,以拍摄感应器所配备的人驾驶汽车为例,运用暂定竞争性人工智能框架,采用假设设计的方法,构建一个设计视频,然后对 17 名在大型欧洲城市所使用的人工智能的公务员进行半结构化采访,我们描述了公共人工智能系统在实施竞争性方面面临的主要挑战。
Feb, 2023
公共捍卫律师在法庭上审查人工智能系统以争议使用,在此研究中,我们通过研究公共捍卫律师如何审查法院中的人工智能系统来研究实践中争议人工智能系统的努力。我们通过对美国公共辩护社区的 17 名成员的访谈,揭示了他们对计算法医软件(CFS)的感知和经验,CFS 是政府用来定罪和监禁犯罪嫌疑人的自动决策系统,例如面部识别、枪击检测和概率基因分型工具。我们发现,参与者们在评估和质疑 CFS 的可靠性时面临着困难,这是因为他们难以(a)了解 CFS 的开发和使用方式,(b)克服法官和陪审团对 CFS 的不批判性认知,以及(c)获取 CFS 专业知识。最后,我们提供了以技术、社会和制度背景为中心的建议,以更好地支持实践中的争议性介入,如性能评估。
Mar, 2024
本论文针对算法决策中的公平性问题提供了跨学科的构想。其中,法律系统的差异是一个核心问题,同时论文提出了一种上下文方法来处理意外的群体歧视,研究算法决策的可解释性。
May, 2022
该论文探讨了自动化决策系统在人类决策中的作用和不足,旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受,确保决策的质量、公正以及人性化。
Apr, 2022
提出了针对自动决策系统的公平需求的知觉差异,指出了社会必须解决的基本模糊性和关注点列表,并为自动决策系统中对公平的增加需求赋予了具体含义。
Nov, 2023
介绍利用自然语言和可编程代码同时表达政策的全球数字政府倡议,以及用 AI,自然语言处理和知识图谱缩短从政策文档到可执行决策模型的路线的方法。使用 AI 可帮助政府机构和政策专家扩大人可读和机器可执行政策规则的生产,同时提高透明度,可解释性,追溯性和决策的问责性。
Nov, 2022
本文旨在调查研究自动化决策系统中机器学习算法存在的偏差及其与公平、隐私和分类准确性之间的关系,并综述了处理公平 - 准确性权衡的不同方法。作者通过实验分析了公平度量和准确度在现实世界场景中的关系。
Sep, 2022