Apr, 2022

公众参与：在有争议的公共政策领域促进算法决策的审议

PDF
TL;DR本文提出了一种 “公众参与” 方法框架，旨在更好地参与算法决策，共同决策，并构建群众。结合通讯文献的见解，探讨其在涉及公共政策领域的 AI 设计中的特点对参与者的重要性，如再犯率预测，为支持此工作的人机交互社区描绘了一部分研究议程。
algorithmic decision-makingpublics-in-the-loopdeliberationstakeholder participationai design
发现论文，激发创造
  • 团队参与 ' 高风险人工智能的组织监管

    本文通过机构分析探讨了人工智能对临床决策监督的影响，发现现有监督基于专业人员的训练要求和问询等方式，而 AI 系统的部署将影响监督的各个维度，因此建议采用 “团队在环” 等更宽泛的视角来理解高风险公共部门部署中所需的系统级分析。

    Mar, 2023

  • Society-in-the-Loop：算法社会契约的编程

    本研究提出了一个对人工智能和算法系统进行监管的概念性框架，其中结合人机交互学习与各利益相关者的价值观协商及监控来保证算法社会契约的编程、调试、运行和维护。

    Jul, 2017

  • 走向公众：公众参与方法在商业人工智能实验室中的作用

    本文研究了商业人工智能实验室对参与式人工智能方法的理解和实施所面临的障碍，并提供了有关在此背景下使用参与式方法的挑战的新颖经验研究。

    Jun, 2023

  • 高风险公共部门决策中算法支持的公平性与问责设计需求

    通过对 5 个经济合作与发展组织国家的 27 名公共部门机器学习从业者进行访谈，本文探讨了在算法决策应用，如税收、司法和儿童保护中如何理解和注入公共价值观。结果显示出在当前可用、透明和 “区分度感知” 的机器学习研究中，缺乏组织和机构现实、限制和需求，存在设计机会，如支持次要数据来源中概念漂移的追踪和构建可用的透明度工具，以识别风险并整合领域知识，旨在支持管理人员和公共服务的 “一线官僚”。我们最后概述了这些高风险应用中的伦理挑战和未来合作方向。

    Feb, 2018

  • 对 AI 公平相关决策进行人类沟通分析和组织：公共部门的应用案例

    AI 算法在公共部门中的使用，例如分配社会福利或预测欺诈行为，往往涉及到多个公共和私人利益相关者。研究人员通过对公共部门算法系统工作人员的访谈，调查了与 AI 公平相关决策相关的沟通过程，并通过定性编码分析识别了潜藏在公平相关的人工决策中的沟通问题。研究结果表明，沟通模式和组织问题对公平相关决策产生了重要影响。

    Mar, 2024

  • 早期阶段围绕 AI 和政策设计的辩论，重新归位有效性的考虑

    本文主要讨论 AI 决策工具的有效性与组织政策设计的关系，并呼吁早期多利益相关方的讨论与决策，为新项目提供指导。

    Mar, 2023

  • 挑战算法决策中的人机互动

    我们从技术和哲学的角度讨论人类在算法决策（ADM）中的作用，具体描述了涉及的不同期望、价值观和限制所引发的紧张关系，以及介入其中的人类所面临的挑战和影响。

    May, 2024

  • 构想一个人工智能协作系统以将政策转化为决策模型

    介绍利用自然语言和可编程代码同时表达政策的全球数字政府倡议，以及用 AI，自然语言处理和知识图谱缩短从政策文档到可执行决策模型的路线的方法。使用 AI 可帮助政府机构和政策专家扩大人可读和机器可执行政策规则的生产，同时提高透明度，可解释性，追溯性和决策的问责性。

    Nov, 2022

  • 公共宪政人工智能

    为确保人工智能系统具备有效治理所需的合法性，本文提出了 “公众宪政人工智能” 方法，通过多元利益相关者参与制定人工智能发展的原则，形成 “人工智能宪法”，以实现人工智能治理与公众意愿的真正民主合法性，并建立 “人工智能法庭” 以发展 “人工智能判例法”，为在人工智能培训中落实宪政原则提供具体示例。该方法旨在通过民主审议过程来确立人工智能治理的基础，使自动化机构具备真正的民主合法性，应对不断增强的人工智能系统所带来的独特挑战，并确保其与公共利益保持一致。

    Jun, 2024

  • 人本机制设计与民主人工智能

    通过 Democratic AI 方法，使用强化学习算法在参与者中探讨和设计社交机制来解决人工智能与人类价值观的对齐问题，有效缓解了财富分配不均，制止了搭便车行为并成功地赢得了大众的信任和认可。

    Jan, 2022