改善儿童福利人工智能合作：理解工作者的实践、挑战和对算法决策支持的愿望

Apr, 2022

改善儿童福利人工智能合作：理解工作者的实践、挑战和对算法决策支持的愿望

Improving Human-AI Partnerships in Child Welfare: Understanding Worker Practices, Challenges, and Desires for Algorithmic Decision Support

PDF

Anna Kawakami, Venkatesh Sivaraman, Hao-Fei Cheng, Logan Stapleton, Yanghuidi Cheng...

TL;DR本文研究人工智能决策支持工具在公共部门的应用，并通过对一个儿童福利机构的采访和情境调查，了解了工作人员在 AI 辅助下如何进行儿童虐待筛查决策。最终提出设计建议来支持更有效的人工智能决策制定。

Abstract

ai-based decision support tools (ADS) are increasingly used to augment human decision-making in high-stakes, social contexts. As public sector agencies begin to adopt ADS, it is critical that we understand workers' experiences with these systems in practice. In this paper, we present f

ai-based decision support tools human decision-making child welfare agency organizational pressures design implications

发现论文，激发创造

人本可信的自动决策系统

自动决策系统（ADS）在各个领域和职业中已经普遍存在，以提高性能。然而，这种广泛采用引入了潜在风险，包括 ADS 的滥用。本研究论文对数字化、数字转型和 ADS 在当代社会和未来环境中的应用所涉及的影响、区别和伦理考虑进行了全面的研究。强调在部署 ADS 时的规范、透明度和伦理行为的迫切需求。

Dec, 2023

了解一线工作人员和无家可归个体在家 less 服务中使用 AI 的观点

本文旨在了解各方对于一种旨在优先分配有限房屋资源的 AI 决策支持系统的使用的期望和关切，研究结果表明，即使没有 AI 知识，利益相关方如果得到授权，也可以就 AI 系统的设计提供具体而关键的反馈。

Mar, 2023

算法决策中公平和透明的人本视角

该论文探讨了自动化决策系统在人类决策中的作用和不足，旨在通过深入研究来理解决策主体对于基于自动化决策系统的透明度的决策的不同感受，确保决策的质量、公正以及人性化。

Apr, 2022

学习何时向人类决策者提供建议

通过对已有的案例进行分析，本文提出了交互式人工智能决策辅助系统的设计，旨在通过学习人类的选择来决定何时提供算法支持，从而提高决策的准确性和可靠性。作者在美国刑事司法系统的前期释放审判方面进行了大规模实验，并发现交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比较，可以显著提高人类的决策水平。同时，交互式辅助系统还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。

Sep, 2022

训练至关重要的用途：学习将 AI 预测定位于人类知识的相对位置

本文介绍了一个过程导向的适当依赖概念，称为关键使用，通过将人类的能力与 AI 模型无法获取的知识相对比，以帮助人们辅助 AI 决策时的判断。通过在一个复杂的社会决策环境下进行随机在线实验来探索如何支持关键使用的训练，我们发现通过在这种情况下为参与者提供加速的、低成本的机会来练习 AI 辅助决策，新手参与者开始表现出与经验工作者相似的与 AI 不一致的模式。参与者对其 AI 辅助决策的解释的定性研究表明，他们参考了 AI 模型无法获取的定性案例叙述，以学习何时（不）依赖 AI 预测。我们的研究结果为实现真实世界的 AI 辅助决策的培训提出了新的问题和设计思路。

Aug, 2023

应用人工智能于心理健康临床决策支持：我们学到了什么？

本研究介绍了一种基于人工智能 (AI) 的 CDSS (临床决策支持系统) - Aifred Health，针对重性抑郁症患者的治疗选择和管理，探讨了平衡临床工作流程和鼓励最终用户信赖的实现挑战，同时提出在构建，验证，培训和实施 AI-CDSS 过程中应该考虑的关键问题和建议。

Mar, 2023

人工智能决策的科学化：经验研究综述

研究了人工智能辅助下的人类决策制定，结合超过 100 篇论文总结了该领域的三个重要方面，即决策任务、AI 模型和 AI 辅助元素以及评估指标并提出了未来研究建议，强调建立共同框架以促进人工智能和人机交互社区协作，形成推广的科学知识。

Dec, 2021

构想一个人工智能协作系统以将政策转化为决策模型

介绍利用自然语言和可编程代码同时表达政策的全球数字政府倡议，以及用 AI，自然语言处理和知识图谱缩短从政策文档到可执行决策模型的路线的方法。使用 AI 可帮助政府机构和政策专家扩大人可读和机器可执行政策规则的生产，同时提高透明度，可解释性，追溯性和决策的问责性。

Nov, 2022

在高风险环境中指导人类学习

本文研究 AI 辅助决策的团队决策，在考虑决策者面临的协同成本、不完美的算法决策等限制条件下，研发了人工智能团队学习框架和 TeamRules 算法，可提供有针对性的决策建议并在处理协同成本和团队准确性之间的平衡上产生显著的效果

Oct, 2022

AI 用于人类评估：专业评估员需要什么？

本文介绍了一种 AI 辅助人力资源发展和人员评估的方法。利用无监督异常检测算法从视频中提取非语言行为信息，为人员评估提供支持，并保持人工评估师对系统的信任度。

Apr, 2022