May, 2024

ADESSE: 在复杂的重复决策环境中的建议解释

PDF
TL;DR在人工智能驱动的决策过程中，提供一种人工智能代理与人类决策者之间协同关系的方法是一项重要挑战。本文介绍了一种名为 ADESSE 的方法，它通过生成解释来提高人类对智能代理的信任和决策能力。实证实验和用户研究结果表明，ADESSE 生成的解释能够显著提高参与者的满意度、游戏奖励并减少选择动作的时间，凸显了人为中心解释在人工智能辅助决策中的重要性。
human-centered aisynergistic relationshipdeep reinforcement learningadesseexplanations
发现论文，激发创造
  • 多智能体环境决策解释的人工智能

    介绍了在多智能体环境下，通过提供解释来增加用户满意度的重要性，提出了一个新的研究方向 xMASE，并回顾了现有的技术水平和为提高用户满意度而生成解释的算法。

    Oct, 2019

  • 学习制定注重依从性的建议

    考虑到人对人工智能建议的忽视以及人工智能在最相关时刻有选择性地提供建议的需要，本文提出了一个顺序决策模型，该模型考虑到人的依附水平并引入了一个推迟选项，以便机器能够暂时不提供建议，并提供了能够学习最佳建议政策并仅在关键时间点提供建议的学习算法。与通用强化学习算法相比，我们的专门化学习算法不仅具有更好的理论收敛性能，而且表现出强大的实证性能。

    Oct, 2023

  • 透过指引提炼的可教授强化学习

    本研究提出了一种基于 “可教学” 的决策系统的交互式学习监督范式，能够通过学习外部教师提供的结构化建议，解决复杂任务的学习难度，对拼图、导航和运动等各种任务需求的人工干预也相对较少。

    Mar, 2022

  • 在高风险环境中指导人类学习

    本文研究 AI 辅助决策的团队决策，在考虑决策者面临的协同成本、不完美的算法决策等限制条件下，研发了人工智能团队学习框架和 TeamRules 算法，可提供有针对性的决策建议并在处理协同成本和团队准确性之间的平衡上产生显著的效果

    Oct, 2022

  • 通过学习有说服力的解释优化人工智能与人类的合作

    提出了一种协作系统，其中人类最终做出决策，同时给予模型以最佳机会进行解释并与其辩论，从而解决了机器学习模型在复杂决策中出现难以检测故障模式且能够无监督采取行动的挑战。通过使用协作方法，我们可以确保安全性，提高性能，并解决透明度和问责制方面的担忧，从而实现有效的决策。

    Nov, 2023

  • 学习何时向人类决策者提供建议

    通过对已有的案例进行分析，本文提出了交互式人工智能决策辅助系统的设计，旨在通过学习人类的选择来决定何时提供算法支持，从而提高决策的准确性和可靠性。作者在美国刑事司法系统的前期释放审判方面进行了大规模实验，并发现交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比较，可以显著提高人类的决策水平。同时，交互式辅助系统还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。

    Sep, 2022

  • 利用人工智能生成的决策辅助工具提升人类决策能力

    使用机器学习和认知科学的方法为人类决策制定决策辅助方法，将其转化为自然语言指令可显著提高决策性能。

    Mar, 2022

  • 利用人类辅助完成顺序决策任务的最新进展

    本文综述了五种最近主要依赖于人类指导的机器学习框架及其动机，假设和实施，并讨论可能的未来研究方向。

    Jul, 2021

  • 改善儿童福利人工智能合作：理解工作者的实践、挑战和对算法决策支持的愿望

    本文研究人工智能决策支持工具在公共部门的应用，并通过对一个儿童福利机构的采访和情境调查，了解了工作人员在 AI 辅助下如何进行儿童虐待筛查决策。最终提出设计建议来支持更有效的人工智能决策制定。

    Apr, 2022

  • 通过反向强化学习实现可解释的深度强化学习模型

    本研究提出了一种新的框架，利用对抗性逆强化学习，可以为强化学习模型做出的决策提供全局解释，并通过总结模型的决策过程来捕捉直观的倾向。

    Mar, 2022