Jul, 2023

反思式混合智能用于决策支持系统的意义人类控制

PDF
TL;DR介绍自我反思人工智能系统的概念，提出了一个融合了心理学、哲学、形式推理方法和机器学习方法的框架，旨在创建响应人类价值和社会规范的人工智能系统，可以增加有意义的人类控制并通过提供人类道德盲点的可理解信息和见解来赋予人类道德推理的能力。
ai systemshuman autonomydecision support systemsself-reflectivehuman moral reasoning
发现论文，激发创造
  • 人感知 AI 系统的挑战

    讨论了设计人类感知人工智能系统面临的挑战，包括建模人类的心理状态、识别其愿望和意图、提供主动支持、展示可解释性行为、并引发信任等，并强调这种系统引出的伦理困境和推广真正跨学科合作的必要性。

    Oct, 2019

  • 反思性人工智能

    本文旨在探讨反思式 AI 的概念，并提出了一种基于反思概念的 AI 代理架构，以及相关的前行方向。

    Jan, 2023

  • 负责任的自主

    讨论了人工智能伦理学的研究方向，提出了确保人工智能系统行为符合道德和社会价值的替代方法，并介绍了设计和利益相关者价值观提取方法。

    Jun, 2017

  • 以人为中心的可解释人工智能：走向一种反思性社会技术方法

    介绍了以人为中心的可解释人工智能作为一种方法，该方法考虑了价值观、人际动态和人工智能系统的社会情境性，通过反思的社会技术方法，提出了开放性研究问题，文献以解释系统为例，讨论了人类的因素如何影响系统技术进步，并提出了基于批判性技术实践的反思的 HCXAI 范式，以及价值敏感设计和参与式设计等策略。

    Feb, 2020

  • 人工智能与人类的融合决策系统学习范式

    每天我们越来越依赖于机器学习模型来自动化和支持高风险任务和决策。这篇论文提出了混合决策系统的分类法，提供了一个概念和技术框架，以理解当前计算机科学文献中的人机交互模型。

    Feb, 2024

  • 人工智能与人类的未来协作：混合智能系统设计知识分类

    本文提供了一个交叉学科的观点，以发展由人与机器组成的社会技术群体，通过结合人工智能和人类智能，共同实现复杂目标，并从彼此学习中不断提高。因此，需要为这些系统提供结构化的设计知识，并展示了使这些应用程序的系统开发人员有用的指导。

    May, 2021

  • 恩惠智能：通过人工智能系统对益处、援助和相关道德失误进行能力建模

    通过基于塞恩和纳斯鲍姆的能力途径的框架，我们形成了一个道德概念和权益的网络，目的是让 AI 系统对利益相关者产生有意义的益处或帮助，从而提升他们推进生活计划和福祉的能力，同时维护他们的基本权利。我们表征了 AI 系统和其运作所影响的人之间道德可容许互动的两个必要条件，以及实现有意义益处理想的两个充分条件。同时，我们将这一理想与几种突出的故障模式进行对比，即构成不合理家长式主义、强制、欺骗、剥削和支配的社会互动形式。AI 在高风险领域中的事件增加凸显了这些问题的重要性，也迫使我们从一开始就采取伦理导向的方法来应对 AI 系统。

    Aug, 2023

  • 自我视角下的他人评估

    人工智能系统在模拟或接近人类间的相互作用中，特别是在多层次环境中与不同实体进行的情况下，必须首先深入而细致地理解自己，以实现对人类认知的高质量理解。

    Dec, 2023

  • 人工智能与自我意识

    本文探讨了人工智能在伦理、决策制定等方面引发的一些问题和讨论，并重点讨论 AI 代理人中的 “自我” 认知和其在决策制定方面的作用。作者旨在提倡建立拥有更强自我认知的 AI 代理人的研究。

    Jan, 2022

  • 关于对称实现的出现

    人工智能（AI）已经彻底改变了人类的认知能力，并促进了能够与人类在物理和虚拟环境中进行交互的新型 AI 实体的发展。我们介绍了一个统一表示形式 —— 对称现实框架，它能包括各种物理 - 虚拟融合的形式，从而让从更广泛的角度理解 AI 实体如何与人类协作以及如何巩固不同的物理 - 虚拟整合技术路径。我们提出了一个 AI 驱动的主动辅助服务的示例，展示了对称现实系统在特定任务（如倒水）中的运作，并为不同领域的研究人员和实践者提供有益的观点和指导，从而为人工智能与人类在物理和虚拟环境中的共存的持续研究做出贡献。

    Jan, 2024