Sep, 2023

价值万花筒：为人类价值观、权利和责任与人工智能进行互动

PDF
TL;DR人类价值观和价值多元论对于人类决策至关重要。为了更好地反映价值多元论，我们介绍了 ValuePrism 数据集和 Kaleido 模型，它们可以生成、解释和评估特定语境下人类价值观、权利和责任的相关性和支持程度。我们的工作希望明确人类决策背后的隐含价值观，并引导 AI 系统做出更符合这些价值观的决策。
human valuesvalue pluralismai systemsvalueprismkaleido
发现论文，激发创造
  • 多元一致性路线图

    AI 系统的多元对齐是一个重要问题，本文提出了一个在语言模型中测试多元对齐的路线图，并通过多个实验和其他工作的经验证明了当前的对齐技术在多元对齐方面存在局限性，并强调了对多元对齐的进一步研究的需求。

    Feb, 2024

  • 基于人权的负责任人工智能方法

    本文提出了普世人权理论作为明确价值观和准则的指导框架，阐述了其在负责任的 AI 中的有效性，并探讨了其作为民间社会伙伴关系和参与的框架的效果。

    Oct, 2022

  • 人类价值是什么，我们如何使人工智能与之相吻合？

    通过道德图表法，本文研究如何合成不同的人类价值观输入，以对齐语言模型的行为，并通过在 500 名代表性美国人身上试验证明了其有效性。

    Mar, 2024

  • 伦理人工智能的人类价值计算框架

    通过社会科学根植的正式概念框架，系统、集成和跨学科地探究人类价值如何支持设计道德人工智能，从而解决价值对齐问题和其他相关的挑战，如人工智能学习人类价值观、将个人价值观聚合到群体中和设计计算机机制来处理价值观。

    May, 2023

  • 将人工智能与共享人类价值观相一致

    本文介绍了 ETHICS 数据集，旨在通过连接社会世界知识和价值判断来评估语言模型对道德基本概念的了解程度，研究发现当前语言模型有望但能力不完整地预测基本人类道德判断，并提供了实现人工智能与人类价值对齐的一步。

    Aug, 2020

  • 衡量价值对齐

    本文介绍了一种新的形式化方法来量化人工智能系统与人类价值观的一致性，使用马尔可夫决策过程作为基础模型，强调价值观作为行动的可取目标和规范行为准则与 AI 决策之间的联系，为评估规范与价值观之间一致程度提供了一种机制，以在规范世界中评估状态转换中的偏好变化。利用这种形式化方法，AI 开发者和伦理学家可以更好地设计和评估 AI 系统，以确保其与人类价值观和谐共处，该方法还适用于许多应用领域，例如强调幸福的推荐系统和强调安全的自动驾驶车辆。

    Dec, 2023

  • 多智能体系统中的人类价值观

    本文提供一个源于社会科学、能够形式化表达价值的形式化表述，并使用此表述明确了实现 AI 价值对齐的关键挑战和研究路线图。

    May, 2023

  • 评估基于大语言模型的道德价值多元论

    利用一个名为识别价值共鸣（RVR）的 NLP 模型，将 WVS 调查的价值观与生成的 LLMs 文本进行比较，发现 LLMs 显示出西方中心主义的价值偏见，高估了非西方国家的保守性，对非西方国家的性别表达不准确，并将年长人口描绘为更具传统价值。

    Dec, 2023

  • AI 推理中的人类价值建模

    构建与人类价值观相符的人工智能系统是当前面临的重要挑战之一。本研究提出了一个形式化模型，以明确计算地表示人类价值观，为基于人类价值观的人工智能推理提供了理论基础，并在实际应用中验证了该模型的适用性。通过这种自动推理人类价值观的能力，不仅能解决价值观一致性问题，还有助于设计支持个人和社区做出更明智、与价值观相符的决策的人工智能系统。

    Feb, 2024

  • 人工智能中人类价值的代理机构之间的紧张关系

    我们认为社区旨在减轻技术的潜在危害影响，通过定义公私保密、公平和透明模型等一些责任支柱作为指标是根本错误的，因为这些定义是人类价值的不完美、独立构建，而带着那些价值完全嵌入我们的技术的幌子。我们推动 AI 社区重新考虑某些支柱公式的选择带来的所有后果，而不仅仅是技术上的不兼容性，而是在部署背景下的影响。我们指出社会技术研究可以为后者提供框架，但还应推动更广泛的实践落地。

    Dec, 2022