May, 2024
走向人工智能和人类共同推理与价值统一的对话
Towards Dialogues for Joint Human-AI Reasoning and Value Alignment
Elfia Bezou-Vrakatseli, Oana Cocarascu, Sanjay Modgil
TL;DR我们认为，支持人工智能对话能够实现联合推理（即 “询问”），对于确保人工智能决策符合人类价值观和偏好非常重要。我们特别指出，基于逻辑的辩论和对话模型以及关注于劝说对话的传统方法应该改为关注于询问对话，并阐述了联合询问所带来的不同挑战。鉴于大规模语言模型（LLMs）性能的最新技术突破和预计在决策制定中它们的使用将增加，我们提供了一项研究路线图，以支持联合人工智能语言模型推理任务，并确保决策与价值观相一致的伦理关注。