Nov, 2023
AI 中的（非）理性：现状、研究挑战与待解之问
(Ir)rationality in AI: State of the Art, Research Challenges and Open Questions
Olivia Macmillan-Scott, Mirco Musolesi
TL;DR人工智能中理性的概念至关重要，但没有一个统一的定义来界定何为理性代理。本文调查了人工智能中的理性与非理性，并阐述了这一领域的问题。研究经济学、哲学和心理学等其他领域对理性的理解对其在人工智能中的观念产生了影响。从人工智能代理的行为出发，我们考虑在某些情景中可能最优的非理性行为。已经有一些方法用来处理非理性代理的辨识和互动，但在这个领域的研究仍然有限。目前已经为其他目的而开发的方法，如对抗性情景，可以适应与人工智能代理的互动。我们进一步讨论了人工智能代理与人类代理之间的相互作用，以及理性在这种互动中所扮演的角色；这个领域还存在许多问题，涉及到人类和人工智能代理潜在的非理性行为。