Jan, 2024
不确定性陷阱下的推理：结构化的人工智能风险
The Reasoning Under Uncertainty Trap: A Structural AI Risk
Toby D. Pilditch
TL;DR对于当前（和预期的）人工智能工具存在的一种新风险进行了研究。我们在进行未来行动的有效决策时需要进行不确定性推理，这对许多关键实际问题至关重要。面临这一挑战，对于辅助决策者的人工智能工具（如 LLMs）的需求不断增长。然而，我们目前对于 LLMs 在此方面的能力尚不充分理解，且在基本计算爆炸和深层不确定性约束下，其性能无法保证。该报告阐述了 RUU 对人类和机器都具有挑战性的原因，并将这些困难与潜在的人工智能时间表和能力联系起来。我们揭示了这种潜在的误用风险如何与更广泛的基本结构风险相连接，从而产生非线性的危害。报告还提供了一个解决方案路线图，针对问题结构中的多个影响点进行了建议。这包括对所有相关方（潜在用户、开发人员和决策者）的建议，并融入了关于深度不确定性下的决策制定和复杂系统理论的见解。我们认为，该报告不仅提高了人们对当前一种新的人工智能风险的认识，并通过说明其相互关联性如何伪装其存在来增强其潜在影响的认识，从而起到了减轻和纠正的作用。