Jan, 2024
军事和外交决策中的语言模型升级风险
Escalation Risks from Language Models in Military and Diplomatic Decision-Making
Juan-Pablo Rivera, Gabriel Mukobi, Anka Reuel, Max Lamparth, Chandler Smith...
TL;DR通过对多个人工智能自主代理在模拟战争游戏中的行为进行研究,我们发现大型语言模型存在升级行动和难以预测升级模式的问题,这可能导致更大的冲突和核武器的使用,因此在部署自主语言模型代理进行战略决策之前需要进一步审查和谨慎考虑。