Jan, 2025
大型语言模型是否能够战略性地揭示、隐瞒和推断信息?变色龙游戏中的理论与实证分析
Do LLMs Strategically Reveal, Conceal, and Infer Information? A
Theoretical and Empirical Analysis in The Chameleon Game
TL;DR本研究针对大型语言模型(LLM)在非合作环境中信息控制与决策能力的不足进行了分析。通过将LLM代理引入一个语言基础的隐秘身份游戏——变色龙,研究发现非变色龙代理在识别变色龙的过程中未能有效隐瞒秘密,显示出信息揭示的过度,从而揭示了当前LLM在战略互动中的弱点及其潜在影响。