Jun, 2024

ChatGPT 有思维吗?

TL;DR这篇论文探讨了大型语言模型(LLMs)如ChatGPT是否具有思维,特别关注它们是否拥有包括信念、欲望和意图在内的真实民间心理。我们通过调查内部表征和行为倾向这两个关键方面来探讨这个问题。首先,我们调查了各种哲学理论,包括信息论、因果论、结构论和目的论账户,认为LLMs满足每个账户提出的关键条件。我们利用机器学习中的最新可解释性研究来支持这些主张。其次,我们探讨LLMs是否展示了执行行为的坚实倾向,这是民间心理的一个必要组成部分。我们考虑了两个著名的哲学传统,即解释主义和表征主义,以评估LLM的行为倾向。虽然我们发现有证据表明LLMs在某些标准下可能具备思维的特征,特别是在博弈论环境中,但我们得出的结论是,数据仍然不具有说服力。此外,我们回答了对LLM民间心理的几个怀疑挑战,包括感知基础、“随机鹦鹉”论证以及对记忆的担忧等。我们的论文有三个主要观点。第一,LLMs确实具有坚实的内部表征。第二,是否LLMs具有坚实的行为倾向还有一个未解答的问题。第三,对LLM表征的现有怀疑挑战在哲学上经不起推敲。