Oct, 2023
从任务结构到世界模型：LLM(大型语言模型)了解什么?
From task structures to world models: What do LLMs know?
TL;DR一种大型语言模型如何拥有知识的问题超出了特定人工智能系统的能力，并挑战了我们对知识和智能本质的假设。我们通过授予LLMs“工具知识”来回答这个问题，该知识由一定的能力定义。然后我们探讨这种知识与人类智能所展现的更为普通和“世俗”的知识之间的关系，并以认知科学中结构化世界模型能否被视为工具知识的程度来加以研究。我们讨论了LLMs如何恢复世俗知识的方式，并暗示这种恢复将受世界模型和任务需求之间的隐性、资源有理化权衡的制约。