Apr, 2023
关于意义计算、语言模型与难以理解的恐怖
On the Computation of Meaning, Language Models and Incomprehensible Horrors
Michael Timothy Bennett
TL;DR本文将意义基础理论与 AGI 的数学形式结合起来，旨在提供一种全面的有关意义、交流和符号出现的机制性解释。此次综合研究在 AGI 和关于语言本质的更广泛辩论中具有重要意义，它将语用学、逻辑真值条件语义学、Peircean 符号学和赋能认知的可计算模型统一起来，涉及传统上难以进行机制性解释的现象。通过考察一台机器生成有意义话语或理解人类意义的条件，我们确定了目前的语言模型并不具有与人类相同的意义理解，也不打算表达任何我们可以归于它们响应的意义。为了解决这个问题，我们提出了模拟人类情感和优化模型以构建弱表示的解决方案。我们的发现揭示了意义和智能之间的关系，并探讨了如何构建能够理解和表达意义的机器。