May, 2024

社交人工智能与维特根斯坦的语言使用者方程与卡尔维诺的文学机器

HTML
PDF
TL;DR这篇论文探讨了将心理学谓词归因于大型语言模型（LLMs）等人工智能系统是否明智，认为尽管LLMs在语言使用者意义上确实与Ludwig Wittgenstein所描述的相似，但归因于这些系统具有心理学谓词仍然是一种功能主义的诱惑，而社交人工智能更像是Italo Calvino的文学机器，该文将LLMs作为Wittgenstein式的语言使用者和Calvino的生成文学机器的思想结合起来，揭示了从这两者等同到将心理学谓词归因于社交人工智能中错误的功能主义诱惑，而社交人工智能缺乏构建故事交际和人类（相互）行为认知的基本自我进化能力，这种心理学谓词的归因可能是有道理的，但其路径存在于生与死之间，而非在情感工具和文学机器之间的近似情感。
发现论文，激发创造
  • 不欺骗图灵测试：朝向人工智能的基于实证的语言学习

    研究自然语言理解在人工智能领域的挑战，结合认知科学、 心理学、思维哲学和认知语言学的见解，评估目前的方法和挑战。

    Jun, 2022

  • AI大语言模型理解问题之争

    研究人工智能中对大规模预训练语言模型是否在任何重要意义上可以称为“理解”语言，以及对应的关键问题和新的智能领域的发展。提出一种新的智能科学来提供关于知识的不同模式，以及它们的优势和限制，以及融合不同形式认知的挑战的见解。

    Oct, 2022

  • 论大型语言模型

    本文旨在提倡对大型语言模型及其相关系统的实际工作进行重新审视，追求更高的科学精度以引领关于人工智能的哲学探索和公众话语。

    Dec, 2022

  • 结构类似语言模型：将人工智能作为自动化主体进行分析

    本文基于精神分析学和批判性媒体研究的资源，将大型语言模型（LLMs）作为自动化主体进行分析，并通过这种方式对AI行为进行分析，包括其对偏见和伤害的产生。我们介绍了语言模型的重要性和风险，并通过与OpenAI的 InstructGPT 进行探索性访谈来作为案例研究。我们的研究发现，这些自动化的语言产生可以引起人的注意，产生进一步的反移情转移。因此，我们得出结论，批判性媒体方法和精神分析理论共同为我们理解由 AI 驱动的语言系统新的强大智能提供了一种有益的视角。

    Dec, 2022

  • 关于意义计算、语言模型与难以理解的恐怖

    本文将意义基础理论与 AGI 的数学形式结合起来，旨在提供一种全面的有关意义、交流和符号出现的机制性解释。此次综合研究在 AGI 和关于语言本质的更广泛辩论中具有重要意义，它将语用学、逻辑真值条件语义学、Peircean 符号学和赋能认知的可计算模型统一起来，涉及传统上难以进行机制性解释的现象。通过考察一台机器生成有意义话语或理解人类意义的条件，我们确定了目前的语言模型并不具有与人类相同的意义理解，也不打算表达任何我们可以归于它们响应的意义。为了解决这个问题，我们提出了模拟人类情感和优化模型以构建弱表示的解决方案。我们的发现揭示了意义和智能之间的关系，并探讨了如何构建能够理解和表达意义的机器。

    Apr, 2023

  • 博尔赫斯与人工智能

    通过Jorge Luis Borges的想象，把对LLMs和AI的理解从科幻小说的意象中解放出来，提供了一种新的视角来阐明语言建模和人工智能之间的关系。

    Sep, 2023

  • 大型语言模型的全面情境心智景观

    大型语言模型（LLMs）在理论心理学的出现上引起了极大的兴趣和争议。我们通过心理学研究将机器的心理模拟（machine ToM）分为七个类别，并提出了一种更全面的评估方法，通过将LLMs放置在具体环境中进行评估，来避免捷径和数据泄露的风险。希望这篇观点论文能促进未来研究将机器ToM与LLMs结合起来，并为研究人员更好地定位自己的工作在ToM领域中提供一个直观的方式。

    Oct, 2023

  • 模拟卡拉是有意识的异国情调

    通过引用维特根斯坦的后期著作，本文试图解决对话代理人是否具有意识的问题，同时避免二元思维的陷阱。

    Feb, 2024

  • 转换机构——关于大型语言模型存在方式的研究

    研究了大型语言模型（LLMs）的本体学特征，将 ChatGPT 划分为互动者或语言自动机，具备真实对话体验，但缺乏自主代理能力。

    Jul, 2024

  • ChatGPT 有思维吗?

    这篇论文探讨了大型语言模型（LLMs）如ChatGPT是否具有思维，特别关注它们是否拥有包括信念、欲望和意图在内的真实民间心理。我们通过调查内部表征和行为倾向这两个关键方面来探讨这个问题。首先，我们调查了各种哲学理论，包括信息论、因果论、结构论和目的论账户，认为LLMs满足每个账户提出的关键条件。我们利用机器学习中的最新可解释性研究来支持这些主张。其次，我们探讨LLMs是否展示了执行行为的坚实倾向，这是民间心理的一个必要组成部分。我们考虑了两个著名的哲学传统，即解释主义和表征主义，以评估LLM的行为倾向。虽然我们发现有证据表明LLMs在某些标准下可能具备思维的特征，特别是在博弈论环境中，但我们得出的结论是，数据仍然不具有说服力。此外，我们回答了对LLM民间心理的几个怀疑挑战，包括感知基础、“随机鹦鹉”论证以及对记忆的担忧等。我们的论文有三个主要观点。第一，LLMs确实具有坚实的内部表征。第二，是否LLMs具有坚实的行为倾向还有一个未解答的问题。第三，对LLM表征的现有怀疑挑战在哲学上经不起推敲。

    Jun, 2024