Feb, 2024

人工智能的自发心理理论

PDF
TL;DR现有的人工智能（AI）的心灵理论（ToM）方法过多地强调受到提示或刺激的 ToM，这可能限制我们共同发展人工社会智能（ASI）。通过对计算机科学、认知科学及相关学科的研究，我们将受到提示的 ToM 与我们所称的自发的 ToM 进行对比，即在无意识、可能无法控制的认知功能基础上进行他人心灵状态的推理。我们主张在研究和发展 AI ToM 时采用有原则的方法，并建议在应对提示的同时，积极进行社会推理的强大，或通用的 ASI。
发现论文，激发创造
  • 硅心智论

    研究了人工智能在多个环境中具备与人类相似的心智推理能力，包括判断他人的意图、偏好等，并揭示了当其与克隆体进行互动时的现象和差异。

    Mar, 2024

  • 语言模型中的心智理论可能已自发涌现

    通过对多个语言模型进行人类 “心灵理论” 测试，研究发现自 2020 年发布的 GPT-3 版本以来语言模型在解决伪信念问题上的表现已经逐渐逼近人类的表现水平

    Feb, 2023

  • 神经心智理论？关于大型语言模型社交智能的限制

    本文从经验和理论角度出发，探究了现代 NLP 系统中的社交智能和心理理论的问题，并使用 SocialIQa 和 ToMi 任务检验了 GPT-3 的社交智能和 Theory of Mind 的能力，结果表明 GPT-3 在这些任务中存在严重的不足，进而考虑从人为中心的 NLP 方法入手可能会更加有效。

    Oct, 2022

  • 利用心理理论提高多智能体协作

    研究使用贝叶斯心理理论，通过比较具有 ToM 代理和非 ToM 代理的合作玩家的表现，证明 ToM 代理的存在可以显著提高所有类型合作伙伴（包括人类玩家）的合作效率，对于设计更好的合作代理有重要的意义。

    Jul, 2020

  • 记忆增强的心智理论网络

    该研究采用新颖的神经记忆机制和分层注意力相结合的方法设计了一个理论心智模型，ToMMY，使其能够快速准确地推断他人的意图、信念与将来的行为，进一步实验证明神经记忆机制可在高难度的虚假信念任务中提高心理理解的准确性。

    Jan, 2023

  • 具有心智理论的计算语言习得

    本研究为了衡量 Theory of Mind（意念）在语言学习中的影响，在现有 ToM 的版本上，建立了能够融合 ToM 的语言学习代理，并通过实验，证实高度融合 ToM listener 组件的训练，可以在图像指称游戏环境中获得更好的性能，这表明在计算语言习得中进一步结合 ToM 以及儿童语言习得研究的潜在效用。

    Mar, 2023

  • ToM2C: 以心理意图为导向的多智能体通讯与协作

    本文介绍了一种使用心理意识理论建立社交智能代理以有效沟通与合作完成任务的方法，通过观察、推断和接收信息，这些代理可以推断他人的心理状态和意图并决定何时、与谁分享自己的意图，最终在两个典型目标导向的多代理任务中展示了优异的性能。

    Oct, 2021

  • 机器心智理论综述

    本文综述了近年来关于机器 Theory of Mind（ToM）在信仰、欲望和意图方面的进展，概括了不同任务和数据集的发展，并比较了具有优势、局限性和适用条件的模型。我们认为，提出标准的评估标准和数据集，特别是覆盖了 ToM 多个方面的大规模数据集，是解决这种困难的方法之一。

    Mar, 2023

  • 机器心智理论

    通过设计 Theory of Mind （ToM）神经网络，该网络利用元学习从行为观察中建模遇到的智能体，从而学习模拟其他智能体在其世界中的行为，它是发展多智能体 AI 系统、构建机器人与人类交互技术和推进可解释 AI 进步的一个重要步骤。

    Feb, 2018

  • 人工智能心智理论：两个人一起跳探索

    探讨了为了使人工智能和人类更有效地团队合作，人类需要了解人工智能的思维方式（称为 ToAIM），并在可视化问题回答视觉问题领域内进行实篇研究，发现虽然解释性 AI 受到了广泛关注，但访问模型内部状态对于预测其行为并不有帮助。

    Apr, 2017