Mar, 2022

深度学习方法在心智理论方面的挑战

PDF
TL;DR本文介绍了深度学习方法在推理他人心理状态方面的潜力、现有进展和问题，并强调当前研究的局限性和提出的解决方案。研究者应探索理论思维在复杂开放式环境中的研究，并使用人类的先前工作对深度学习系统进行成功的激励。在进行深度学习的理论思维方面的研究时，研究的重点和贡献应该是打开网络的表示。因此，我们建议研究者使用 AI 可解释性领域的工具，以研究不同网络组件和理论思维的方面之间的关系。
发现论文，激发创造
  • 机器心智理论综述

    本文综述了近年来关于机器 Theory of Mind（ToM）在信仰、欲望和意图方面的进展，概括了不同任务和数据集的发展，并比较了具有优势、局限性和适用条件的模型。我们认为，提出标准的评估标准和数据集，特别是覆盖了 ToM 多个方面的大规模数据集，是解决这种困难的方法之一。

    Mar, 2023

  • 机器心智理论

    通过设计 Theory of Mind （ToM）神经网络，该网络利用元学习从行为观察中建模遇到的智能体，从而学习模拟其他智能体在其世界中的行为，它是发展多智能体 AI 系统、构建机器人与人类交互技术和推进可解释 AI 进步的一个重要步骤。

    Feb, 2018

  • 记忆增强的心智理论网络

    该研究采用新颖的神经记忆机制和分层注意力相结合的方法设计了一个理论心智模型，ToMMY，使其能够快速准确地推断他人的意图、信念与将来的行为，进一步实验证明神经记忆机制可在高难度的虚假信念任务中提高心理理解的准确性。

    Jan, 2023

  • ToMChallenges：探索心理理论的原则导向数据集和多元评估任务

    本研究通过创建 ToMChallenges 数据集以综合评估 Sally-Anne 和 Smarties 测试来测试大型语言模型对理解他人的心理状态的能力，包括现实性、信念、一阶信念和二阶信念，并通过创建适用于每个任务类别的独特提示来为不同任务适应我们的数据，旨在验证模型的 ToM。我们评估了两个 GPT-3.5 模型，text-davinci-003 和 gpt-3.5-turbo-0301，结果表明，在 ToM 任务中保持一致的表现仍然是一个挑战。

    May, 2023

  • 人工智能心智理论：两个人一起跳探索

    探讨了为了使人工智能和人类更有效地团队合作，人类需要了解人工智能的思维方式（称为 ToAIM），并在可视化问题回答视觉问题领域内进行实篇研究，发现虽然解释性 AI 受到了广泛关注，但访问模型内部状态对于预测其行为并不有帮助。

    Apr, 2017

  • 神经心智理论？关于大型语言模型社交智能的限制

    本文从经验和理论角度出发，探究了现代 NLP 系统中的社交智能和心理理论的问题，并使用 SocialIQa 和 ToMi 任务检验了 GPT-3 的社交智能和 Theory of Mind 的能力，结果表明 GPT-3 在这些任务中存在严重的不足，进而考虑从人为中心的 NLP 方法入手可能会更加有效。

    Oct, 2022

  • 具有心智理论的计算语言习得

    本研究为了衡量 Theory of Mind（意念）在语言学习中的影响，在现有 ToM 的版本上，建立了能够融合 ToM 的语言学习代理，并通过实验，证实高度融合 ToM listener 组件的训练，可以在图像指称游戏环境中获得更好的性能，这表明在计算语言习得中进一步结合 ToM 以及儿童语言习得研究的潜在效用。

    Mar, 2023

  • 针对语言模型（缺乏）心智理论的插接式多角色信念追踪器

    本文提出了 SymbolicToM，即一种通过显式符号表示来跟踪阅读理解任务中多个字符的信念状态、其对他字符信念状态估计及更高级别的推理的方法，该方法在 ToMi 基准测试中表现出了显著的理解能力提升。

    Jun, 2023

  • 评估问答中的心智理论

    本研究提出了一个新的数据集，旨在评估问答模型在理解信仰和状态一致性方面的推理能力，评估多个带有记忆增强的神经模型，发现这些模型在需要跟踪世界不一致状态的任务中均失败，而且当试验中引入随机句子时，模型的准确性明显下降。

    Aug, 2018

  • 语言模型中的心智理论可能已自发涌现

    通过对多个语言模型进行人类 “心灵理论” 测试，研究发现自 2020 年发布的 GPT-3 版本以来语言模型在解决伪信念问题上的表现已经逐渐逼近人类的表现水平

    Feb, 2023