ICLRMar, 2023

具有心智理论的计算语言习得

PDF
TL;DR本研究为了衡量 Theory of Mind（意念）在语言学习中的影响，在现有 ToM 的版本上，建立了能够融合 ToM 的语言学习代理，并通过实验，证实高度融合 ToM listener 组件的训练，可以在图像指称游戏环境中获得更好的性能，这表明在计算语言习得中进一步结合 ToM 以及儿童语言习得研究的潜在效用。
发现论文，激发创造
  • 机器心智理论

    通过设计 Theory of Mind （ToM）神经网络，该网络利用元学习从行为观察中建模遇到的智能体，从而学习模拟其他智能体在其世界中的行为，它是发展多智能体 AI 系统、构建机器人与人类交互技术和推进可解释 AI 进步的一个重要步骤。

    Feb, 2018

  • ToM2C: 以心理意图为导向的多智能体通讯与协作

    本文介绍了一种使用心理意识理论建立社交智能代理以有效沟通与合作完成任务的方法，通过观察、推断和接收信息，这些代理可以推断他人的心理状态和意图并决定何时、与谁分享自己的意图，最终在两个典型目标导向的多代理任务中展示了优异的性能。

    Oct, 2021

  • 针对语言模型（缺乏）心智理论的插接式多角色信念追踪器

    本文提出了 SymbolicToM，即一种通过显式符号表示来跟踪阅读理解任务中多个字符的信念状态、其对他字符信念状态估计及更高级别的推理的方法，该方法在 ToMi 基准测试中表现出了显著的理解能力提升。

    Jun, 2023

  • 大型语言模型中的心智理论：考察 11 种当前最先进模型与 7-10 岁儿童在高难度测试上的表现

    我们通过测试 11 种基于基础模型和指令调整模型的能力来探讨大型语言模型（LLMs）在理解意图和信念（即心智理论）等认知能力方面的程度。我们发现，GPT 系列的调整模型表现优于其他模型和儿童。基础模型大多无法解决心智理论任务，即使有专门的提示。我们认为，语言和心智理论的互相关联可能解释了指令调整模型的增加：奖励考虑到对话者和语境的合作性交流。最后，我们呼吁在 LLMs 中对心智理论保持一个细致的观点。

    Oct, 2023

  • 机器心智理论综述

    本文综述了近年来关于机器 Theory of Mind（ToM）在信仰、欲望和意图方面的进展，概括了不同任务和数据集的发展，并比较了具有优势、局限性和适用条件的模型。我们认为，提出标准的评估标准和数据集，特别是覆盖了 ToM 多个方面的大规模数据集，是解决这种困难的方法之一。

    Mar, 2023

  • 语言模型中的心智理论可能已自发涌现

    通过对多个语言模型进行人类 “心灵理论” 测试，研究发现自 2020 年发布的 GPT-3 版本以来语言模型在解决伪信念问题上的表现已经逐渐逼近人类的表现水平

    Feb, 2023

  • 语言模型表达自我和他人的信念

    通过神经激活语言模型，线性解码不同代理人的信念状态，发现其内部包含了自我和他人信念的表征，这些表征对社会推理过程具有关键作用，同时在不同因果推理模式的多种社会推理任务中表现出潜在的泛化能力。

    Feb, 2024

  • 再三思考：透视改善大型语言模型的心理理论能力

    通过仿真理论的视角引导框架 SimToM，在 Theory of Mind (ToM) 的背景下，改进了大型语言模型（LLMs）的推理能力，无需额外训练和大量提示微调，从而实现了对 ToM 能力的显著提升。

    Nov, 2023

  • 通过建模心理理论实现少样本语言协调

    该研究探讨了几颗子任务的语言协调，通过群体与不同的语言能力代理进行快速交流，提出了使用 ToM 建立代理人之间交流的重要性，实验表明使用 ToM 建立指令可以更好地执行交流任务。

    Jul, 2021

  • 硅心智论

    研究了人工智能在多个环境中具备与人类相似的心智推理能力，包括判断他人的意图、偏好等，并揭示了当其与克隆体进行互动时的现象和差异。

    Mar, 2024