EMNLPApr, 2020

语言产生的内部和外部压力：最小化努力、对象恒常性和频率

PDF
TL;DR本文提出几种对人工代理人进行沟通的现实压力，经过广泛的分析表明，这种压力导致出现了具有较少冗余，更多关注于高级概念信息和更好的泛化能力的新兴语言，从而缩小了新兴语言和自然语言之间的差距。
发现论文，激发创造
  • 内在动机的组合语言生成

    本篇论文提出一种内在奖励框架，通过强化学习设置两个代理，以在三个不同的指称游戏环境下将有限通道容量与内在奖励相结合，提高新颖环境下组合性得分约 1.5-2 倍。

    Dec, 2020

  • 新兴通讯的易教性和语言结构

    人工智能代理器被证明在完成合作任务时可以学习交流，发现在学习的通信协议中存在某种语言结构（例如组合性），这种结构通常是训练过程中特定环境压力的结果。通过定期引入新的代理器来替换旧的，我们探索了一种新的压力 —— 教学的便捷性，并展示了其对结果语言结构的影响。

    Jun, 2019

  • 使用符号和像素输入的指称博弈中的语言交流的出现

    研究算法在学习语言进化中起到的作用，通过深度学习方法和 RL 神经网络代理进行了提高，并开发出代理能够从原始像素数据中学习的能力，研究表明输入数据中的结构程度影响出现的协议的性质，并证实当代理感知到世界的结构时，结构化的组合性语言很可能会出现。

    Apr, 2018

  • 使用内在动机的组合新兴协议进行零样本泛化

    本研究旨在使用好奇心作为反馈机制，诱导一种系统性和明确的语言协议，展示如何利用组合性不仅能让人工智能代理与未见过的对象交互，而且能在零样本场景下从一项任务中转移技能到另一项任务中。

    May, 2021

  • 语言模型中的紧迫沟通与学习压力：语言演化透视

    通过对自发交流模型的文献综述，我们确定了塑造语言模型的关键压力：交流成功、效率、易学性和其他心理 / 社会语言因素，并认为这可以为语言习得和语言演化研究的语言模型设计提供启示。

    Mar, 2024

  • 注重信息，忽略不重要的：指称游戏中的沟通策略

    本文研究了多代理协作，发现当人工智能代理学习玩简单参考游戏的同时，也能够建立共享的词汇表。通过分析神经网络代理在简单的参考游戏中使用符号进行对象映射的策略，发现对于非均匀分布的环境，代理人将忽略无用特征并更好地利用其他特征进行通信，这为语言的形成提供了新的启示。

    Nov, 2019

  • 多智能体通讯游戏中的紧急语言现象

    本文提出了使用深度强化学习进行训练的带有通信能力的智能体在同时进行一系列指称游戏的计算框架，证明了框架反映了自然语言中观察到的语言现象，即语言演化的复杂属性可以不依赖于复杂的语言能力而是可以从视觉感知智能体之间的简单社交交流中产生。

    Jan, 2019

  • 新兴语言中的组合性和通用性

    本文研究深度多智能体模拟中涌现的语言是否具有类似于人类语言组合性的能力，通过分离表示学习中的受启发的新的衡量组合性的方法建立了三个主要结果：在有足够的输入空间的情况下，新概念的组合性将自然而然地产生；组合性的程度与语言的泛化能力无关；虽然组合性对于泛化来说不是必要的，但对于语言传递来说提供了优势。

    Apr, 2020

  • 紧凑语言中的熵最小化

    研究神经代理在通讯任务中共同训练时出现的语言，并聚焦于两个代理一次交流的基本设置，发现这类语言呈现出信息论复杂性且受到熵极小化压力的影响。

    May, 2019

  • 工具小姐和水果先生：智能体对物体可供性学习中的紧急交流

    从人的语言进化角度出发，研究深度网络代理在共同任务中的交流方式，发现当存在自然物体特征和参与者之间存在全对称关系时，代理可以通过真正的双边引用通信解决共同任务，但代理之间会有多重表达方式，导致全对称并不足以促使共同语言的形成。

    May, 2019