ICLRApr, 2018

使用符号和像素输入的指称博弈中的语言交流的出现

PDF
TL;DR研究算法在学习语言进化中起到的作用，通过深度学习方法和 RL 神经网络代理进行了提高，并开发出代理能够从原始像素数据中学习的能力，研究表明输入数据中的结构程度影响出现的协议的性质，并证实当代理感知到世界的结构时，结构化的组合性语言很可能会出现。
发现论文，激发创造
  • 多智能体游戏中语言的出现：学习使用符号序列进行沟通

    通过玩转指代博弈，研究者们发现使用可微分方式（ST Gumbel-softmax estimator）的强化学习方法能够有效地解决学习沟通的问题，从而使得交互遵循自然语言的组成性和可变性。

    May, 2017

  • 智能体视角下的视觉表征：一种新兴语言游戏研究

    探究 Lazaridou 等人（2017）的指称游戏中，代理人在相互作用过程中建立起的视觉表示，结果发现代理人成功建立沟通是通过引导几乎完全一致的视觉表示来实现的，但却没有捕捉到输入图像所描述的概念特性，因此我们应该更关注代理人将其使用的符号关联的视觉语义，才能更好地开发出类似于语言的沟通系统。

    Aug, 2018

  • 多智能体通讯游戏中的紧急语言现象

    本文提出了使用深度强化学习进行训练的带有通信能力的智能体在同时进行一系列指称游戏的计算框架，证明了框架反映了自然语言中观察到的语言现象，即语言演化的复杂属性可以不依赖于复杂的语言能力而是可以从视觉感知智能体之间的简单社交交流中产生。

    Jan, 2019

  • 内在动机的组合语言生成

    本篇论文提出一种内在奖励框架，通过强化学习设置两个代理，以在三个不同的指称游戏环境下将有限通道容量与内在奖励相结合，提高新颖环境下组合性得分约 1.5-2 倍。

    Dec, 2020

  • 多智能体协作促进书写系统的出现

    本文研究了两个智能体通过协作游戏学习建立一种书写语言系统，通过统一的一致性评估规则实现协同沟通。

    Oct, 2019

  • 具有连贯言者的交互世界中的交流出现

    本文提出了一种新的模型和训练算法，在以原始像素为输入的环境中，利用学习到的表征空间的结构产生更一致的发言者，稳定学习，并提出了一种用于度量文本独立性的新型基于对齐的指标，相比策略梯度和其他竞争基线，我们的算法在通信效果方面有了大幅提升。

    Sep, 2018

  • 多智能体合作与（自然）语言的出现

    本文提出了一种基于多智能体交互通信的语言学习框架，在指代游戏的上下文中研究了这种学习方法，通过联系人工智能代理人彼此通信以识别随机图像，在通过调整游戏环境来提高代理人交流的自适应语言结构，并为代理人的代码提出简单的系统，从而使其更好地恰当地通信，并能更有效地与人类沟通。

    Dec, 2016

  • 深度繁衍传输下的组合语言出现

    本研究介绍了将文化演化动态引入语言出现过程中，通过定期更换人群中的代理以创建知识差距来提高语言的组成通用性。

    Apr, 2019

  • 指涉游戏中语言和智能体的共同演化

    通过模拟代理人群体的文化和架构演进，研究发现，当语言习得者的学习偏好被考虑在内时，语言和代理人的共同进化可以得到最优解，这一发现强调了研究代理人架构的重要性，并为语言的起源研究铺平了道路。

    Jan, 2020

  • 基于深度学习的紧急通信应用综述

    研究纸全面审视了紧急交流研究在机器学习、自然语言处理、语言学和认知科学等领域的应用，并陈述了紧急交流在解决各应用中的独特角色、现有文献的总结以及近期研究方向的简要建议。

    Jul, 2024