Nov, 2023

基于规则推理的紧急通信

PDF
TL;DR现有关于基于深度学习代理之间紧急通信的研究受到广泛关注，因为它对语言学和人工智能有启发作用。本研究提出了一个认知导向的环境 —— 推理游戏，鼓励代理人进行高层次规则的推理和沟通，而不是感知低层次环境。实验结果表明，在推理游戏中，出现了一个语义稳定且组合性强的语言来解决推理问题。这种演化的语言帮助代理人将提取的规则应用到看不见的环境属性的推广中，以及不同环境属性甚至任务之间的迁移。
emergent communicationdeep-learning-based agentsreasoning gamecognition-oriented environmentsemantically stable language
发现论文，激发创造
  • 泛化基于 emergent 原理的通信

    研究将最近开发的 BabyAI 网格世界平台转变为发送者 / 接收者设置，以测试深层强化学习技术是否足以激励建立通用代理之间的基于地面的离散通信协议的假设。结果表明，适当的环境激励确实可以避免测量或特殊归纳偏差的情况，而且更长的通信间隔激励了更抽象的语义。一些情况下，通讯代理比一个单一的代理更快地适应了新环境，展示了新兴通信对于迁移学习和泛化的潜力。

    Jan, 2020

  • 通过协商实现的新兴沟通

    通过研究 negotiation environment 中不同类型 agent 之间的交互过程，以及不同类型 agent 是否会进行 cheap talk，作者探讨了 cooperation 在语言产生中的必要性问题。

    Apr, 2018

  • 多智能体通讯游戏中的紧急语言现象

    本文提出了使用深度强化学习进行训练的带有通信能力的智能体在同时进行一系列指称游戏的计算框架，证明了框架反映了自然语言中观察到的语言现象，即语言演化的复杂属性可以不依赖于复杂的语言能力而是可以从视觉感知智能体之间的简单社交交流中产生。

    Jan, 2019

  • 内在动机的组合语言生成

    本篇论文提出一种内在奖励框架，通过强化学习设置两个代理，以在三个不同的指称游戏环境下将有限通道容量与内在奖励相结合，提高新颖环境下组合性得分约 1.5-2 倍。

    Dec, 2020

  • 关于新兴沟通在多智能体强化学习中的社会学习作用

    本文提出了一种基于信息瓶颈的无监督方法，用于探索非常稀疏的多智能体增强学习中的社交通信情境，该方法可以捕捉引用复杂性和任务特定效用，并开发出一种自然语言灵感的信息组成的词汇表，该词汇表独立于一组紧急概念，使其具有极小的位数，同时可以使用社交影子的观测构成，并通过社交影子来学习通信策略。

    Feb, 2023

  • 使用符号和像素输入的指称博弈中的语言交流的出现

    研究算法在学习语言进化中起到的作用，通过深度学习方法和 RL 神经网络代理进行了提高，并开发出代理能够从原始像素数据中学习的能力，研究表明输入数据中的结构程度影响出现的协议的性质，并证实当代理感知到世界的结构时，结构化的组合性语言很可能会出现。

    Apr, 2018

  • 深度学习时代的紧急多智能体交流

    研究表明，随着深度人工网络的感知、移动和规划能力的增强，研究人员正在研究它们是否也能发展出共享语言来相互交互，并探讨语言在深度代理人群体中演化及紧急特性的条件，这既有助于理解人类语言进化的过程，也可以让深度网络在日常生活中更加灵活和有用。本文概述了各角度最具代表性的语言演化研究。

    Jun, 2020

  • 竞争中的紧急沟通

    在现代机器学习中，标准强化学习算法在学习竞争代理之间的通信方面表现出仅有的负面结果。我们引入了一种改进的发送者 - 接收者游戏来研究部分竞争场景的光谱，并展示了通信确实可以在竞争环境中出现。我们通过实验证明了以下三个关键的研究成果。首先，我们表明通信与合作成正比例，并且可以使用标准学习算法在部分竞争的场景中发生。其次，我们强调了通信和操纵之间的区别，并将以前的通信度量扩展到了竞争的情况下。第三，我们研究了协商游戏，在此之前的研究未能学习到独立代理之间的通信（Cao et al.，2018）。我们证明，在这种情况下，两个代理都必须受益于通信才能出现；通过对游戏进行轻微修改，我们展示了竞争代理之间成功通信的情况。我们希望这项工作能推翻误解并激发更多的竞争性新兴通信方面的研究。

    Jan, 2021

  • 基于深度学习的紧急通信应用综述

    研究纸全面审视了紧急交流研究在机器学习、自然语言处理、语言学和认知科学等领域的应用，并陈述了紧急交流在解决各应用中的独特角色、现有文献的总结以及近期研究方向的简要建议。

    Jul, 2024

  • 具有连贯言者的交互世界中的交流出现

    本文提出了一种新的模型和训练算法，在以原始像素为输入的环境中，利用学习到的表征空间的结构产生更一致的发言者，稳定学习，并提出了一种用于度量文本独立性的新型基于对齐的指标，相比策略梯度和其他竞争基线，我们的算法在通信效果方面有了大幅提升。

    Sep, 2018