CVPRApr, 2023

EC^2: 基于体现控制的紧急通讯

PDF
TL;DR提出了一种名为 EC^2 的新颖方案，用于预训练视频语言表示以进行 few-shot embodied control，通过紧密结合视频细节的语义和自然语言结构的紧密联系，实现了代理在新环境中快速行动的目标。该方法在 Metaworld 和 Franka Kitchen 的实验基准中表现了显着的优势，超过了以前的对比学习方法的表现。此外，对提出的联合建模方法进行了定量和定性分析，并讨论了未来的研究方向。
embodied controlmulti-modal pre-trainingemergent communicationfew-shot learningcontrastive learning
发现论文，激发创造
  • 从面向语言到紧急沟通的知识蒸馏：针对多智能体远程控制

    通过使用预训练的大型语言模型，我们比较了基于多智能体深度强化学习 (MADRL) 的紧急通信 (EC) 和以人类语言为基础的语义通信 (LSC)，在一个多智能体远程导航任务中，使用多模态输入数据，显示了 EC 在使用多模态数据时产生高成本和困难，而 LSC 由于 LLM 的巨大规模造成了高推理计算成本。为了解决各自的瓶颈问题，我们提出了一种通过知识蒸馏 (KD) 引导 EC 训练的语言引导 EC (LEC) 的新框架。模拟结果证实，LEC 在避开信道信号差区域的同时，实现了更快的行程时间，并且相比于 EC 加速了 MADRL 训练收敛速度达 61.8%。

    Jan, 2024

  • 学会交流，学会翻译

    本文中，我们提出并测试了一种使用 Emergent Communication 技术，以先前预训练好的多语言模型来改进现代无监督机器翻译系统的方法，特别是对于语料库数据量很小的语言，我们将现代多语言模型嵌入到了一个以视觉为基础的语言游戏中，并通过一个共同目标的任务去训练模型，证明此方法能够提高翻译表现，特别是对波斯语和僧伽罗语这样语言数据量很小的语言有很大的帮助。

    Jul, 2022

  • 学习翻译：合作语言习得的紧急交流预训练

    在合作语言习得问题（CLAP）中，我们提出并比较了两种方法来解决 CLAP 问题：模仿学习（IL）和基于新生通信的预训练和翻译学习（ECTL），前者是通过自我对弈与 EC 模型训练，然后从数据中学习将新生协议翻译为目标社区协议。

    Feb, 2024

  • 紧急通讯针对少样本机器翻译的预训练

    采用新颖的无监督知识转移方式，在缺乏语言数据时通过基于图像的指称游戏进行神经网络预训练，成功地提高了 few-shot 学习中的机器翻译效果，同时为评估人造语言的性质提供了基于表现的外部评估途径。

    Nov, 2020

  • 通过语料库迁移将新兴语言和自然语言链接起来

    本研究提出使用预训练在不同语言上的涌现语料库来解决语言涌现问题并在模拟自然语言下游任务的效果，评估不同指标识别涌现语言的可转移性。

    Mar, 2022

  • 关于新兴沟通在多智能体强化学习中的社会学习作用

    本文提出了一种基于信息瓶颈的无监督方法，用于探索非常稀疏的多智能体增强学习中的社交通信情境，该方法可以捕捉引用复杂性和任务特定效用，并开发出一种自然语言灵感的信息组成的词汇表，该词汇表独立于一组紧急概念，使其具有极小的位数，同时可以使用社交影子的观测构成，并通过社交影子来学习通信策略。

    Feb, 2023

  • 探索具有体现多智能体的零射击新兴通信

    本研究探讨在多智能体环境中，利用关节执行通信的新型通信模式，解决现有符号通信模式不能够解决的一些问题，提出具体的训练改进方案，实现了对新伙伴的协议推广。

    Oct, 2020

  • 学习推断嵌入信仰的交流

    本研究介绍了一种名为意图嵌入通信（IEC）的新算法，能够模仿多智能体学习语言的能力，并通过耦合进化学习来加快学习速度，并在三种协作场景下表现出比 MADDPG 等基线更优异的性能表现。

    Mar, 2022

  • 多智能体通信中的突现式翻译

    本文提出了一种基于多模态视觉的交互式语言学习模型，无需平行语料库即可实现语言的相互理解和翻译，并表明使用该模型的多语言社区实现了更好和更快的翻译结果。

    Oct, 2017

  • 具有连贯言者的交互世界中的交流出现

    本文提出了一种新的模型和训练算法，在以原始像素为输入的环境中，利用学习到的表征空间的结构产生更一致的发言者，稳定学习，并提出了一种用于度量文本独立性的新型基于对齐的指标，相比策略梯度和其他竞争基线，我们的算法在通信效果方面有了大幅提升。

    Sep, 2018