本文探讨了关于 emergent communication 和 language origins 中 compositionality 和 reflexivity 的不同标准,指出了在未来的研究中注重 reflexivity 而非 compositionality 的重要性,并提供了一些有用的参考文献。
Nov, 2019
本文研究深度多智能体模拟中涌现的语言是否具有类似于人类语言组合性的能力,通过分离表示学习中的受启发的新的衡量组合性的方法建立了三个主要结果:在有足够的输入空间的情况下,新概念的组合性将自然而然地产生;组合性的程度与语言的泛化能力无关;虽然组合性对于泛化来说不是必要的,但对于语言传递来说提供了优势。
Apr, 2020
本篇论文提出一种内在奖励框架,通过强化学习设置两个代理,以在三个不同的指称游戏环境下将有限通道容量与内在奖励相结合,提高新颖环境下组合性得分约 1.5-2 倍。
Dec, 2020
探讨了人类和神经网络代理之间新兴通信协议的三个重要现象,包括学习容易性、泛化和群体规模影响,强调了认知和交际限制对语言结构的影响,在神经仿真中引入此类限制将促进更语言上可信的行为。
Apr, 2022
本文研究了语言中的复合性在普遍性和人类认知中的作用,并通过两个代理人之间的沟通博弈,证明了当在适当的数据集上进行评估时,复合性确实似乎对成功的泛化至关重要。
Jun, 2022
本研究旨在使用好奇心作为反馈机制,诱导一种系统性和明确的语言协议,展示如何利用组合性不仅能让人工智能代理与未见过的对象交互,而且能在零样本场景下从一项任务中转移技能到另一项任务中。
May, 2021
研究了深度神经网络智能体在 Lewis 游戏中的模仿学习行为, 发现了组合性与模仿学习之间的关系, 带来了两个贡献:一是不同类型的学习算法对语言的影响, 二是发现组合性语言的易于模仿性
May, 2023
本研究提出了一种使用模板转移的训练方法,以实现多智能体系统中的紧急组成通信,此方法不需要在智能体的架构上强加归纳偏见,并通过拓扑相似度、零 - shot 泛化和上下文独立进行了实验验证,该方法支持了一个假设:组成性通信基于较简单通信协议。
Oct, 2019
本文考察了新兴交流领域的复杂性的度量标准,并实验显示大部分标准未能探测到复杂组合的存在。其中,唯一的例外是 Tree 重建误差这一度量标准,它强调了异构信号和组件意义之间的区别。这些结果强调了新兴通讯研究的重要限制,可能会阻碍对 NTC 的建模进展。
Oct, 2020
本文针对自然语言和应用语言学习中需要考虑的多种要素进行分析,重点关注神经网络的容量以及传输渠道的带宽对于学习组合性语言的影响,并且提出一种新的评估度量,以此探索神经网络的能力范围并促进系统化的广义化。