关于新兴神经通信中组合性和模仿之间的关系
本文研究了语言中的复合性在普遍性和人类认知中的作用,并通过两个代理人之间的沟通博弈,证明了当在适当的数据集上进行评估时,复合性确实似乎对成功的泛化至关重要。
Jun, 2022
通过提出神经迭代学习算法 (NIL),促进交互神经网络代理人创建一种更为结构化的语言,由于这种基于组合性的语言的学习速度优势及泛化性能的提升,在推理和传输方面有着重要意义。
Feb, 2020
本文研究深度多智能体模拟中涌现的语言是否具有类似于人类语言组合性的能力,通过分离表示学习中的受启发的新的衡量组合性的方法建立了三个主要结果:在有足够的输入空间的情况下,新概念的组合性将自然而然地产生;组合性的程度与语言的泛化能力无关;虽然组合性对于泛化来说不是必要的,但对于语言传递来说提供了优势。
Apr, 2020
本文探讨了关于 emergent communication 和 language origins 中 compositionality 和 reflexivity 的不同标准,指出了在未来的研究中注重 reflexivity 而非 compositionality 的重要性,并提供了一些有用的参考文献。
Nov, 2019
本篇论文提出一种内在奖励框架,通过强化学习设置两个代理,以在三个不同的指称游戏环境下将有限通道容量与内在奖励相结合,提高新颖环境下组合性得分约 1.5-2 倍。
Dec, 2020
人工智能中的大型语言模型和深度神经网络通过学习组合性处理和元学习的方式,展示了复杂的认知行为,为人类认知研究提供了新的视角和可能性。
May, 2024
探讨了人类和神经网络代理之间新兴通信协议的三个重要现象,包括学习容易性、泛化和群体规模影响,强调了认知和交际限制对语言结构的影响,在神经仿真中引入此类限制将促进更语言上可信的行为。
Apr, 2022
通过基于自由能原理的预测编码和主动推理框架,将视觉、本体感知和语言集成到一个受脑启发的神经网络模型中,通过多种模拟实验及机械臂的测试,研究表明,在增加任务组合的变异性时,对于学习未知的动词 - 名词组合的泛化能力得到了显著提升,这归因于语言潜在状态空间中的自组织组合结构被感觉运动学习显著影响,视觉注意和工作记忆对于准确生成视动序列以实现语言表示目标具有重要作用,这些结果推进了我们对通过语言和感觉运动经验相互作用发展组合性机制的理解。
Mar, 2024
本文针对自然语言和应用语言学习中需要考虑的多种要素进行分析,重点关注神经网络的容量以及传输渠道的带宽对于学习组合性语言的影响,并且提出一种新的评估度量,以此探索神经网络的能力范围并促进系统化的广义化。
Oct, 2019