language emergence | BriefGPT

关键词language emergence

搜索结果 - 12

深度学习下的语言演变
计算建模对于语言的产生起着重要作用，通过模拟真实环境中可能引发结构化语言产生的条件和学习过程。本文探讨了一类最近在机器学习领域引起革命的计算模型：深度学习模型。章节介绍了深度学习和强化学习方法的基本概念，并总结了它们在模拟语言产生方面的帮助
PDF4 months ago
ACL关于新兴神经通信中组合性和模仿之间的关系
研究了深度神经网络智能体在 Lewis 游戏中的模仿学习行为，发现了组合性与模仿学习之间的关系，带来了两个贡献：一是不同类型的学习算法对语言的影响，二是发现组合性语言的易于模仿性
PDFa year ago
Lewis 博弈中的紧急交流：概括与过拟合
本文研究了 Lewis 信号博弈学习的问题，发现其标准目标可以分解为两个部分：协作损失和信息损失，进而揭示了其过拟合的两个潜在源（协作损失过度匹配和信息损失过拟合），并且控制了协作损失的过拟合，从而恢复出期望的属性，使得新兴语言更加结构化和
PDF2 years ago
ICLR通过语料库迁移将新兴语言和自然语言链接起来
本研究提出使用预训练在不同语言上的涌现语料库来解决语言涌现问题并在模拟自然语言下游任务的效果，评估不同指标识别涌现语言的可转移性。
PDF2 years ago
ICLR连接主义网络中的偶然遗忘
本文提出了遗忘与重新学习（forget-and-relearn）是一个有利于神经网络学习的新型方法，通过不断遗忘不必要的信息并强化对不同条件下有用的特征，来塑造模型的学习轨迹。其思想融合了图像分类和语言涌现领域的众多迭代训练算法，并通过遗忘
PDF2 years ago
ICLR通过连续声学通道实现多智能体通信，学会说话和听话
通过使用深度 Q 学习，研究了多智能体强化学习在具有连续通信通道时的应用，发现基本组合特性会在学习的语言表示中出现。噪声在传达未经历过的概念组合时很重要，引入有倾向性的护理者可以使得新的交流创造出一种更有意义的基础语言。这个研究为深度强化学
PDF3 years ago
MMReferentialGym: 一种命名及框架用于语言演化和（视觉）指代游戏中的基础
该论文提出了一种理解研究语言演变和基础的主要方法的词汇表，并引入了基于 PyTorch 的深度学习框架 ReferentialGym，旨在通过提供基准实现、算法和度量标准，简化领域入门难度并提供常见实现。
PDF4 years ago
深度学习时代的紧急多智能体交流
研究表明，随着深度人工网络的感知、移动和规划能力的增强，研究人员正在研究它们是否也能发展出共享语言来相互交互，并探讨语言在深度代理人群体中演化及紧急特性的条件，这既有助于理解人类语言进化的过程，也可以让深度网络在日常生活中更加灵活和有用。本
PDF4 years ago
ACL关于离散和组合信号的自发出现
本文提出了一种基于信号博弈和神经代理的语言产生的通用框架，通过采用连续潜空间，我们能够使用反向传播训练，展示离散信息的自然出现，探讨分类感知效应的跟进，并表明这些信息不是组成式的。
PDF4 years ago
EMNLPEGG：游戏中语言演化研究工具包
本研究介绍了 EGG 工具箱，旨在简化模拟基于深度神经代理的语言演化游戏的实现。EGG 的模块化设计提供了一组构建模块，用户可以组合使用，轻松地浏览优化和架构空间。
PDF5 years ago
深度繁衍传输下的组合语言出现
本研究介绍了将文化演化动态引入语言出现过程中，通过定期更换人群中的代理以创建知识差距来提高语言的组成通用性。
PDF5 years ago
EMNLP多智体对话中自然语言并非 ' 自然 ' 出现
通过 “任务 & 告诉” 游戏，本文证明了虽然大多数机器发明的语言是有效的，但它们并不可解释或复合。由此发现自然语言并不会自然产生，为了达到人类一样的语言理解，需要增加通信的限制。
PDF7 years ago