- 从顺序信息处理的瓶颈中获取语言结构
人类语言是一种独特的自然界沟通方式,其系统性在于信号可以分解为词汇并通过一种规则方式组合成句子,且通过最小化过剩熵的方式实现自然语言一致性,进而达到高效的沟通和信息处理。
- SPOR:数据到文本生成中的组合概括综合评估方法
我们提出了 SPOR 方法,这是一种全面而实用的数据生成评估方法,用于研究语言模型中组合概括的不同表现,并展示了当前语言模型在数据生成方面需要进一步改进的不足之处。
- 视觉参考游戏推进分离表示的产生
本文研究了视觉指代游戏中深度学习中所学习的表示中的解缠,组合性及系统性之间的关系,并提出了一个基于 Obverter 架构的视觉指代游戏实现了更好的解缠表现。同时,作者还拓展了位置解缠和互信息差解缠指标,以更好地区分不同种类的组合语言,并研 - ACL深度神经网络是否捕捉了算术推理中的组合性?
本研究使用多层算术符号推理的受控数据集,系统地检查了最近发布的预训练 seq2seq 模型,旨在探讨最新的神经模型如何捕捉符号推理的组合性。我们引入了一个 “组合性技能树”,定义了组合复杂性的层级水平以及系统性,生产力和可替代性等组合性维度 - EMNLPCTL++:评估已知函数的未见组合模式的泛化能力,以及神经表征的兼容性
介绍了 CTL++ 数据集,其中针对复合一元符号函数进行了系统性神经网络测试并展示了测试结果。
- ICLR使用加强和循环关系推理进行规则发现
本文介绍了 R5,一种基于强化学习的关系推理框架,可以在关系图数据上推理,从观察结果中明确挖掘成分逻辑规则,具有强大的系统性和稳健性,实验结果表明 R5 在关系预测任务中优于各种基于嵌入和规则归纳的基线,并在发现基本事实规则时达到高召回率。
- 深度 NLP 模型的系统性、组合性和传递性:基于形态测试的视角
采用新的形变关系的变异测试方法检测了神经 NLP 模型的稳健性,测试了系统性、组合性和传递性等多个语言属性,并证明了这些模型并不总是按照预期行为。
- ACL优化语言模型的目标语法评估
通过手工创建的最小句对,Targeted syntactic evaluation of subject-verb number agreement in English (TSE) 评估语言模型的句法知识,方法可以评估语言模型是否将每个语 - ACL探究语言系统性
本文讨论深度自然语言理解模型的系统性问题,通过在自然语言推理(NLI)中进行一系列实验,证明了一些 NLU 系统虽然不具备系统性,但仍能够达到高的整体表现。
- 神经机器翻译中的组合性
本研究探讨了神经机器翻译中组合性的两个具体表现:生产力和系统性,并通过一种简单的预训练机制减轻了编码器的表示不足而显著提高了 BLEU 分数。
- EMNLPCLUTRR: 基于文本归纳推理的诊断基准测试
本研究通过引入名为 CLUTRR 的诊断基准套件,研究了自然语言理解系统的鲁棒性和系统性等关键问题,基于归纳逻辑编程的经典工作,要求 NLU 系统推断短故事中人物之间的亲属关系,通过添加嘈杂的事实并评估模型的保真度,以及在保留逻辑规则的组合 - ACL从含义到形式:将系统性视为信息的衡量方式
本研究探讨符号学中的语言符号与其语义之间的关系,使用互信息和循环神经网络量化了符号的系统性,并在 106 种语言中进行了数据驱动和大规模的研究,结果表明,在表征有语义的单词形式时,熵有显著的降低,但是系统性和任意性间存在平衡关系。
- ICML无系统性泛化:关于序列到序列递归网络的组成技能
该论文介绍了 SCAN 领域,并使用序列到序列的方法对各种复发神经网络进行零样本泛化能力的测试。研究发现,当训练和测试指令之间的差异很小时,RNN 可以成功进行零样本泛化,但是当泛化需要系统的组合能力时,RNN 则失败了。研究结论显示,缺乏