ACLJun, 2021

SyGNS: 基于自然语言语义的系统化泛化测试平台

PDF
TL;DR通过建立基于自然语义的系统化推导测试平台，本文发现：Transformer 和 GRU 模型能够解析包含量词和否定等逻辑表达的句子，且对形式相似但复杂程度不同的句子表现良好，这表明深度神经网络模型能够捕捉组合意义。
deep neural networkscompositional meaningsnatural language semanticssystematic generalizationquantifiers
发现论文，激发创造
  • 神经符号递归机实现系统化推理

    提出了一种基于 NSR 的神经符号递归机制，通过感知、语法解析和语义推理三个模块的联合学习来实现优越的系统化推广，并通过三个不同领域的基准测试取得了 state-of-the-art 的表现结果。

    Oct, 2022

  • 通过有意义的学习重新审视系统化泛化

    通过对人类意义学习能力的重新审视，本文重新评估语序 - 语序模型在新旧概念之间语义联系的条件下所具有的组合技能，证明了它能够通过语义关联来成功地进行一次性泛化到新概念和组合中，这为更高级的学习方案揭示了现代神经网络在系统概括中的潜力。

    Mar, 2020

  • 神经语言模型中的语法推广的系统评估

    我们对神经语言模型的句法知识进行了系统评估，发现模型架构的不同对句法泛化性能产生了显著影响，而不同数据集大小的影响相对较低。

    May, 2020

  • 通过分离语法和语义，在深度序列到序列模型中实现对组合概括的学习

    本文提出一种基于神经机器翻译的新模型 Syntactic Attention，采用分离语法与语义学习的方式训练，拥有捕捉人类语言组成性结构的能力，相较于标准深度学习方法在具有组成性泛化任务的数据集 SCAN 上表现显著优异。

    Apr, 2019

  • 基于场景语境的系统化概括语言理解基准测试

    本文介绍了一个新的基准测试 gSCAN，用于评估位于语言理解中的组成泛化，在语言描述中使用诸如 “在摩天轮旁边向粉色布朗托蜥蜴问候” 等常见词汇，并将其用于语言理解任务。测试发现，在需要系统的组成规则的情况下，强大的多模态基线模型和最先进的组成方法在大多数情况下都会明显地失败。

    Mar, 2020

  • 神经符号栈机的组合泛化

    通过引入神经符号堆栈机（Neural-Symbolic Stack Machine，NeSS），将神经网络的序列生成能力与符号堆栈机的递归支持相结合，解决了现有深度学习模型存在的组成泛化能力有限的问题。NeSS 在四个领域的测试中均获得了 100% 的组成泛化性能。

    Aug, 2020

  • 通用的神经符号系统用于常识问答

    介绍了如何使用适合的神经符号模型来实现领域泛化和下游任务的鲁棒性，讨论了整合神经语言模型和知识图谱的不同方法，并对各种常识问答基准数据集进行了定量评估和定性错误分析。

    Jan, 2022

  • Syn-QG: 用于问题生成的句法和浅语义规则

    本文提出了 SynQG, 这是一套利用通用依存分析、浅层语义分析、词汇资源和自定义规则的透明句法规则，将陈述句转化为问题 - 回答对，并利用 PropBank 和 VerbNet 等浅层语义内容。实验证明，我们的系统可以生成大量高度语法正确和相关的问题，并且后向翻译可以大大提高语法正确性，但会略微增加生成无关问题的代价。

    Apr, 2020

  • 组合网络实现基于场景的语言理解的系统性泛化

    提出通过遵循组成性原则来训练神经网络解决语言理解的挑战，并通用地应用于多种领域，进而提高机器人的安全性和公平性，所提出的网络能够显着提高自然语言理解能力，且在实现先前工作所不能实现的泛化能力的同时还提供了可解释性的层面。

    Aug, 2020

  • gSCAN 的语言条件嵌入上的系统泛化

    通过动态消息传递学习对象的情境嵌入，我们提出了一种新的方法，以输入的自然语言为条件，并通过端到端深度学习模块进行训练，以实现系统化泛化，该模型在 grounded-SCAN 上达到了最优性能。

    Sep, 2020