Mar, 2017

结构化句法树嵌入在机器理解中的应用

PDF
TL;DR本篇论文提出了一种基于结构嵌入的句法树算法框架 (SEST)，利用句法树结构信息编码为向量表示，以增强机器阅读理解算法的性能。实验结果表明，该模型能够准确地识别句子的句法边界，并比基线算法更准确地提取句法连贯的答案。
deep neural networksmachine comprehensionstructured linguistic informationsyntactic treesvector representations
发现论文，激发创造
  • 用于改进情感分析的结构化注意力神经网络

    本文提出了一种基于树形结构的注意力神经网络模型，用于情感分类问题。该模型使用自下向上和自上而下的信息传播结合语法树中节点周围的结构信息。模型在构建句法树时，利用结构注意力识别最显著的表示。实验结果表明，该模型在斯坦福情感树库数据集上实现了最先进的性能表现。

    Jan, 2017

  • 句法表示有用 [MASK]：递归 LSTMs 中成分和依存结构的影响

    研究基于序列的神经网络与基于树的网络在句法任务上的表现，并比较常见的句法表示方法对句法结构带来的影响，同时发现基于组成结构的网络更具鲁棒性，通过少量构建的数据 fine-tune 可以显着提高序列模型的性能，表明数据增强是为序列模型注入句法偏置的可行替代方案。

    Apr, 2020

  • 使用注意力递归树嵌入句子的学习

    本文提出了一种新的 Attentive Recursive Tree 模型，它可以根据任务动态地定位一个句子中的重要单词，在底向上进行句子嵌入的组成时，AR-Tree 可以内在地强调重要单词。通过一种端到端的加强训练策略，该模型在三个句子理解任务上表现出色。

    Nov, 2018

  • 听觉中大脑的句法结构处理

    本文从语法分析的角度出发，通过探索不同的句法分析方法和语法特征对大脑语言网络的影响，以及与语义信息的关系，研究了其对大脑活动的预测能力，发现不同的语法分析方法在大脑不同区域的编码效果不同，而语法信息和语义信息的结合能够更好地预测大脑活动。

    Feb, 2023

  • 基于自顶向下树形解码与句法连接的神经机器翻译与句法分析

    本文提出了一种基于 DRNN 的序列到树的 NMT 模型 (称为 Seq2DRNN)，该模型在树结构解码中结合了序列编码器和句法感知机制，并使用语法结构信息从而能够生成更流畅的翻译结果，同时可以进行成分句法分析。

    Sep, 2018

  • 利用无监督树形 LSTMs 联合学习句子嵌入和句法

    该论文介绍了一种利用二进制语法树和 Tree-LSTM 组成的神经网络，可在自然语言图表解析器的帮助下同时优化组成函数和解析器，进而实现无监督的树形 RNN，并在文本蕴涵任务和反向字典任务中表现优越。

    May, 2017

  • 文本嵌入模型对语法的理解程度如何？

    本研究通过开发评估集 SR 来审查文本嵌入模型在句法理解能力方面的表现，发现现有的文本嵌入模型在面对句法理解挑战时效果不佳，尤其在与现有基准数据集的对比中更加明显。同时，通过深入分析揭示了导致这些局限性的因素，并提出了增强文本嵌入模型在不同句法场景中泛化能力的策略，为强化模型在各类句法上下文中的性能提供了实用指南。

    Nov, 2023

  • 基于标签增强的树形神经网络用于隐式话语关系分类

    本研究使用 Tree-LSTM 模型和 Tree-GRU 模型将句法分析树加入神经网络以编码关系中的参数，同时利用组成标记控制这些树状神经网络中的语义组合过程，实验结果表明我们的方法在 PDTB 语料库中达到了最先进的性能。

    Mar, 2018

  • 利用成分句法进行共指消解

    通过使用基于图的方法，利用句法结构中的成分结构，包括语法树的长距离依赖和结构信息，实现了较强的代词消解技术。实验结果显示，在 OntoNotes 5.0 基准测试的英语和中文部分中，提出的模型要么超过了强基线要么实现了新的最高水平。

    Feb, 2022

  • 基于依存关系的卷积神经网络用于句子嵌入

    该研究提出了一种基于树的卷积神经网络模型，结合深度学习和语言结构，利用单词之间的各种长距离关系来提高情感分类和问题分类任务的准确性，并在 TREC 数据集上取得了最高的准确性。

    Jul, 2015