本文通过结合注意力机制和外部记忆的神经网络，提出了多级关注度（NNMA）方法，用于识别隐含的言语关系。实验结果证明，本方法在 PDTB 数据集方面达到了最先进的成果，并且注意权重的可视化揭示了模型在逐渐固定关注度并定位重要词汇的过程。

Sep, 2016

本文提出了一种新颖的潜变量循环神经网络架构，用于同时建模词序列和相邻句子之间的（可能潜在的）言语关系。它通过循环神经网络生成单个单词，并可以使用潜在变量表示言语关系。该模型可以使用既包括言语关系分类又包括词预测的训练目标，从而优于最先进的替代方案，它可以用于隐含语篇关系分类以及对话行为分类。在测试时间通过潜在言语关系求和，我们获得了一个获得语篇的语言模型，从而改进了一个强大的 LSTM 基线。

Mar, 2016

本文提出一个神经网络模型，用于联合抽取命名实体和它们之间的关系，无需手动设计特征。该模型采用深度双仿射关注层扩展了 BiLSTM-CRF 实体识别模型，以建模关系分类中潜在特征的二阶交互。在 benchmark 数据集 CoNLL04 上进行实验，结果显示该模型的表现优于之前的模型，创造了新的最好表现。

Dec, 2018

本研究使用 Tree-LSTM 模型和 Tree-GRU 模型将句法分析树加入神经网络以编码关系中的参数，同时利用组成标记控制这些树状神经网络中的语义组合过程，实验结果表明我们的方法在 PDTB 语料库中达到了最先进的性能。

Mar, 2018

本文提出了一种新的模型，包含分类器、序列到序列模型以及一个记忆网络，针对隐式语篇关系分类进行研究，结合了 PDTB 语料库对暗示连接的注释，提出了一种针对语篇关系的有效编码方法，并在多个设置下优于现有最先进系统。

Nov, 2018

本研究采用 RNN 型对话模型和动态注意力机制建模了一种连贯的会话延续方法，并通过应用到开放领域和封闭领域的对话数据集进行了评估，结果显示出在多个指标上显著优于基线模型，同时还能通过主题建模进行更进一步的连贯性提升。

Nov, 2016

研究了自注意网络和 BERT 对中文分词任务的影响，提出了将词信息集成到自注意网络中的方法，并展示了该方法在 6 个领域基准测试中的最佳结果。

Jul, 2019

本研究探讨了一种模型，利用包括字符，子词，单词，句子和句对级别的不同粒度的文本表示来更好地表示文本，该模型在隐含关系识别中取得了 48% 以上的最新成果。

Jul, 2018

介绍了一种迭代递归注意力模型，通过重用以前计算的查询结果来构建输入数据的递增表示，以便在情感分类数据集上训练，并演示其在易于解释的方式下识别和组合输入的不同方面的能力，同时获得接近最先进性能。

Aug, 2018

通过使用一个循环网络来明确地建模词语先前和随后的注意力水平之间的关系，我们改进了 Bahdanau 等人（2014）的注意力模型，并且我们的参数化注意力模型的实验表明其可以提高翻译质量。

Jul, 2016