我们提出了一种结构感知的检索增强语言模型，通过在预训练模型中检索并融合具有结构关系的科学文档，来改善检索到的内容的相关性、准确性和连贯性。

Nov, 2023

提出了一种在学术文档中结构标记与分级注意网络相结合的方法，在学术文档的质量预测任务中实现了较好的结果，同时在预测引用数量方面也实现了一定的提升。

Apr, 2020

通过提出的 HiStruct+ 模型，将 Transformer-based language models 中的层级结构信息显式注入到提取式文摘模型中，提高了 PubMed 和 arXiv 数据集中提取式文摘的 ROUGEs 指标，实验发现：数据集对模型效果的影响是关键因素，数据集中的明显层级结构可以取得更大的性能提升，而在模型的表现中，层级位置信息的贡献最大。

Mar, 2022

本文提出一种基于依存结构和标签语义嵌入的多粒度标签精炼网络，利用图注意层介绍了句子的依存结构来增强句法表示，通过注意机制将任务特定的特征与相应的标签嵌入相结合捕获语法信息和任务标签之间的语义依赖关系。在两个公共数据集上的实验结果表明，我们的模型取得了竞争性能。

Sep, 2022

通过基于图形的医疗概念转换探索用户查询目的，引入多任务学习的深度模型提取用户查询中的语义转换关键词和句子。使用自定义函数进一步探索称为医疗概念词的影响。通过比较最佳基线模型，观察到 8％的相对改进和 23％的相对覆盖误差降低率。

Oct, 2017

本文提出一种可以在没有语篇分析器或额外注释的情况下，从数据中学习具有结构感知能力的文档表示的模型，该模型通过将可微分非项目句法分析算法嵌入神经模型，使用注意机制来结合结构偏置，从而产生具有解释性和意义的中间结构，并在不同任务和数据集上实验验证表明，该模型在文档建模任务中取得了最先进的结果。

May, 2017

本文提出了一种基于树形结构的注意力神经网络模型，用于情感分类问题。该模型使用自下向上和自上而下的信息传播结合语法树中节点周围的结构信息。模型在构建句法树时，利用结构注意力识别最显著的表示。实验结果表明，该模型在斯坦福情感树库数据集上实现了最先进的性能表现。

Jan, 2017

本文提出了一种基于语言模型的信息检索算法框架的新方法，并将类似文档群的信息整合进去以提高检索效果；实验结果表明，即使是此新方法中的较简单算法也能优于标准语言模型方法，并且我们的新插值算法在所有测试语料库中均能显著提高精度和召回率表现。

May, 2004

该研究提出 GMM-LDA 模型，将文档建模为主题词和修辞词的混合，通过加入有序信息分析文档意图结构，并在无监督和有监督的情况下进行实验，结果表明该模型的优越性能。

Dec, 2015

本研究提出了一种新方法，使用情感分类的远程监督来生成丰富数据进行 RST 风格讨论结构预测，该方法结合了一种基于神经网络的多实例学习和一种 CKY-style 树生成算法，结果表明该解析器在跨领域讨论结构预测方面表现出色。

Oct, 2019