利用话语结构分布进行长文本抽象摘要
本文引入 RST-LoRA,提出了四种 RST 感知的变体,明确将 RST 融入 LoRA 模型,评估结果表明,引入修辞关系的类型和不确定性可以有效增强 LoRA 在摘要任务中的性能,最佳性能的变体优于普通的 LoRA 和全参数微调模型,并超过以往最先进的方法。
May, 2024
使用预训练的神经网络提取文档级别的语篇树,研究发现总结中存在依存和从属语篇信息,这种信息通常被编码为单个头部,覆盖长距离和短距离的语篇依赖性。实验结果表明,学习到的语篇信息具有普适性和领域之间的可传递性。
Apr, 2021
基于修辞结构理论的话语解析(RST-DP)探索了子句、句子和大文本跨度如何组成整个话语,并将修辞结构呈现为一个分层树。现有的 RST 解析流水线在构建修辞结构时缺乏对文档级内容结构的了解,导致在预测大文本跨度的话语关系时性能相对较低。为了识别高级内容相关信息在促进话语关系识别方面的价值,我们提出了一种新颖的 RST-DP 流水线,该流水线结合了从新闻话语建模任务中得出的具有结构意识的新闻内容句子表示。通过仅添加了少量的附加层,这个增强的流水线在各种 RST 解析指标上表现出了很有前景的性能。
Sep, 2023
通过分析语篇结构中的修辞元素,文献使用的修辞结构理论 (RST) 解析器可以提高情感分析的准确性;该文献使用基于依存关系的位置调整方法和基于 RST 结构的递归神经网络模型分别取得了显著的效果提升。
Sep, 2015
利用 Rhetorical Structure Theory (RST) 树和关系对话语连贯性进行评估,表明在分类连贯性方面增加银标准 RST 特征可以提高准确性,我们开发了一个 tree-recursive neural model,即 RST-Recursive,利用了由最先进的 RST 解析器产生的文本 RST 特征。在 Grammarly Corpus for Discourse Coherence (GCDC) 上评估我们的方法,并展示了当与现有先进技术结合使用时,我们可以在此基准测试中实现新的技术水平的准确性。此外,单独部署时,RST-Recursive 具有竞争性的准确性,同时参数减少了 62%。
Sep, 2020
本文描述了一种 RST 分割和解析系统,该系统可以快速、稳健地处理新闻文章或文章等短文档,并将各种先前工作的模型和特征集进行了适应,其准确性接近于最先进的水平。
May, 2015
本文提出了一种基于修辞结构理论(RST)的框架 RSTGen 来控制生成的长文本的话语结构、语义和主题,应用于论证生成和故事生成等挑战性任务,评估结果表明我们的模型在人工评估相关度方面表现优异同时具有更多控制生成文本的优势。
May, 2022
本文研究利用 Rhetorical Structure Theory 和递归神经网络(使用新提出的 attention 机制)来加强文本分类的方法,实验结果表明其优势和劣势。
Feb, 2017
该研究使用修辞树代替词序,提出了一种深度依存分析模型来评估同一论证方案内的释义差异,并使用 RST 结构的释义作为训练数据增强,结果表明论证挖掘可以从多种言语结构变体中获益。
Jan, 2024
本文提出了一种基于分裂决策的顶级自上而下的端到端文档级修辞结构理论(RST)框架下的论述解析方式,并采用 seq2seq 网络建模分离决策,无需依赖分段,融合高分树搜索算法得到最佳树结构,实验结果表明该解析器在端对端解析和使用黄金分段分析方面表现出色,且无需使用手工特征,速度更快,易于适应新的语言和领域。
May, 2021