Dec, 2023

从冗长到简洁：关于自然语言处理技术驯服长句的系统文献综述

PDF
TL;DR通过对长句子的问题进行调查，本文系统地回顾并分类了两种解决长句子问题的主要方法：句子压缩和句子拆分。文章指出，自 2005 年以来，对这一领域的兴趣呈增长趋势，尤其在 2017 年后增长明显。当前的研究主要以受监督的方法为主，但在弱监督和自监督技术方面存在较大的空白，表明这一领域尤其在数据有限的领域仍有进一步研究的机会。本文将最具代表性的方法进行分类和归组，并在常见的句子压缩和拆分数据集上进行比较评估分析。最后，本文讨论了当前方法存在的挑战和限制，并为未来的研究方向提供了宝贵的洞察。该调查旨在作为解决长句子复杂性的综合资源，旨在使研究人员在这一领域取得进一步的进展，直到长句子不再成为有效交流的障碍。
long sentencessentence compressionsentence splittingsupervised approachesweakly and self-supervised techniques
发现论文，激发创造
  • 长文本神经自然语言处理技术现状综述

    本文综述了深度神经网络在自然语言处理中的应用，重点关注长文本处理的挑战和解决方案，包括文档分类、摘要生成和情感分析等任务，同时列举了当前用于研究的公开数据集。

    May, 2023

  • 长文档摘要的分而治之方法

    该研究提出了一种新颖的分治法神经摘要长文档的方法，结合话语结构和句子相似性将长文档分解为多个摘要子问题。通过该方法可以有效地降低计算复杂度，提高摘要效果。

    Apr, 2020

  • 分离和改述

    该研究提出了一种新的句子简化任务 ——Split-and-Rephrase，在将复杂句子转换为意思相同的短句子方面有着潜在的价值。该任务可以作为自然语言处理的预处理步骤，可以帮助解析器、语义角色标注器和机器翻译系统提高性能，并对阅读障碍者有帮助。该研究提出了五种模型来应对这一任务。

    Jul, 2017

  • 利用自动分割克服神经机器翻译中句子长度的诅咒

    该研究通过将输入句子自动分割成易于神经机器翻译模型翻译的短语来解决长句翻译时翻译质量下降的问题，并证明了这种方法在长句翻译质量上有显著提升。

    Sep, 2014

  • 通过 LLMs 简化长文档摘要评估

    该研究提出了一种新方法，即从长文档中提取关键句子，然后通过提示大型语言模型来评估摘要，以解决计算成本高、长文档中的重要信息往往被忽视的问题，研究结果显示该方法不仅显著降低了评估成本，而且与人工评估的相关性更高，此外，我们还提供了关于最佳文档长度和句子提取方法的实用建议，为基于大型语言模型的文本生成评估的成本效益更高且更准确的方法的发展做出了贡献。

    Sep, 2023

  • 利用语义和神经方法实现简单有效的文本简化

    本论文提出了一种基于自动语义分析器的简单有效的句子分割算法，并通过神经机器翻译进行进一步微调的简化操作，其中采用语义分析为基础的分割方式可以有效地解决以往机器翻译的过于保守的问题，经过广泛的自动化和人工评估，该方法在词汇和结构简化方面表现优异。

    Oct, 2018

  • 大规模语言模型的拆分和再表述

    使用大型语言模型，通过训练样本和模型参数的相对较小数量，显著改进了 Split and Rephrase 任务的性能，并证明了大语言模型在该任务中的潜力。

    Dec, 2023

  • 利用自然语言处理实现文本摘要：叙事性文献综述

    本文是一篇关于使用自然语言处理技术生成简化版摘要的研究综述，发现基于 transformer 的方法如 BERT 和 PEGASUS 在生成 lay text summarisation 方面相对优秀，并建议采用抽取式和生成式相结合的混合方法，并开发一些新的评估指标以确保 lay summary 更易读。

    Mar, 2023

  • 通过受控语法简化识别、测量和降低句法复杂性

    本研究提出了一种基于事实信息的控制简化方法，使用句法依赖分析将复合和复杂句子拆分为简化句子的集合，并用统计方法度量了句子的句法复杂度，通过本方法，可在不失信息的情况下简化语言，用于知识图谱中三元组的提取与构建。

    Apr, 2023

  • 通过大规模多任务学习学习通用分布式句子表示

    本论文探讨了利用多个训练目标来学习句子表示的多任务学习框架，提出了一种有效实现的方法，通过多项实验得出该方法可以在转移学习和低资源环境中大幅度提高语言处理的效率。

    Mar, 2018