Jun, 2024

任何文本的分段：一种用于鲁棒、高效和适应性句子分割的通用方法

PDF
TL;DR利用新模型解决分隔文本中缺失标点符号的问题，并实现在不同领域的高效表现，以及在实际情况中文字格式不良的具有普适性的分词方法。
发现论文，激发创造
  • 自我监督多语言无标点符号句子分割

    本文提出了一种多语言无标点自我监督句子分割方法，用未分割文本中的换行符进行分段，利用少量标注的样本即可适应分割不同语料库。作者通过使用该方法与训练 MT 模型相匹配的句子分割方式，在 BLEU 分数和 MT 翻译质量上取得了显著改进。

    May, 2023

  • 走向统一的文本分割和长文摘要

    本文研究了文本切分在摘要提取中的作用，通过将摘要和切分同时进行学习，以及通过一种基于优化的正则化方法来提高模型的多样性，实现了既能在科学文章也能在口语记录中达到最优性能且具有更好的跨体裁可转移性的效果。

    Oct, 2022

  • 文本分割作为监督学习任务

    本研究利用维基百科文章，将文本分割任务作为有监督学习问题进行探究，提出了一个基于这个数据集的文本分割模型，并展示了其在未见过的自然文本上的泛化能力。

    Mar, 2018

  • 法律文件的结构化文本分段

    本研究提出了一种基于 transformer 网络和结构化文本分割的方法来预测跨越多个段落的连续文本段落的主题连贯性，以更有效地满足用户特定的信息需求，研究结果表明，此方法显著优于基线，并适应法律文件的结构特点。

    Dec, 2020

  • 可扩展的领域通用抽象命题分段

    将文本分成细粒度的含义单元对于广泛的自然语言处理应用非常重要，本文重点讨论了抽象命题分割的任务，并提出了评估指标和可扩展准确的命题分割模型，同时介绍了领域泛化方法，并分享了一个简单易用的 API。

    Jun, 2024

  • 从文本分割到智能分章：一个用于视频转录结构化的新型基准测试

    本文介绍了一个新的评测基准 YTSeg，着重于非结构化的语音内容，提出了一种高效的层次分割模型 MiniSeg，并对比了现有的基准方法。此外，还将文本分割的概念扩展到实际的 “智能章节切割” 任务中，包括非结构化内容的分割、生成有意义的片段标题以及模型的潜在实时应用。

    Feb, 2024

  • 基于注意力机制的神经文本分割

    本文提出了一种基于注意力机制的双向 LSTM 模型，使用卷积神经网络学习句子嵌入，利用上下文信息预测文本分段，相比现有的竞争基准方法，在三个基准数据集上的 WinDiff 分数提高了约 7%。

    Aug, 2018

  • 语言模型在半结构化和非结构化对话数据集中的主题分割

    我们综合分析了现有的最先进主题分割模型在非结构化文本上的泛化能力，并发现充分训练目标非结构化领域的相对较小规模数据集可以显著提高分割结果。在对非结构化和半结构化聊天进行分割时，我们的实证评估表明，Focal Loss 函数是交叉熵和加权交叉熵损失函数的一个强大的替代方案。

    Oct, 2023

  • 野外话题分割：面向半结构化和非结构化聊天分割

    本文在分析当前 NLP 中的主题分割模型的通用性能力时，发现在处理非结构化文本时，预训练策略并没有提高模型在该领域的可迁移性，只用一个相对较小的与目标结构相同的训练集从头开始训练模型，可以显著改善分类结果...

    Nov, 2022

  • 文本分段的文档摘要

    本研究旨在利用文献的内在结构，通过建立两个文本分割模型并寻找最优策略，使它们的输出预测投入到一种提取式摘要模型中，实验结果表明，提取式摘要从使用高准确度的分割方法中受益匪浅，特别地，在文档中最相关信息不在开头的情况下，分割有助于减少引导偏差问题。

    Jan, 2023