Nov, 2022

野外话题分割：面向半结构化和非结构化聊天分割

PDF
TL;DR本文在分析当前 NLP 中的主题分割模型的通用性能力时，发现在处理非结构化文本时，预训练策略并没有提高模型在该领域的可迁移性，只用一个相对较小的与目标结构相同的训练集从头开始训练模型，可以显著改善分类结果...
topic segmentationnlpunstructured textsgeneralizationpre-training
发现论文，激发创造
  • 语言模型在半结构化和非结构化对话数据集中的主题分割

    我们综合分析了现有的最先进主题分割模型在非结构化文本上的泛化能力，并发现充分训练目标非结构化领域的相对较小规模数据集可以显著提高分割结果。在对非结构化和半结构化聊天进行分割时，我们的实证评估表明，Focal Loss 函数是交叉熵和加权交叉熵损失函数的一个强大的替代方案。

    Oct, 2023

  • 从语言学角度帮助一下：多方随意对话的主题分割

    通过对话的主题结构进行分段，以便更好地理解对话的结构和组织方式。

    Feb, 2024

  • 从文本分割到智能分章：一个用于视频转录结构化的新型基准测试

    本文介绍了一个新的评测基准 YTSeg，着重于非结构化的语音内容，提出了一种高效的层次分割模型 MiniSeg，并对比了现有的基准方法。此外，还将文本分割的概念扩展到实际的 “智能章节切割” 任务中，包括非结构化内容的分割、生成有意义的片段标题以及模型的潜在实时应用。

    Feb, 2024

  • 文本分割作为监督学习任务

    本研究利用维基百科文章，将文本分割任务作为有监督学习问题进行探究，提出了一个基于这个数据集的文本分割模型，并展示了其在未见过的自然文本上的泛化能力。

    Mar, 2018

  • 走向统一的文本分割和长文摘要

    本文研究了文本切分在摘要提取中的作用，通过将摘要和切分同时进行学习，以及通过一种基于优化的正则化方法来提高模型的多样性，实现了既能在科学文章也能在口语记录中达到最优性能且具有更好的跨体裁可转移性的效果。

    Oct, 2022

  • 结构化摘要：统一的文本分段和段落标注作为生成任务

    提出一种单一的编码器 - 解码器神经网络方法，通过结构化总结的形式同时训练文档和对话数据的文本切片和标签任务，并成功展示了该方法在所属领域的顶尖性能以及其重要性。

    Sep, 2022

  • 法律文件的结构化文本分段

    本研究提出了一种基于 transformer 网络和结构化文本分割的方法来预测跨越多个段落的连续文本段落的主题连贯性，以更有效地满足用户特定的信息需求，研究结果表明，此方法显著优于基线，并适应法律文件的结构特点。

    Dec, 2020

  • 文本分段的文档摘要

    本研究旨在利用文献的内在结构，通过建立两个文本分割模型并寻找最优策略，使它们的输出预测投入到一种提取式摘要模型中，实验结果表明，提取式摘要从使用高准确度的分割方法中受益匪浅，特别地，在文档中最相关信息不在开头的情况下，分割有助于减少引导偏差问题。

    Jan, 2023

  • 聚焦本地上下文的话题分割模型

    提出了采用孪生句子嵌入层的主题分割方法，结合同一主题预测、主题分类和下一句预测等多任务学习技术，实现对 WikiSection 数据集中文档的最新分割结果。

    Jan, 2023

  • 研究文章集的主题划分

    该论文通过对网络上论文数据的主题分割，构建出一个包含七百万篇文献数据的多主题数据集，并创建出一套主题分类体系以注释每篇论文的主题归属，从而可以将其作为既包含各学科领域文献数据的异构文献资源集，又可分割为单一研究领域所对应的同质文献集的多主题数据集。

    May, 2022