Apr, 2024

通过混合结构化摘要和基于 LLM 的数据增强改进主题相关性模型

PDF
TL;DR社交搜索中查询与文档的主题相关性是一个重要的部分，该研究提出了一种使用大型语言模型的查询重写和生成方法来改善关联建模的性能。
topic relevancesocial searchquery-document pairsrelevance modelinglarge language model
发现论文，激发创造
  • MixSumm: 低资源抽取式文本摘要的基于主题的数据增强利用 LLMs

    在本研究中，我们提出了一种名为 MixSumm 的低资源提取式文本摘要方法，该方法在开源语言模型 LLaMA-3-70b 上生成多主题混合文档，并在生成的数据集上训练一个摘要模型。我们使用 ROUGE 分数和 L-Eval 作为评估方法，通过在 TweetSumm、WikiHow 和 ArXiv/PubMed 数据集上进行的广泛实验证明，我们的 LLM 数据增强框架在低资源提取式摘要方面优于最近的基于提示的方法。此外，我们的结果还展示了从 LLaMA-3-70b 到小型 BERT 提取式摘要器的有效知识蒸馏。

    Jul, 2024

  • 基于查询的多文档摘要：将新颖主题模型与基于图的半监督学习相结合

    通过引入句子层级和主题层级的图半监督学习方法，以及利用句子和词之间的依赖关系构建主题模型，可以有效改善查询聚焦的多文档摘要的质量。经实验证明，该方法在 DUC 和 TAC 数据集上非常有效。

    Dec, 2012

  • 通过大型语言模型整合总结和检索，实现个性化增强

    通过使用离线总结和运行时检索，我们提出了一种新颖的基于总结的方法，扩展了基于检索的个性化，以实现更好的实时系统性能，并在实际约束下取得了更好的个性化性能。

    Oct, 2023

  • 提升语义相关性，用于中文社交媒体文本摘要的序列到序列学习

    本文通过引入一种基于语义相关性的神经模型，旨在提高汉语社交媒体摘要中源文本和摘要之间的语义相关性，使用编码器 - 解码器框架，通过最大化表示之间的相似性得出结论，实验表明，该模型在社交媒体语料库上优于基线系统。

    Jun, 2017

  • 通过关联改写视角评估零样本主动摘要的 LLM 模型

    通过评估大型语言模型对原始和扰动数据集上的摘要性能，我们使用关联改写方法来测量大型语言模型作为摘要器的稳健性，并发现大型语言模型对于扰动文章的摘要结果不一致，需要进一步改进。

    Jun, 2024

  • 增强短文本建模：利用大型语言模型进行主题细化

    利用大型语言模型对主题进行细化改进，从而显著提高主题的语义连贯性。

    Mar, 2024

  • 无标签主题聚焦摘要生成的查询增强

    这项研究介绍了一种新的方法，增强型查询摘要（AQS），用于针对主题的摘要，无需大量标记数据集，利用查询扩展和分层聚类。通过 real-world 测试，我们的方法展示了生成相关和准确的摘要的能力，显示其在数据丰富环境中作为一种经济高效的解决方案的潜力，为主题聚焦摘要技术领域中的更广泛应用和可访问性铺平了道路，提供了一种可扩展的、高效的个性化内容提取方法。

    Apr, 2024

  • 探索科学情绪摘要的多文档信息整合

    基于三层框架的科学情感总结方式，本研究提出了评估生成的元评价的质量的评估指标，并在广泛实验证明通过将此框架作为 LLMs 的提示生成元评价的假设在实证中是可行的。

    Feb, 2024

  • 产品搜索的相关判断大型语言模型

    基于 Large Language Models (LLMs) 的技术，通过自动化查询 - 商品对的相关性判断，改善产品搜索的相关性预测精度，对商品搜索的相关判断自动化领域具有重要影响。

    Jun, 2024

  • 面向查询的多文档摘要的基于特征的贝叶斯模型

    本文提出了一种新的有监督方法，可以将丰富的句子特征合并到贝叶斯主题模型中，从而充分利用主题模型和基于特征的有监督学习方法进行查询焦点的多文档摘要， TAC2008 和 TAC2009 的实验表明了我们的方法的有效性。

    Dec, 2012