ACLDec, 2020

基于量化 Transformer 空间的提取式意见摘要

PDF
TL;DR本文介绍了一种基于量化转换器的无监督系统，用于提取意见摘要。由于采用聚类解释量化空间，加上一种新颖的提取算法，能够在数百个评论中发现受欢迎的意见，从而实现实用范围的意见摘要。此外，该方法利用量化空间的属性提取方面和细节方面的摘要，从而实现了可控摘要，无需进一步训练。作者也公开了 SPACE（一种大型评估基准）用于评估意见摘要，包括 50 个酒店的汇总。实验表明，作者的方法十分有前途，通过人工研究验证了该方法优于竞争基线的清晰偏好。
quantized transformerunsupervised systemopinion summarizationclustering interpretationaspect-specific summaries
发现论文，激发创造
  • 可归属且可扩展的意见概括

    我们提出了一种无监督的意见摘要方法，该方法将顾客评论中的句子编码到分层离散的潜空间中，然后基于编码的频率识别常见的意见，并通过解码这些频繁的编码生成抽象摘要和通过选择分配给相同频繁编码的句子生成提取摘要

    May, 2023

  • Wasserstein 空间中的无监督意见摘要

    本文提出了使用 Wasserstein 距离的无监督抽象摘要模型 WassOS，结合变分自编码器，把语义和句法空间分离并使用他们的 Wasserstein barycenter 得到摘要分布。实验表明，该模型在 ROUGE 指标上表现卓越且对于人类的评估达到了最佳的意思保留效果。

    Nov, 2022

  • 超维空间下的无监督抽取式对话摘要

    HyperSum 是一种提取式摘要框架，能够结合传统词汇摘要的效率和现代神经网络方法的准确性，通过利用在极高维度 (“维度祝福”) 上对向量进行随机初始化时出现的伪正交现象来构建具有代表性和高效的句子嵌入。通过简单地聚类所获取的嵌入并提取它们的中心，可以得到有竞争力的摘要。HyperSum 在摘要的准确性和可信度方面往往优于最先进的摘要器，同时速度快 10 至 100 倍。我们将 HyperSum 开源作为无监督的提取式摘要的强基准。

    May, 2024

  • 观点摘要的小样本学习

    本文介绍了一种学习无监督条款，在生成模型中引入少量样本来捕获其必要属性的方法，用于生成商品评论等主观性文本的摘要，该方法比以往的提取和抽象方法更有效。

    Apr, 2020

  • 基于稀疏编码的无监督抽取式观点摘要

    该研究提出了一种基于语义自动编码器（SemAE）的无监督抽取式网络评论摘要算法，并且能够进行具有可控性的方面特定性的摘要，实验结果表明该算法在 SPACE 和亚马逊数据集上表现强劲

    Mar, 2022

  • 信息丰富且可控的观点摘要

    本文提出了一种摘要框架，通过将目标的所有评论压缩为多个密集向量以代替传统的前置筛选步骤，从而最大化地保留所有信息，进而生成更具信息量的摘要，并且采用零样本技术，能够有效地生成根据用户需求定制的摘要，实验结果表明了该模型在 Rotten Tomatoes 数据集上的优越性能。

    Sep, 2019

  • 通过关注结构化的量化嵌入来促进 Transformer 的系统性

    通过在训练集较低复杂度的情况下，通过显式鼓励结构性嵌入和注意力层的系统性来提升语义解析和机器翻译中的组合泛化能力。

    Feb, 2024

  • 使用近似测地线进行无监督意见摘要

    该论文提出了一种名为 Geodesic Summarizer 的系统来完成无监督抽取式意见总结，使用编码器 - 解码器模型进行表示学习，利用多个解码器层进行预训练文本表示的词典学习，利用近似测地线距离基于得分的机制来量化评论句子的相关性，以此识别流行意见并汇总成一般和具体方面的总结，最终实现了三个意见总结数据集中的最先进性能。

    Sep, 2022

  • 在抽象文本摘要中利用表征偏差进行数据去噪

    本文旨在离散化抽象文本摘要模型的向量空间，以理解输入嵌入空间和模型编码空间之间的特征学习。我们通过聚类技术来学习模型样本空间的多样性，以及数据点如何从嵌入空间映射到编码空间，从而提出了一种度量方法来过滤冗余数据点，使模型更强大且更节约数据。我们使用 Rouge、BERTScore、FEQA 和金字塔分数等定量指标来对我们提出的方法进行基准测试，并量化阻碍模型从各种输入样本中学习多样性的原因。

    Dec, 2023

  • 意见总结的凸聚合

    本研究发现，使用简单平均聚合方法生成的潜向量会因为 $L_2$ 范数收缩而导致生成的摘要过于泛化。我们通过使用 Coop 框架中的输入输出单词重叠来改进向量聚合方法并取得了优异性能，成为了两项意见摘要基准测试的最新技术。

    Apr, 2021