Feb, 2023

基于课程的思维健康在线帖子抽象摘要

PDF
TL;DR本研究旨在通过采用课程学习方法，结合基于 Transformers 模型的自动生成摘要技术，从 Reddit 社交媒体上的心理健康相关帖子中提取性问题，从而提高医生的阅读效率和准确性，为人们提供更及时有效的心理卫生服务。相较于目前已有的模型，本方法在 Rouge 和 Bertscore 评估指标上分别有显著的相对改进。
发现论文，激发创造
  • MentSum：探索在线心理健康文章摘要的资源

    为了帮助心理医生快速处理心理健康在线帖子，我们介绍了 MentSum 数据集，包含超过 24k 来自 43 个心理健康 subreddit 的用户帖子和 TLDR 小结，并进一步评估了抽取和抽象式自动摘要方法。

    Jun, 2022

  • 基于课程指导的抽象摘要

    本文提出两个方法以弥补 Transformer-based summarization 模型在内容选择方面表现不佳和训练策略效率不高的缺陷，使得模型可以更好的理解要点，同时引入课程学习的方法提高了训练速度和质量，并用 Reddit TIFU 数据集和其他三个跨领域总结测量我们的模型的有效性，同时进行了人类评估表明所提出的方法在流畅性、信息量和整体质量等质量标准上具有良好的效果。

    Feb, 2023

  • 探索大型语言模型在总结心理咨询会话中的效果：一项基准研究

    通过方面导向的总结来评估大型语言模型在心理健康咨询中的应用，研究发现任务特定的语言模型在心理咨询的各个方面表现出较好的综合性能。

    Feb, 2024

  • 面向消费者健康问题摘要的问题感知变压器模型

    本文研究针对真实世界的消费者健康问题的抽象总结任务，开发了一个抽象问题总结模型，利用医疗实体的语义识别，借此提高了问题聚焦的涵盖范围和生成信息摘要的能力。同时，我们还将问题类型信息融入到解码器的输入中，实现了问题类型驱动的摘要生成，并在 MeQSum 基准语料库上进行了评估，该框架超过了最先进方法 10.2 ROUGE-L 分，并进行手动评估以评估所生成的摘要的正确性。

    Jun, 2021

  • 文本摘要中的抽象化改进

    提出使用上下文相关网络和预训练的语言模型来提高抽象文本摘要的生成水平和使用新颖度度量来优化生成的摘要，从而实现比现有方法更高水平的摘要生成。

    Aug, 2018

  • 自监督和可控多文档意见摘要

    本文介绍了一种自我训练的方法，使用控制代码通过 Transformer 架构将多条评论进行无监督抽象摘要，并通过人工评估表明，该方法生成的摘要具有更高的质量和相关性。

    Apr, 2020

  • 基于增强学习的选句重写快速生成摘要

    本论文提出一种快速、精准的摘要生成模型，该模型首先选择重要句子，然后使用新颖的基于句子级的策略梯度方法实现两个神经网络之间的其它计算，最后生成简洁的总体摘要。该模型在 CNN/Daily Mail 数据集上的表现达到了最新的最佳水平，并且具有更高的抽象性得分，同时也展示出相较于之前的长段落编码 - 解码模型，更快的推断速度和训练收敛速度优势，而且在 DUC-2002 数据集上表现更优。

    May, 2018

  • 使用多层记忆网络对 Reddit 帖子进行抽象总结

    通过 Reddit TIFU 数据集，我们提出了一个多层记忆网络模型用于抽象总结，并通过客观评估以及用户研究等手段发现该模型高度抽象化，优于现有的总结模型。

    Nov, 2018

  • 使用预训练语言模型在低资源环境下进行长文档摘要

    本文探讨如何在低资源情况下，使用深度神经网络等技术进行长篇法律文件的自动摘要，本文提出了一种基于 GPT-2 的算法，基于语言模型的困惑度，识别出最具有表现力的句子，在提取摘要时提供有效支持，并且该方法胜过了全球其他对手的显著度检测基线。

    Mar, 2021

  • 可控抽象摘要

    本文提出了一种神经摘要模型，能够通过简单而有效的机制实现用户对文本长度、风格、感兴趣的实体等高级属性的控制，以生成符合用户需求的高质量摘要，并在 CNN-Dailymail 数据集上优于现有的自动化系统和人工评价。

    Nov, 2017