coherent text | BriefGPT - AI 论文速递

关键词coherent text

搜索结果 - 7

基于 LLM 的多文档总结：利用主事件有偏单调子模函数内容提取
通过提取与主事件相关的最关键信息，使用预训练的语言模型对内容进行重写，从而提高新闻摘要的客观性和信息性。
PDF9 months ago
开放式文本生成的回溯解码
本文提出了一种改进的解码算法 Look-back，利用 Kullback-Leibler 散度来跟踪当前和历史解码步骤之间的分布距离，能够自动预测潜在的重复短语和主题漂移，并移除可能导致故障的标记，从而生成更流畅和连贯的文本，并在文档连续性
PDFa year ago
TinyStories: 语言模型有多小才能够流利地说英语？
本文介绍了 TinyStories 数据集和一种新的评估语言模型的方法，该数据集使用 GPT-3.5 和 GPT-4 生成，只包含 3 到 4 岁儿童通常理解的单词。使用 TinyStories 可以训练和评估比现有模型小得多的语言模型，并
PDFa year ago
EMNLP控制性文本压缩
本文提出了一个新的任务 —— 可控文本减缓 —— 来产生内容一致的文本，该任务的目标是生成一个有针对性的概括，重点关注标记的内容，并借助有监督学习方法进行实现。
PDF2 years ago
ACL通过建模句子级和语篇级连贯性进行长文本生成
该论文提出了一种基于预训练的长文本生成模型，通过预测句子间语义相似度和区分正常和洗牌句序的两个预训练目标来学习句子和语篇级别的表示，从而能够生成比现有技术更加连贯的文本。
PDF3 years ago
EMNLP基于骨架的模型促进叙述性故事生成中句子间的连贯性
提出了一种基于骨架的模型来促进生成的连贯性，在人类评估和自动评估中的生成文本的连贯性得到显着提高。
PDF6 years ago
ACL基于语篇感知的神经奖励来实现连贯文本生成
本研究使用基于语篇的奖励机制结合强化学习来引导模型生成连贯的长文本，利用神经网络奖励模型来促进跨句子排序，实验结果表明，使用此奖励机制的生成模型比传统的交叉熵或使用常见奖励得分的强化学习训练的模型产生的文本更连贯，更少的重复性。
PDF6 years ago