COMPASS:一种创意支持系统,警告小说家未被注意到的缺失内容
本研究提出了一种自我监督文本规划器,基于语境、主题关键词和修辞结构指导预训练语言模型的超级文本生成任务,结果显示这个文本规划器 SSPlanner 在生成段落的任务中超过了基线生成模型,同时发现名词和动词类型的关键词组合是影响内容选择最有效的因素。
Oct, 2020
本文介绍一种基于 GPT-2 的系统,利用自动故事生成技术生成可靠的短篇小说情节,以协助作家构建一个一致且引人入胜的情节,实验表明,该系统产生的短篇小说情节在一致性和可故事性等方面优于其他模型,作者尝试了一种 story continuation 任务,以确定该系统如何影响创意写作的过程。
Feb, 2023
本文介绍了一种中间训练策略,利用新的自监督培训目标 Next Phrase Prediction(NPP),以提高预训练语言模型在文本自动完成任务中的表现,并快速适应特定领域。初步实验结果显示,我们的方法能够在电子邮件和学术写作领域的自动补全中胜过基线。
Sep, 2021
通过逐步提示的基于句法分析的分解,本研究发现了更多语义分析任务中的挑战。这一最优方法使我们在 CFQ 上取得了最新的技术成果,同时只需要传统方法所需训练数据的 1%。由于我们方法的普适性,我们期望类似的方法将在知识密集型应用中取得新的成果。
Sep, 2022
本论文通过 COMPS 测试不同 PLMs 的语义概念属性及其推理能力,结果表明 PLMs 在基于知识表达的相关概念中表现相对困难且缺乏鲁棒性,从而对 PLMs 在正确推理方面的能力提出重要问题。
Oct, 2022
该论文介绍了一个针对较小数据集的任务感知专家网络混合模型,重点研究常识学习问题,并通过训练不同的专家网络来捕获每个段落、问题和选项三元组之间不同类型的关系,同时灵感来自多任务和迁移学习的最新进展。通过将多个网络融合,强制实现它们的特定目标和关系,作者达到了最先进的结果并减少了过拟合。
Oct, 2022
提出了一种新方法 ScratchPlot,使用 Pre-trained language models,利用 content planning 生成故事情节,并使用 generate-and-rank approach 对所生成的(story, ending)pairs 进行排序。实验表明,在人类评估和自动评估中都获得了更好的结果。
Jun, 2022
本文提出了一个文本编辑器,使用自动文本摘要为用户提供不断更新的逐段摘要,以边缘注释的方式帮助用户规划、结构化和反思写作过程。通过两个用户研究,作者发现这个系统为用户提供了一个外部的视角来帮助他们修改段落的内容和范围,并且帮助用户快速了解文本的总体情况和开发一些集成自动摘要中得到的见解的策略。通过探究和强调设计 AI 工具以帮助写作的价值,这项工作突显了自然语言处理 (NLP) 能够超越直接的文本生成和纠正。
Aug, 2022