Oct, 2020

指令式文本编辑

PDF
TL;DR本研究通过提出一种交互式文本生成设置，在其中用户通过向系统发出编辑现有文本的命令与系统进行交互，来解决神经文本生成中一次生成的局限性，并介绍了一种新的文本编辑任务。通过使用 Wikipedia 中的单句编辑构成了一个名为 WikiDocEdits 的数据集，使用基于 transformer 的模型在其中进行训练以提高其自动产生的成果和用户评估结果。在此基础上，本研究分别从经验和定性分析方面展示了该模型的性能表现。
发现论文，激发创造
  • 使用文本编辑模型生成文本

    本文介绍了文本编辑模型和 seq2seq 模型，分析了它们的优缺点，探讨了生产化和应对文本生成中的幻觉和偏见等挑战。

    Jun, 2022

  • 迭代文本编辑的数据生成

    本研究提出了一种基于迭代文本编辑的数据到文本生成新方法，使用两个先前训练模型 LaserTagger 和 GPT-2，并通过简单的启发式筛选和已训练语言模型对输出进行筛选和重新排序。

    Nov, 2020

  • QuickEdit: 通过划掉单词进行文本和翻译编辑

    提出了一个计算机辅助文本编辑的框架，通过神经序列到序列建模和引入一个以输入句子和更改标记为输入的神经网络来解决翻译后编辑和改写问题，并通过用户研究评估了该模型的效果。

    Nov, 2017

  • 基于事实的文本编辑

    我们提出了一种名为事实为本文本编辑的新任务，通过使用神经网络架构 FactEditor，其通过参考给定的知识库中的事实来编辑草稿文本，在实验中证明在忠实度和流畅性方面均优于编码解码模型，并且较编码器解码器方法具有更快的推理速度。

    Jul, 2020

  • 超越文本生成：通过持续的自动文本摘要支持写手

    本文提出了一个文本编辑器，使用自动文本摘要为用户提供不断更新的逐段摘要，以边缘注释的方式帮助用户规划、结构化和反思写作过程。通过两个用户研究，作者发现这个系统为用户提供了一个外部的视角来帮助他们修改段落的内容和范围，并且帮助用户快速了解文本的总体情况和开发一些集成自动摘要中得到的见解的策略。通过探究和强调设计 AI 工具以帮助写作的价值，这项工作突显了自然语言处理 (NLP) 能够超越直接的文本生成和纠正。

    Aug, 2022

  • 数据文档生成的挑战

    研究采用新颖的数据生成文本的方式，对当前的文本生成方法进行了探究，并通过提出一系列抽取性评估方法和使用当前神经生成方法得到基线结果。实验结果表明，这些模型产生流畅的文本，但未能令人信服地近似人类生成的文档，甚至模板化的基线方法在某些指标上超过了这些神经模型，尽管复制和重构扩展会导致明显的改进。

    Jul, 2017

  • 交互式文本生成

    介绍了在文本生成任务中，引入了一种使用用户模拟器进行交互式训练，使用模仿学习方法训练的交互式模型，证明这种方法比非交互式模型更好

    Mar, 2023

  • EditEval：面向文本改进的基于指令的基准测试

    本文提出 EditEval：一种以指令为基础的评测套件，利用高质量的现有和新数据集自动评估编辑能力，证明了 InstructGPT 和 PEER 的表现最佳，而大多数基线都低于监督学习 SOTA，本文通过这个基准的发布和公开可用的排行榜挑战，希望能够解锁未来发展能够进行迭代和更可控编辑的模型的研究。

    Sep, 2022

  • 朝向交互式口述

    语音输入越来越重要。我们研究了允许用户使用开放式自然语言中断他们的语音输入以实现编辑的可行性。我们引入了一个新的任务和数据集，TERTiUS，来实验这样的系统。通过使用大型预训练语言模型预测编辑后的文本或预测一个小型文本编辑程序，我们展示了模型准确性和延迟之间的自然权衡。

    Jul, 2023

  • 文本编辑作为模拟游戏

    本研究将文本编辑作为一项模仿游戏，使用行为克隆方法将传统序列转序列数据转化为状态 - 操作演示，通过引入双解码器结构来并行解码操作，实现对操作之间的依赖进行保留，以及利用轨迹增强技术缓解模仿学习常常遇到的分布偏移问题。对一组算术方程基准测试进行了实验，结果显示该模型在性能、效率和稳健性方面均优于自回归基线。期望该研究成果能为以后在强化学习中应用序列级操作生成的自然语言处理研究提供启示。

    Oct, 2022