ACLMay, 2023

采用基于扩散的语言模型实现细粒度文本风格转换

PDF
TL;DR本文研究了基于扩散概率模型的语言模型在细粒度文本风格转换的任务上的应用，并证明了这种模型不仅可以在没有预训练权重、外部嵌入和语法解析器的情况下进行训练，而且在数据资源有限的情况下也能取得优异的效果。
diffusion probabilistic modelstext generationlanguage modelsfine-grained text style transferslow-resource settings
发现论文，激发创造
  • 控制样式：使用扩散先验生成基于文本的风格化图像

    提出了一种新的任务，文本驱动的风格化图像生成，以进一步增强内容创造中的可编辑性，通过升级经过训练的文本到图像模型与可训练的调制网络，同时引入扩散样式和内容正则化，实现了高质量的风格化文本到图像生成。

    Nov, 2023

  • FreeStyle：使用扩散模型进行文本引导的风格转换的免费午餐

    本文介绍了一种创新的基于预训练大型扩散模型的风格转换方法 FreeStyle，无需进一步优化，通过对所需风格的文本描述，实现风格转换，并且实验结果表明了其在不同内容图像和风格文本提示下的高质量综合和保真度。

    Jan, 2024

  • StylePTB: 细粒度可控文本风格转换的组合基准

    本文介绍了 StylePTB，一个大规模的基准测试数据集，用于评估现有文本样式转移方法的表现，结果发现传统的方法无法实现细粒度的控制和多重样式的组合，这为控制文本样式转移、组合模型和学习离散表示等方向的未来研究提出了新的挑战。

    Apr, 2021

  • 基于文本的图像到图像翻译的即插即用扩散特征

    研究使用空间特征和自我关注来实现生成图片结构的微调，并将其用于文本到图像合成中，从而实现图像到图像转换。

    Nov, 2022

  • 预训练的文本到图像扩散模型是多用途控制表征学习器

    使用预先训练的文本到图像扩散模型构建稳定的控制表示，从而实现细粒度场景理解和学习复杂控制策略。

    May, 2024

  • 通过语义扩散引导使图像合成更加可控

    该研究探讨了图像合成模型的细粒度、连续控制，提出了一种新的语义扩散引导统一框架，可以注入预训练的无条件扩散模型的语言或图像指导，并在 FFHQ 和 LSUN 数据集上进行了实验。

    Dec, 2021

  • 3DStyle-Diffusion：使用 2D 扩散模型追求细粒度基于文本的 3D 风格化

    通过结合 CLIP 和 2D Diffusion 模型，我们提出了一种新的 3DStyle-Diffusion 模型，能够在文本驱动的几何和外观引导下，实现对 3D 网格的细粒度样式化。

    Nov, 2023

  • Diffusion-LM 提升可控文本生成能力

    本研究提出了一种基于连续扩散的非自回归语言模型 Diffusion-LM，在语言生成的过程中能够通过简单的基于梯度的算法实现复杂的可控生成任务，并成功地应用在六个难度较大的细粒度控制任务之中，表现出优秀的性能。

    May, 2022

  • ParaGuide: 文本风格转换的引导扩散改写器

    文本样式转换是将文本的样式特征进行转换而保留其含义的任务。我们引入了一种新颖的基于扩散的通用样式转换框架 ParaGuide，它可以在推理时灵活地适应任意目标样式，利用改进的扩散模型，结合来自现成分类器和强大的已有样式嵌入器的梯度引导，以转换文本的样式同时保留语义信息。我们在 Enron Email Corpus 上进行人工和自动评估，发现该方法在正式化、情感以及甚至作者风格转换方面均超越了强大的基准。

    Aug, 2023

  • 扩散语言模型：随着规模和指导微调可执行多种任务

    扩展极限语言模型、数据和任务规模可有效地使扩散式语言模型成为强大的语言学习者，并且通过指令调优可以实现零射击和小批量上下文学习能力。

    Aug, 2023