EMNLPNov, 2022

文本生成的时间感知提示

PDF
TL;DR探讨利用时间戳，如文档创建日期，将时间信息纳入到生成系统中的影响，研究时间感知提示的两种类型，并引入一个新的数据生成数据集 TempWikiBio，通过数据生成、文本传输和摘要三个数据集展示了使用线性提示和文本提示可以提高所有数据集的生成质量，线性提示对非时间信息更加关注，对时间敏感度较低，而文本提示可以产生更符合事实的时间信息。
发现论文，激发创造
  • 扩展任务提示的网络新闻时间线生成

    通过对传统提示技术进行扩展，我们的研究在各种新闻数据集上证明了增强提示效果的有效性，使新闻时间线生成成为专业使用的实际工具，并已部署为公开可访问的浏览器扩展程序。

    Nov, 2023

  • 文本到图像生成系统的提示日志分析

    最近，大型语言模型和生成式人工智能的出现，释放了文本转图像生成系统惊人的能力，以合理的方式将高质量的图像综合到给定的参考文本中。我们进行了第一次大规模的记录，这些记录由多个文本到图像生成系统收集。我们的研究发现表示用户输入的文本与生成模型的训练数据之间存在很大的差距，并建议我们如何提高这些系统的性能。

    Mar, 2023

  • 数字序列提示：市场评论生成的案例研究

    通过实验发现，与自然语言和较长的格式（如 HTML 和 LaTeX）相似的提示不太有效，而类似编程语言的提示则能产生更好的结果，为从数值序列生成文本的任务提供了有效的提示创建方法。

    Apr, 2024

  • 大型语言模型的时间符号化知识获取

    这篇论文研究了将现有的大型语言模型的能力应用于以提示为驱动的知识捕捉，重点关注知识图谱，并探索了零样点提示、少样点提示和微调三种方法，并通过专用合成数据集评估了它们的性能。

    Feb, 2024

  • 穿越时空：利用事件时序提示生成故事回忆

    使用结构化故事情节和强化学习生成更有趣的故事和闪回，同时保持文本多样性，流畅性和时间上的一致性

    May, 2022

  • 带提示的预训练语言模型用于时间知识图谱补全

    本文提出了一种基于预训练语言模型的 TKGC 模型 (PPT)，通过将时间戳之间的间隔转换为不同的提示来提取暗示的语义信息以形成连贯的句子，并使用蒙版策略将 TKGC 任务转换为蒙版标记预测任务，有效地将时间知识图中的信息整合到语言模型中，具有较高的竞争力。

    May, 2023

  • 离散提示嵌入的连续提示生成

    通过离散提示嵌入的方法，我们提出了一种构建连续提示的新方法，以提高连续提示的可解释性和推理准确性，验证了在自然语言理解任务中使用线性组合这些提示会获得更好性能的权重预测模型。

    Dec, 2023

  • 可控文本朗读：基于文本描述的文本朗读系统

    本研究开发了一个名为 PromptTTS 的语音合成系统，利用文本描述来指导语音的生成，从而实现了对语音风格的精确控制。与已有的控制语音风格的技术相比，PromptTTS 更加用户友好。实验表明，PromptTTS 可以生成具有精确风格控制和高质量的语音。

    Nov, 2022

  • 非自然语言处理：语言模型如何处理机器生成的提示？

    语言模型提示优化研究表明，通过无明显意义或语法结构的自动生成的令牌序列，包括模型嵌入空间中的向量序列，通常胜过语义和语法良好的手工制作的提示。我们使用机器生成的提示来探究模型对非自然语言表达组成的输入的响应，并在多个语义任务中研究不同尺寸模型的行为，以及它们对连续和离散机器生成的提示和人工生成的自然语言提示的响应行为进行比较。即使产生相似的输出，机器生成的和人工提示通过网络处理途径触发不同的响应模式，包括不同的困惑度、不同的注意力和输出熵分布，以及不同的单元激活特征。我们提供了对不同提示类型激活的单元性质的初步洞察，表明只有自然语言提示才会引起真正的语言电路的激活。

    Oct, 2023

  • PromptTTS 2: 使用文本提示描述和生成声音

    基于 PromptTTS 2，本研究通过利用变异网络和生成提示管道来解决基于文本提示的文本到语音 (TTS) 方法的挑战，提供声音的多样性信息并生成高质量的文本提示，从而产生与文本提示一致且具有多样性的声音。

    Sep, 2023