Mar, 2024

通过提示工程增强情绪操纵在人工智能大型语言模型中的虚假信息生成

PDF
TL;DROpenAI 大型语言模型通过提示工程生成合成的虚假信息，本研究探讨了它们对情感提示的响应，并设计了实验来评估它们产生虚假信息的成功程度，研究发现 OpenAI 的所有语言模型都能成功产生虚假信息，并且它们有效地对情感提示作出回应，表明它们在文本生成中对情感暗示有细致的理解。当礼貌地发出提示时，所有检查的语言模型都会以高频率生成虚假信息，相反地，当不礼貌地发出提示时，虚假信息的产生频率减少，模型通常拒绝产生虚假信息，而是提醒用户该工具不用于此类目的。这项研究对于关于负责任的 AI 技术开发和应用的持续讨论具有重要意义，尤其是在减少虚假信息传播和促进 AI 生成内容的透明度方面。
发现论文，激发创造
  • 情绪刺激：通过心理学为大型语言模型提升增强

    大语言模型通过 EmotionPrompt 在情绪智能方面进行性能提升，取得了显著的成果，有助于人类与语言模型的跨学科知识交互。

    Jul, 2023

  • 以敌对的令牌对抗，生成一个虚假信息检测数据集

    通过使用大型语言模型（LLMs）生成语言的最新成果，本文提出了一种创建辨别虚假信息的银标准真实数据集的方法，通过在受信任的新闻文章上构建 LLMs 的提示，自动生成该文章的摘要版本，并针对性地生成具体类型的事实错误，如错误数量、错误归属等，以研究此数据集的实用性，并进行了一系列的实验，训练了一系列用于辨别虚假信息的监督模型。

    Jan, 2024

  • 消极刺激与心理学在大型语言模型增强中的应用

    负性提示将消极情绪刺激引入大型语言模型，提供了一种提高性能的机制，通过实验评估和注意力可视化得到了相关结果，为真实世界应用中大型语言模型的改进提供了新的见解。

    May, 2024

  • 利用自然语言提示控制语音合成中的情感

    我们提出了一种通过由情感丰富的文本衍生出的嵌入来作为提示信息的系统，通过在基于 Transformer 的架构内多次集成发言者和提示信息的联合表示。我们的方法在合并情感语音和文本数据集上进行训练，并在每次训练迭代中变化提示信息，以增加模型的泛化能力。客观和主观评估结果表明，该条件合成系统能够准确地将提示中的情感转移到语音中。同时，保持了发言者身份的精确可追踪性以及整体的高话语质量和可理解性。

    Jun, 2024

  • 辨别虚假信息：在 LLMs 时代的不断挑战

    通过回答三个研究问题，本研究探讨了利用大型语言模型（LLMs）生成的谣言和虚假信息对目前存在的谣言检测技术的影响，以及通过使用 LLMs 作为强大的谣言防御手段以及针对这一威胁的新方法的可能性。

    Sep, 2023

  • 基于极大语言模型的谣言评估

    利用会话式引导工程的大型语言模型来对抗数字虚假信息，通过扩展 RumourEval 任务的研究努力，从事推特数据集的真实性预测和立场分类，以 AI 社会公益为主要目标。

    Apr, 2024

  • 探索 LLM 生成的虚假新闻的欺骗力：对现实世界检测挑战的研究

    最近大规模语言模型（LLMs）的进展使得虚假新闻的制造成为可能，本研究旨在确定提示技术是否能够有效缩小 LLM 生成的虚假新闻的欺骗性差距，通过提出一种名为条件变分自编码类提示（VLPrompt）的强大虚假新闻攻击方法，该方法无需额外的数据采集，并且保持了上下文的一致性和原始文本的细节。为了推动 VLPrompt 攻击的检测研究，我们创建了一个新的数据集名为 VLPrompt 虚假新闻（VLPFN），其中包含真实文本和假文本。我们进行了各种检测方法和新颖的人类研究指标的实验，来评估它们在我们的数据集上的性能，得出了众多发现。

    Mar, 2024

  • 大型语言模型的虚假信息能力

    利用 10 个大型语言模型研究其自动化虚假信息生成能力，发现该能力可生成具有威胁性的新闻文章并且难以被检测出。

    Nov, 2023

  • 用火攻火：LLM 在制作和检测隐蔽虚假信息中的双重作用

    我们提出了一种新型的 “以毒攻毒” 策略，利用现代大型语言模型的生成和推理能力来对抗人类撰写和大型语言模型生成的虚假信息。通过使用 GPT-3.5-turbo 合成真实和具有欺骗性的大型语言模型生成内容，并结合上下文语义推理技术判断真实和虚假的帖子和新闻文章，我们观察到 GPT-3.5-turbo 在不同数据集上的优越性，准确率达到 68-72%。

    Oct, 2023

  • 人工智能中的情感探析：善、恶与原因

    该研究通过将心理学理论纳入生成型 AI 模型中，提出了利用 EmotionPrompt 增强模型性能、EmotionAttack 削弱模型性能以及 EmotionDecode 解释情绪刺激效果的三种方法，实验证明 EmotionPrompt 能提升模型性能，EmotionAttack 能阻碍模型表现，并揭示了 AI 模型可以类似于人类大脑中的多巴胺机制理解情绪刺激。此研究为通过心理学探索提升我们对生成型 AI 模型的理解打开了新途径。

    Dec, 2023