Jan, 2024

提示異味：不良生成 AI 輸出的前兆

PDF
TL;DR近期的生成人工智能 (GenAI) 趋势关注了各种应用，包括创作故事、插图、诗歌、文章、计算机代码、音乐作品和视频。本文提出了两个新概念，旨在帮助研究界解决与应用 GenAI 模型相关的限制问题。首先，我们提出了 GenAI 输出的 “可取性” 的定义以及观察到影响其可取性的三个因素；其次，我们借鉴了 Martin Fowler 的 “代码异味” 思想，提出了 “提示异味” 的概念及其对 GenAI 输出可取性的不良影响。我们期望这项工作能为关于 GenAI 输出可取性的持续讨论做出贡献并推动该领域的进展。
generative artificial intelligenceextrinsic hallucinationsdesirabilitygenai outputsprompt smells
发现论文，激发创造
  • 生成式 AI 的 Prompt 演进：一种分类器引导的方法

    本文提出了一种利用进化算法和多目标实现的新的方式，使用图像分类器引导产生的多样性生成的技术，来改善生成模型无法连接生成输出和期望目标概念 / 偏好的局限性，通过一种通过对生成进化过程规定选择压力和变异性的方式，产生多个更符合用户偏好的图像。

    May, 2023

  • 提示报告：提示技巧的系统调查

    通过建立提示的结构化理解，本文通过整理提示技术的分类法和分析其使用，提供了 33 个词汇术语、58 种文本提示技术以及 40 种其他模态的技术，还对自然语言前缀提示的整个文献进行了元分析。

    Jun, 2024

  • 人工智能中的情感探析：善、恶与原因

    该研究通过将心理学理论纳入生成型 AI 模型中，提出了利用 EmotionPrompt 增强模型性能、EmotionAttack 削弱模型性能以及 EmotionDecode 解释情绪刺激效果的三种方法，实验证明 EmotionPrompt 能提升模型性能，EmotionAttack 能阻碍模型表现，并揭示了 AI 模型可以类似于人类大脑中的多巴胺机制理解情绪刺激。此研究为通过心理学探索提升我们对生成型 AI 模型的理解打开了新途径。

    Dec, 2023

  • 生成人工智能的创新前沿：管理新颖性和实用性的平衡

    本文通过人类创造力文献的启示，探索生成人工智能系统中新奇和实用之间的最佳平衡，提出了包括领域特定分析、数据和迁移学习、用户喜好和定制、自定义评估指标和协作机制在内的框架，旨在在特定领域内生成既新颖又有用的内容。

    Jun, 2023

  • 创造力自动化

    基于强化学习方法和计算创造力的不同研究流派，本文提出了一个三重引导 - 响应 - 奖励工程框架，以提高生成人工智能（GenAI）的创造能力。该框架包括了引导模型、响应模型和奖励模型，通过开发创造性的引导、生成出令人惊喜和创新性的输出，并结合 AI、创作者 / 管理者和客户的反馈，逐步提高生成人工智能的创造力。

    May, 2024

  • Artstation 平台无趋势：生成 AI 艺术的快速分析

    通过使用生成 AI 进行图像生成，我们收集并分析了超过 300 万个提示和它们生成的图像，通过自然语言处理、主题分析和可视化方法，我们旨在共同理解人们如何使用文本提示，这些系统对艺术家的影响以及它们所推广的视觉文化。我们的研究表明，提示主要关注表面美学，强化文化规范、流行的传统表达和意象。我们还发现许多用户关注流行的主题（如制作填色书、幻想艺术或圣诞卡片），这表明所分析的系统的主要用途是娱乐而非艺术性。

    Jan, 2024

  • 文本到图像模型的最佳提示及其发现方法

    本研究使用基因算法，结合人类反馈，学习组合最有用的提示关键字，以改善使用描述生成艺术图像的美感。

    Sep, 2022

  • 通过模型内省理解和检测神经机器翻译中的幻觉

    通过分析相对标记的贡献来确定神经序列生成模型的幻觉内在模型症状，使用这些症状设计出一个轻量级的幻觉检测器，在手动标注的英中和德英翻译测试上优于基于质量估计或大型预训练模型的分类器。

    Jan, 2023

  • 生成人工智能提升个人创造力但降低集体创意的多样性

    通过在线实验研究，我们得出结论：使用 GenAI 平台获取灵感会导致作品被评定为更具创造力、写作更好、更令人愉快，尤其是在创造力较低的作家中。然而，每个条件内的故事相似性的客观度量揭示出，相比于单独由人类创作的故事，GenAI 生成的故事更加相似。这些结果表明了个人创造力的增加，但同时也存在着过度依赖的潜在后果，可能会导致集体创新的缺失。

    Dec, 2023

  • 多种思想引导：增加人工智能创意差异

    本论文研究了利用人工智能 Enhance 创意生成过程的兴趣，通过使用 GPT-4 探索了不同提示方法对余弦相似性、独特思想数量和思想空间耗尽速度的影响，在大学生开发新产品的领域中发现，由 GPT-4 生成的可行提示的思想池比人类主体生成的思想多样性较小，通过提示工程可以大大提高人工智能生成的思想的多样性，思路链提示对于所有我们评估的提示中的思想多样性最高，并且能够生成任何我们研究过的提示的最大独特思想数量。

    Jan, 2024