人类对稳定扩散态 v1、DALL-E 2 和 DALL-E 3 表达的情绪的改进情感调整

May, 2024

人类对稳定扩散态 v1、DALL-E 2 和 DALL-E 3 表达的情绪的改进情感调整

Improved Emotional Alignment of AI and Humans: Human Ratings of Emotions Expressed by Stable Diffusion v1, DALL-E 2, and DALL-E 3

PDF

James Derek Lomas, Willem van der Maden, Sohhom Bandyopadhyay, Giovanni Lion, Nirmal Patel...

TL;DR生成型 AI 系统的情感表达能力对于 AI 系统的有效性至关重要，特别是那些旨在支持人类心理健康的系统。本研究旨在通过设计一项调查，测量生成型 AI 表达的情感与人类感知的一致性，以回答 AI 如何成功地表达特定情感的问题。通过评估多个生成型图像模型在表达积极和消极情感方面的表现，并分析其中的性能差异，我们发现生成型 AI 模型能够表达出与人类情感相一致的情感表达，但这种一致性在不同 AI 模型和情感本身上存在显著差异，我们还对未来改进的领域进行了分析，并讨论了对于旨在支持心理健康的未来 AI 系统的意义。

Abstract

generative ai systems are increasingly capable of expressing emotions via text and imagery. Effective emotional expression will likely play a major role in the efficacy of AI systems -- particularly those designe

generative ai emotional expression alignment human perception mental health

发现论文，激发创造

情感画像：通过 AI 生成艺术作品赋予自我表达能力

该研究探讨了生成人工智能在反映作者认知过程、进行创意表达方面的潜力和限制，发现根据创意、美学、新颖性、娱乐性和深度等标准，AI 生成的艺术作品能够理解人类意图和基于情感进行视觉表现，并发现过度表现某些元素或刻板印象的图像对于 AI 的对齐性有负面影响。研究结果表明，AI 在促进创造力和自我情感表达方面具有潜力，而采用生成 AI 的框架可以帮助设计相关领域的人工智能干预措施（例如心理健康教育、治疗和咨询）。

Apr, 2023

人工智能中的情感探析：善、恶与原因

该研究通过将心理学理论纳入生成型 AI 模型中，提出了利用 EmotionPrompt 增强模型性能、EmotionAttack 削弱模型性能以及 EmotionDecode 解释情绪刺激效果的三种方法，实验证明 EmotionPrompt 能提升模型性能，EmotionAttack 能阻碍模型表现，并揭示了 AI 模型可以类似于人类大脑中的多巴胺机制理解情绪刺激。此研究为通过心理学探索提升我们对生成型 AI 模型的理解打开了新途径。

Dec, 2023

面向社交机器人的数据驱动情感身体语言生成

采用深度学习生成模型来生成机器人情感表情，通过几个手动设计的机器人身体表达生成一个新的符合上下文感知的表达。评估结果表明，生成的表情与手动设计的表情没有显著差异，且能达到不同目标情绪的效果。

May, 2022

生成人工智能中的偏见

这项研究分析了由三种流行的生成人工智能工具生成的图像 - Midjourney、Stable Diffusion 和 DALLE 2 - 代表各种职业，以调查 AI 生成器中潜在的偏见。我们的分析揭示了这些 AI 生成器中两个主要关注领域，包括（1）系统性的性别和种族偏见，以及（2）面部表情和外貌方面的微妙偏见。

Mar, 2024

基于自动对话系统的情感智能对话生成研究

该研究将情感智能技术整合进自动对话系统中，通过深度学习和自然语言处理技术创建了一个具有情感智能的对话生成模型。该模型能够实时检测和理解广泛的情绪和特定的疼痛信号，使系统能够提供共情互动。通过整合研究 “人工智能能检测疼痛并表达痛苦共情吗？” 的结果，增强了模型理解痛苦共情的微妙元素的能力，为情感智能对话系统设定了更高的标准。该项目旨在为将先进的情感智能能力整合到对话系统中提供理论理解和实际建议，从而提高用户体验和交互质量。

Apr, 2024

DALL-E 2 的伦理状况

研究了人工智能图像生成系统的伦理问题，着重分析了社会对此的回应以及应对措施。

May, 2024

生成智能体是否能预测情感？

我们研究了情感生成语言模型代理的情绪状态如何随着感知到新事件而演变，并引入了一种新的架构，其中将新经历与过去记忆进行比较，通过此比较，代理获得了在情感创造中至关重要的基于上下文的理解新经历的能力。

Feb, 2024

笑脸女性下降：审计图像生成 AI 中的代表性和呈现性性别偏见

本研究分析了 15,300 个 DALL-E 2 图像，发现其在男性主导领域中低估女性，而在女性主导领域中高估女性，同时揭示了这些图像中的性别偏见，需要采取女性主义干预手段以防止这些带有偏见的 AI 生成图片反馈到媒体生态环境中。

May, 2023

情感感知聊天机器：为类人情感互动生成自动情感响应

本文通过提出统一的端到端神经架构，实现对发帖的语义和情感的编码，以生成智能回复和恰当表达情感，实验证明在内容连贯性和情感适当性方面优于现有方法。

Jun, 2021

基于情境背景的情感神经语言生成

本研究提出了一种基于情感上下文的语言建模方法，可以更有效地考虑语言生成过程中的情感内容。使用 Empathetic-Dialogues 语料库进行实验，相较于现有方法，本方法在困惑度指标上提高了 5 个百分点，并获得了更高的 BLEU 指标分数。

Nov, 2019