探索滥用生成式人工智能模型在Civitai的使用
本文是一篇文献综述,探讨了AI生成模型在静态和交互媒体中简化视觉创造流程的巨大潜力及其在技术和伦理方面对多个重要产业的影响,涵盖了AI文本到图像生成、Midjourney、Stable Diffusion、AI伦理、游戏设计、数字艺术和数据洗白等方面的关注点和挑战,以及如何通过适当的监管解决相关的法律、伦理等问题。
May, 2023
本文研究探讨了生成AI技术中,AI加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况,从而产生社会影响。同时,对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。
Jun, 2023
这篇研究论文探讨了人工智能生成图像的创作方式以及弊端,如训练数据的偏见、合成数据常态化可能导致未来图像生成系统的质量下降,以及文本生成图像对人们想象力、抱负和发展的潜在长期影响。
Jun, 2023
通过对7位艺术家的访谈和社交媒体平台Reddit、Twitter和Artstation上艺术家的公开帖子进行分析,我们研究了艺术家对人工智能生成的艺术的情感。我们报告了艺术家对人工智能生成艺术作品的主要关注和希望,为包容性地开发这些工具提供了前进方向。
Nov, 2023
社交奖励作为一种社区认可形式,是在线平台用户参与和贡献内容的强大动力。最近文本驱动的图像合成的进展开启了人工智能赋予用户创作原创视觉艺术,并寻求社区认可的协作时代。本研究在集体社区偏好的背景下评估这些模型带来了独特的挑战。现有的评估方法主要集中在用户研究上,以图像质量和提示对齐为导向。本研究首创了一种新的奖励建模框架——社交奖励,利用社交网络用户对生成图像进行创作编辑的隐式反馈。通过从在线视觉创作和编辑平台Picsart搜集数据集,我们发现了当前度量社区创作偏好的指标的不足之处,并引入了一种专门解决这些限制的预测模型。严格的定量实验和用户研究表明,我们的社交奖励模型比现有的度量指标更符合社交受欢迎程度。此外,我们利用社交奖励来微调文本驱动的图像生成模型,得到不仅社交奖励喜欢,而且其他已有度量指标也更看好的图像。这些发现突显了社交奖励在评估人工智能生成的艺术品中社区认可的相关性和效果,与用户的创作目标——创作热门视觉艺术更为接近。
Feb, 2024
人工智能的生成性进展使真实和机器生成的内容之间的界限变得模糊,尤其在社交媒体上使用AI生成的图片来伪造个人资料。我们进行了首次大规模调查,研究发现Twitter上的AI生成头像占总头像数量的0.052%。我们对这些账户及其推文内容进行了全面分析,并揭示了协同不真实行为的模式。研究结果还揭示了垃圾邮件和政治放大战略等多种动机。这一研究结果再次证实了需要制定有效的检测和缓解策略来应对未来生成性人工智能可能带来的负面影响。
Apr, 2024
该研究论文提出了一种系统性尝试,以理解和检测在对抗场景中生成的AI图像(AI艺术)。该论文收集和分享了一个名为ARIA的数据集,其中包含来自四种热门AI图像生成器生成的真实图像和对应的人工对应图像。通过对ARIA数据集进行用户研究和基准测试,评估了真实世界用户和现有AI图像检测器在识别这些图像上的能力,并介绍了一个ResNet-50分类器,并评估了它在ARIA数据集上的准确性和可迁移性。
Apr, 2024
通过定性社交媒体分析人们对Sora OpenAI模型的感知影响和关注进行研究,发现人们最关注Sora对内容创作相关产业的影响以及监管方面的挑战,包括AI生成内容的真实性与虚假性、人类自主权、数据隐私、版权问题和环境影响等。为了在Sora公开发布之前进行调节,我们提出了政策建议,包括AI内容标注的法律限制和公众AI素养教育。
Apr, 2024
该论文呼吁建立适应技术发展并保障公共利益的监管框架,通过研究文本到图像生成器和纠正有关生成智能和用户交互的误解,挑战知识产权办公室不承认生成智能用户为版权保护资格的观点,并主张将这些工具融入到创作活动中的生成智能用户得到认可的简化和简化注册流程。
Mar, 2024