May, 2024
街坊里的影响力人物：误导信息创造者如何使用智能 AI
The Influencer Next Door: How Misinformation Creators Use GenAI
Amelia Hassoun, Ariel Abonizio, Beth Goldberg, Katy Osborn, Cameron Wu
TL;DR鉴于生成式人工智能（GenAI）的进展引发了对检测和区分人工生成内容和人类生成内容的关注，本研究通过 2022 年至 2023 年的纵向民族志研究发现，GenAI 支持拼凑工作，即非专家越来越多地使用 GenAI 来重新混合、重新包装和（重新）生成内容以满足他们的个人需求和欲望。本研究得出了四个主要发现：首先，参与者主要使用 GenAI 进行创作，而不是寻求真相。其次，传播 “影响力百万富翁” 叙事推动参与者成为内容创作者，使用 GenAI 作为生产工具来生成大量（通常是误导性的）内容。第三，GenAI 降低了跨模态内容创作的门槛，吸引消费者成为创作者并显著增加现有创作者的产出。最后，参与者使用 GenAI 学习和使用营销策略来扩大参与度并将其内容商品化。我们主张将分析焦点从将公众视为 AI 内容的消费者转向将他们视为创作工者，他们在很大程度上无需了解其基础技术。我们分析了这些较少研究的 GenAI 新兴用途如何产生新的或加速的误导危害，并探讨了它们对 AI 产品、平台和政策的影响。