生成人工智能对假新闻影响调查
我们使用自然语言处理方法对 1876 条新闻数据进行预处理,通过训练模型将假新闻和真实新闻进行分类,最终通过 Naive Bayes 分类器得出 56% 的准确率和平均 32% 的 F1-macro 得分。
Sep, 2023
鉴于生成式人工智能(GenAI)的进展引发了对检测和区分人工生成内容和人类生成内容的关注,本研究通过 2022 年至 2023 年的纵向民族志研究发现,GenAI 支持拼凑工作,即非专家越来越多地使用 GenAI 来重新混合、重新包装和(重新)生成内容以满足他们的个人需求和欲望。本研究得出了四个主要发现:首先,参与者主要使用 GenAI 进行创作,而不是寻求真相。其次,传播 “影响力百万富翁” 叙事推动参与者成为内容创作者,使用 GenAI 作为生产工具来生成大量(通常是误导性的)内容。第三,GenAI 降低了跨模态内容创作的门槛,吸引消费者成为创作者并显著增加现有创作者的产出。最后,参与者使用 GenAI 学习和使用营销策略来扩大参与度并将其内容商品化。我们主张将分析焦点从将公众视为 AI 内容的消费者转向将他们视为创作工者,他们在很大程度上无需了解其基础技术。我们分析了这些较少研究的 GenAI 新兴用途如何产生新的或加速的误导危害,并探讨了它们对 AI 产品、平台和政策的影响。
May, 2024
生成人工智能(AI)的崛起引发了对其对失业和市场萧条的潜在影响的担忧。本研究通过考察生成 AI 对产品市场的影响来解决这一问题。出人意料的是,研究结果表明虽然生成 AI 降低了平均价格,但显著提高了订单数量和总收入,这与预期相反。该研究进一步提供了理论经济解释,以阐明这一意外现象。通过提供经验证据,本文驳斥了生成 AI 可能导致市场萧条的观点,反而强调了其促进市场繁荣的潜力。这些发现对从业者、政策制定者和广大 AI 社区具有重要意义。
Nov, 2023
本文使用 R 代码研究和可视化现代 fake news 数据集,通过聚类、分类、相关性和各种图表分析及呈现数据,并展示了分类器在分辨真假新闻方面的高效性。
Aug, 2022
使用机器学习算法分析媒体新闻的语言特征,以区分真假新闻,主要解决神经假新闻生成、机器生成的标题、文本和图像标题之间的语义矛盾等问题。同时提出应用特征集和类别、特征之间的相关性计算相关属性评估指标和计算属性变量的协方差指标来模拟这些问题。其中独特、负面、积极和基数数字特征在度量中得分高,能够提供高的 AUC 和 F1-score。
Nov, 2022
本文研究探讨了生成 AI 技术中,AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况,从而产生社会影响。同时,对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。
Jun, 2023
本文旨在探讨生成深度学习算法如何创作和侦测 Deepfakes,并提供对其工作原理的深入了解以及当前领域的趋势和进展、目前防御解决方案的不足之处以及需要进一步研究和关注的领域。
Apr, 2020
本研究探讨生成型人工智能(AI)如何改变市场营销、产品开发和研究,讨论了该领域的最新发展、易于使用的资源以及道德和社会危害。除了解决偏见和虚假信息等问题的缓解技术外,辩论强调通过持续的利益相关者沟通和道德原则实现负责任的发展的重要性。
Nov, 2023
AI 引发了对公众意见的操纵和扭曲,本研究以三个方面为基础,展示了 AI 制造虚假 UGC 的能力,量化了 UGC 对市场研究的干扰影响,并提出和评估了高级检测框架,呼吁综合手段保护市场研究的安全,包括高级算法解决方案、人工审核和伦理规范,为未来研究和制定政策提供基础。
Mar, 2024