Apr, 2024

虚假人工智能生成内容（FAIGC）：理论、检测方法和机会综述

PDF
TL;DR最近几年，大型语言模型和扩散模型等生成人工智能模型在内容生产方面产生了革命性的影响，其生成的内容已嵌入到日常生活和工作的各个方面，涵盖了文本、图像、视频和音频。尽管人工智能生成的内容的真实性越来越高，接近人类创作水平，但这些技术也导致了伪造的人工智能生成内容的出现，给真伪信息的鉴别带来了新的挑战。本文提出了一个新的分类方法，更全面地介绍了目前伪造的人工智能生成内容的方法。接下来，我们探讨了伪造的人工智能生成内容的模态和生成技术，归类为人工智能生成的虚假信息和误导信息。在多个角度上，我们介绍了伪造的人工智能生成内容的检测方法，包括欺骗性伪造的检测、深度伪像的检测和错觉性伪造的检测。最后，我们讨论了未来研究的重要挑战和有希望的研究领域。
generative artificial intelligence modelsartificial intelligence-generated contentfake artificial intelligence generated contentfaigc detection methodsfuture research
发现论文，激发创造
  • 人工智能生成内容的综合调查（AIGC）：从 GAN 到 ChatGPT 的生成式人工智能历史

    该研究综述了生成模型的历史和基本组成部分，并从单模态和多模态交互的角度介绍了文本和图像生成任务及相关模型，讨论了人工智能生成内容领域中的开放性问题和未来挑战。

    Mar, 2023

  • AI 生成内容（AIGC）：一项调查

    本文深入讨论了基于人工智能技术生成内容的 AIGC，对其定义、关键条件、可重要的现有和未来特性、庞大的预训练模型带来的优势、工业链以及 AIGC 内部辅助生成和自动生成之间的区别进行了探讨，最后探讨了 AIGC 与元宇宙的潜在整合，旨在揭示 AIGC 的现有问题并提供未来应用方向。

    Mar, 2023

  • 通往 AI 生成内容负责任化的路径

    本文旨在探讨 AI 生成内容（AIGC）的三个主要问题：隐私、偏见、毒性、误导和知识产权的风险，并提供解决这些风险的可行方向，以实现 AIGC 的负责任和安全部署。

    Mar, 2023

  • 聊天 GPT 的调查: AI 生成的内容、挑战和解决方案

    本文针对 AI 基模型带来的 AI 生成内容（AIGC）涉及的工作原理、安全和隐私威胁、最新解决方案、以及未来挑战等方面做出了深入调查，主要讨论了 AIGC 的架构、工作模式和关键特征、安全和隐私威胁、道德和社会影响，最后针对 AIGC 未来的挑战和研究方向进行了总结。

    May, 2023

  • AI 生成内容的偏见：对大型语言模型所产生新闻的研究

    调查了七种代表性大型语言模型生成的 AI 生成内容的性别和种族偏见，研究发现每个语言模型生成的内容存在明显的性别和种族偏见，其中 ChatGPT 生成的内容偏见最低且能够拒绝产生带有偏见的内容。

    Sep, 2023

  • 关于水印人工智能生成内容的弱点研究

    人工智能生成内容 (AIGC) 在社交媒体上越来越受欢迎，其服务利用先进的生成模型，如潜在扩散模型和大型语言模型，为用户生成创意内容 (例如逼真的图像，流畅的句子)。本文展示了水印在生成的内容中的易破解性，并提出了 WMaGi 框架，通过利用预训练的扩散模型和生成对抗网络实现水印的移除和伪造，从而实现对生成内容的高速攻击。

    Sep, 2023

  • 人工智能生成内容（AIGC）的语义通信：朝着有效内容创作迈进

    通过引入内容生成层，将人工智能生成内容 (AIGC) 与语义通讯 (SemCom) 结合起来，提供了清晰的 AIGC 与 SemCom 之间互动产生有意义和有效内容的概念模型，并提出了一种基于 AIGC 技术的语义信息编码器和解码器的新框架，以优化 AIGC 服务的语义提取和评估指标，从而适应不同类型的内容生成、所需质量和语义信息使用。通过使用深度 Q 网络 (DQN)，展示了对优化问题的可行性和收敛特性的有益见解。

    Aug, 2023

  • AIGCs 对 AI 的混淆：探究和解释大型视觉语言模型中由合成图像引起的幻觉

    人工智能生成内容的进化朝着更高质量的方向发展，与人工智能生成内容的不断交互给数据驱动的人工智能社区带来了新的挑战：尽管 AI 生成的内容在广泛的 AI 模型中扮演着关键角色，但它们引入的潜在风险尚未得到充分的审查。本研究突出了由 AI 合成图像引起的大型视觉语言模型中的严重幻觉现象，结果发现合成图像引起的物体幻觉特点是数量更多且位置分布更均匀，即使这些合成图像与自然图像相比没有呈现非现实或额外相关的视觉特征。此外，我们对 Q-former 和线性投影仪的研究发现，视觉投影后合成图像可能呈现令牌偏差，从而放大幻觉偏差。

    Mar, 2024

  • 多数据模态的人工智能通用计算：综述

    AI 生成内容（AIGC）方法旨在使用 AI 算法产生文本、图像、视频、3D 资产和其他媒体。本文综述了跨不同数据模态的 AIGC 方法，包括单模态和多模态，重点介绍了各种挑战、代表性研究以及最近的技术方向，并在各种模态中提供了对多个基准数据集的比较结果。此外，本文还讨论了挑战和未来研究方向。

    Aug, 2023

  • 探测人工智能生成的文本：当前方法中影响可检测性的因素

    大语言模型（LLM）已经发展到一个即使是人类也很难分辨文本是否由其他人类或计算机生成的程度。本文概述了现有的 AI 生成文本（AIGT）检测方法，包括水印、统计和风格分析以及机器学习分类，并提供了有关该任务的现有数据集的信息。总结研究结果，我们旨在揭示在不同情境下决定 AIGT 文本 “可检测性” 的突出因素，并就解决这一重大技术和社会挑战提出实际建议。

    Jun, 2024