通往 AI 生成内容负责任化的路径
本文深入讨论了基于人工智能技术生成内容的 AIGC,对其定义、关键条件、可重要的现有和未来特性、庞大的预训练模型带来的优势、工业链以及 AIGC 内部辅助生成和自动生成之间的区别进行了探讨,最后探讨了 AIGC 与元宇宙的潜在整合,旨在揭示 AIGC 的现有问题并提供未来应用方向。
Mar, 2023
该研究综述了生成模型的历史和基本组成部分,并从单模态和多模态交互的角度介绍了文本和图像生成任务及相关模型,讨论了人工智能生成内容领域中的开放性问题和未来挑战。
Mar, 2023
本文针对 AI 基模型带来的 AI 生成内容(AIGC)涉及的工作原理、安全和隐私威胁、最新解决方案、以及未来挑战等方面做出了深入调查,主要讨论了 AIGC 的架构、工作模式和关键特征、安全和隐私威胁、道德和社会影响,最后针对 AIGC 未来的挑战和研究方向进行了总结。
May, 2023
最近几年,大型语言模型和扩散模型等生成人工智能模型在内容生产方面产生了革命性的影响,其生成的内容已嵌入到日常生活和工作的各个方面,涵盖了文本、图像、视频和音频。尽管人工智能生成的内容的真实性越来越高,接近人类创作水平,但这些技术也导致了伪造的人工智能生成内容的出现,给真伪信息的鉴别带来了新的挑战。本文提出了一个新的分类方法,更全面地介绍了目前伪造的人工智能生成内容的方法。接下来,我们探讨了伪造的人工智能生成内容的模态和生成技术,归类为人工智能生成的虚假信息和误导信息。在多个角度上,我们介绍了伪造的人工智能生成内容的检测方法,包括欺骗性伪造的检测、深度伪像的检测和错觉性伪造的检测。最后,我们讨论了未来研究的重要挑战和有希望的研究领域。
Apr, 2024
本文系统地回顾了 AIGC 的概念、分类和基础技术,讨论了从多个角度面临的隐私和安全挑战,并针对性地列出了当前存在的应对措施。作者希望这项调查能帮助研究人员和企业构建更安全、更健壮的 AIGC 系统。
Jun, 2023
近年来,生成性人工智能(GenAI)如大型语言模型和文本到图像模型,在各个领域引起了重大关注。然而,确保这些模型生成的内容是负责任的对于它们在实际应用中的重要性至关重要。本文就文本和图像生成模型的实际负责任要求进行了调查研究,概述了五个关键考虑因素:生成真实内容、避免有害内容、拒绝有害指令、泄露与训练数据相关的内容以及确保生成的内容可识别。具体来说,我们回顾了解决这些要求的最新进展和挑战。此外,我们讨论并强调了在医疗保健、教育、金融和人工智能领域中负责任的 GenAI 的重要性。通过统一的文本和图像生成模型视角,本文旨在为实际安全相关问题提供见解,并进一步造福于建设负责任的 GenAI 了解相关社区。
Apr, 2024
通过引入内容生成层,将人工智能生成内容 (AIGC) 与语义通讯 (SemCom) 结合起来,提供了清晰的 AIGC 与 SemCom 之间互动产生有意义和有效内容的概念模型,并提出了一种基于 AIGC 技术的语义信息编码器和解码器的新框架,以优化 AIGC 服务的语义提取和评估指标,从而适应不同类型的内容生成、所需质量和语义信息使用。通过使用深度 Q 网络 (DQN),展示了对优化问题的可行性和收敛特性的有益见解。
Aug, 2023
AI 生成内容(AIGC)方法旨在使用 AI 算法产生文本、图像、视频、3D 资产和其他媒体。本文综述了跨不同数据模态的 AIGC 方法,包括单模态和多模态,重点介绍了各种挑战、代表性研究以及最近的技术方向,并在各种模态中提供了对多个基准数据集的比较结果。此外,本文还讨论了挑战和未来研究方向。
Aug, 2023
研究旨在分析中国在 AI 生成内容(AIGC)领域的现状,从基础技术和当前应用入手,探讨市场状况、政策环境和发展轨迹,并重点关注 AIGC 产品及其生态系统的建设,同时讨论 AIGC 行业面临的挑战与风险,并对未来发展进行前瞻性展望。
Aug, 2023
这项研究基于 Text-to-Video 人工智能生成内容 (AIGC) 的最新进展,针对 AIGC 视频的质量评估遇到的挑战进行了分类,并提出了特定模块来综合评估 AIGC 视频的视觉和内容一致性,在不同的生成模型中发现了重要的视觉质量、流畅度和风格差异。通过预测源生成模型,可以提高 AIGC 视频特性的差异性,从而提高质量评估性能。该方法在 NTIRE 2024 质量评估比赛中获得了第三名,展示了其有效性。
Apr, 2024