关注论文:生成式人工智能如何重塑数字阴影产业?
本文旨在探讨 AI 生成内容(AIGC)的三个主要问题:隐私、偏见、毒性、误导和知识产权的风险,并提供解决这些风险的可行方向,以实现 AIGC 的负责任和安全部署。
Mar, 2023
本文针对 AI 基模型带来的 AI 生成内容(AIGC)涉及的工作原理、安全和隐私威胁、最新解决方案、以及未来挑战等方面做出了深入调查,主要讨论了 AIGC 的架构、工作模式和关键特征、安全和隐私威胁、道德和社会影响,最后针对 AIGC 未来的挑战和研究方向进行了总结。
May, 2023
最近几年,大型语言模型和扩散模型等生成人工智能模型在内容生产方面产生了革命性的影响,其生成的内容已嵌入到日常生活和工作的各个方面,涵盖了文本、图像、视频和音频。尽管人工智能生成的内容的真实性越来越高,接近人类创作水平,但这些技术也导致了伪造的人工智能生成内容的出现,给真伪信息的鉴别带来了新的挑战。本文提出了一个新的分类方法,更全面地介绍了目前伪造的人工智能生成内容的方法。接下来,我们探讨了伪造的人工智能生成内容的模态和生成技术,归类为人工智能生成的虚假信息和误导信息。在多个角度上,我们介绍了伪造的人工智能生成内容的检测方法,包括欺骗性伪造的检测、深度伪像的检测和错觉性伪造的检测。最后,我们讨论了未来研究的重要挑战和有希望的研究领域。
Apr, 2024
生成式人工智能技术(GenAI)可能被用于积极和消极目的,这篇论文讨论了 GenAI 所带来的双重用途困境,并提出了针对此问题的短期和长期目标,旨在引发学术界对此重要主题的深入讨论。
Aug, 2023
本文系统地回顾了 AIGC 的概念、分类和基础技术,讨论了从多个角度面临的隐私和安全挑战,并针对性地列出了当前存在的应对措施。作者希望这项调查能帮助研究人员和企业构建更安全、更健壮的 AIGC 系统。
Jun, 2023
本文深入讨论了基于人工智能技术生成内容的 AIGC,对其定义、关键条件、可重要的现有和未来特性、庞大的预训练模型带来的优势、工业链以及 AIGC 内部辅助生成和自动生成之间的区别进行了探讨,最后探讨了 AIGC 与元宇宙的潜在整合,旨在揭示 AIGC 的现有问题并提供未来应用方向。
Mar, 2023
本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御,通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。
Jun, 2023
生成式 AI 模型的应用带来了数字化机会,同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前,公司、机构、开发者和操作员都应进行风险分析,并相应地调整和采取安全措施。
Jun, 2024
生成式人工智能在模拟真实图像、文本和数据模式方面展示了令人瞩目的能力,然而,大规模数据集的使用引发了对数据隐私和版权侵权的担忧,传统方法只能提供问题的局部解决方案。我们的论文对数据生命周期内的隐私和版权保护面临的多层面挑战进行了深入研究,并主张综合技术创新与伦理思考来综合性地解决这些问题,以生命周期的视角开展调查和设计解决方案,旨在激发更广泛的讨论,并在生成式人工智能中积极推动数据隐私和版权完整性的共同努力。
Nov, 2023
该研究综述了生成模型的历史和基本组成部分,并从单模态和多模态交互的角度介绍了文本和图像生成任务及相关模型,讨论了人工智能生成内容领域中的开放性问题和未来挑战。
Mar, 2023