Apr, 2024

文本至视频生成 AI 模型的新兴治理挑战：Sora 的非凡与可怕

PDF
TL;DR通过定性社交媒体分析人们对 Sora OpenAI 模型的感知影响和关注进行研究，发现人们最关注 Sora 对内容创作相关产业的影响以及监管方面的挑战，包括 AI 生成内容的真实性与虚假性、人类自主权、数据隐私、版权问题和环境影响等。为了在 Sora 公开发布之前进行调节，我们提出了政策建议，包括 AI 内容标注的法律限制和公众 AI 素养教育。
发现论文，激发创造
  • Sora: 大尺度视觉模型的背景、技术、限制和机遇综述

    This paper provides a comprehensive review of the Sora text-to-video generative AI model, including its background, applications, challenges, and future directions.

    Feb, 2024

  • 从索拉所见：文本到视频生成的调查

    通过对 Sora 进行文本到视频生成的拆解以及文献综述，我们从不同角度对其进行了全面回顾，总结了人工智能和人工一般智能的发展现状，介绍了常用的数据集和评估指标，并提出了该领域的挑战和未来研究方向。

    May, 2024

  • Sora 作为 AGI 世界模型？关于文本转视频生成的全面调查

    文本到视频生成技术的进展与 Sora 模型的发展路径和应用，以及技术挑战与未来改进方向进行全面探讨，旨在促进文本到视频生成领域的创新与讨论。

    Mar, 2024

  • Mora: 通过多代理框架实现通用视频生成

    该论文介绍了一个名为 Sora 的大规模通用视频生成模型，随后提出了一个新的多智能体框架 Mora，通过多个视觉 AI 代理来复制 Sora 展示的通用视频生成能力，成功模拟了 Sora 在各种任务中的视频生成能力，并希望通过合作的 AI 代理引导未来的视频生成方向。

    Mar, 2024

  • WorldGPT: 一个受 Sora 启发的视频 AI 代理，将文本和图像输入作为丰富的世界模型

    通过使用基于 Sora 的多模态学习，利用文本提示和相关图像来构建熟练的世界模型框架，该方法在维护时间一致性和确保动作流畅性方面表现出强大的效果和创新性。

    Mar, 2024

  • Sora 是否是世界模拟器？关于一般世界模型及其拓展的综述

    通过综述世界模型的最新进展，该研究探讨了世界模型在视频生成、自动驾驶以及部署在自主代理人中的关键作用，并讨论了其挑战、限制和未来发展方向。

    May, 2024

  • 检测像 Sora 这样的 AI 生成视频中的关键内容

    通过实验分析外观、运动和几何等方面，在外观、运动和几何等方面对比了真实世界的视频和由先进 AI 模型生成的视频，揭示了真实世界视频与合成视频之间的差距，并提出了集成外观、光流和深度信息的专家集合模型以进行假视频检测，提高了鲁棒性和泛化能力。

    Jun, 2024

  • AI 影像与欧弟顿窗

    本文是一篇文献综述，探讨了 AI 生成模型在静态和交互媒体中简化视觉创造流程的巨大潜力及其在技术和伦理方面对多个重要产业的影响，涵盖了 AI 文本到图像生成、Midjourney、Stable Diffusion、AI 伦理、游戏设计、数字艺术和数据洗白等方面的关注点和挑战，以及如何通过适当的监管解决相关的法律、伦理等问题。

    May, 2023

  • 探究生成人工智能和互联网相互作用

    本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

    Jun, 2023

  • 评估和缓解视觉生成人工智能中的知识产权侵权

    通过对视觉生成 AI 模型进行广泛评估，我们发现当输入提示包含角色的名称或其特征的描述时，最先进的视觉生成模型能够生成与主要娱乐公司（如索尼、漫威和任天堂）持有的知识产权相似的内容，由此引发潜在的法律担忧。为了减轻此类知识产权侵权问题，我们提出一种防御方法，通过在扩散过程中利用引导技术，开发了一种修订生成范例，这种范例能够识别可能侵权的生成内容，并在整个扩散过程中减轻侵权行为，而无需重新训练或微调预训练模型。对 Spider-Man、Iron Man 和 Superman 等知名角色的实验表明了所提出的防御方法的有效性。

    Jun, 2024