Jul, 2024

T2VSafetyBench 评估文本到视频生成模型的安全性

TL;DRSora 的最新发展带来了文本到视频(T2V)生成的新时代,但也引起了对其安全风险的关注。文章引入了 T2VSafetyBench,这个新的基准旨在进行安全关键评估,定义了视频生成安全的 12 个关键方面并构建了恶意提示数据集,结果显示了模型的异质性和使用性与安全性之间的权衡,强调了在生成 AI 时优先考虑视频安全的紧迫性。