Gotcha: 实时深度伪造检测挑战响应系统
在本文中,我们使用基于 GAN 的开源软件从 VidTIMIT 数据库的视频生成 Deepfake 视频,调整不同的训练和混合参数对生成视频的质量有显著影响,并表明当前的人脸识别系统和现有的检测方法都很容易受到 Deepfake 视频的干扰。
Dec, 2018
本研究旨在解决加拿大组织存在越来越多的网络攻击风险这一问题,提出了一种机器学习算法来检测 Deepfakes 现象,从而在开发和部署阶段使我们的 AI 系统更具有健壮性和安全性,加强对由国家赞助的黑客团队发起的深造假行动的及时发现以及在深度研究识别的 Deepfakes 负载时进行深入的法医分析。
Nov, 2022
本文综述了现有工具和基于机器学习的方法,用于深度伪造(Deepfake)的生成和检测,并讨论了目前的公共数据集和对技术进行性能评估的关键标准,强调了未来研究的方向。
Feb, 2021
通过综述现有的 deepfake 生成和检测技术,本文分析了基于深度学习的 deepfake 创建方法和检测技术,并讨论了当前的 deepfake 检测方法的局限性和挑战,以及未来的研究方向,强调了对 deepfake 检测技术持续研究和发展的重要性,以应对 deepfake 对社会的负面影响,并确保数字视觉媒体的完整性。
Sep, 2023
本文研究深度学习技术生成的深度伪造视频的真实性检测问题,发现现有算法对于视频质量降低的数据污染容易攻击。研究在全球范围内实现实际的深度伪造检测并引出技术和伦理道德上的问题。
Jun, 2022
提出了一个更可靠的评估框架来评估在更现实的情境下学习型 deepfake 检测器的性能,并量化其对不同处理操作的鲁棒性,同时设计了一个基于真实处理操作驱动的随机退化数据增强方法,显著提高了 deepfake 检测器的鲁棒性。
Apr, 2023
本研究对最新的深度伪造检测器进行了广泛综述和分析,评估了它们在几个关键标准下的表现,并将它们分类成四个高水平组和十三个细粒度子组,进一步提供了关于影响检测器有效性的因素的深入实际见解。通过考察 16 个主要检测器在多种标准攻击场景下的普适性,包括黑盒、白盒和灰盒设置,系统性的分析和实验为对抗各种攻击场景的深度伪造检测器的研究奠定了基础,并为制定更积极的防御策略提供了启示。
Jan, 2024
为了抵御 COVID-19 大流行期间网上视频通话时 DeepFakes 的攻击,本文提出了一种新的实时取证方法用于检测 DeepFakes,该方法通过在屏幕上显示独特模式和提取通话参与者脸部的角膜反射来进行视频认证,无需特定的成像或照明硬件,并通过大规模模拟评估了该方法在各种实际成像场景下的可靠性。
Oct, 2022
本文讨论了 AI 算法生成的高质量伪造视频和音频(deep fakes)对于作为事件确定证据的视频和音频的挑战,强调了其中的一些挑战并探讨了相关研究机会。
Mar, 2020