Feb, 2024

人脑在听取伪造与真实音频时表现出不同的模式：初步证据

PDF
TL;DR通过对真实和伪造音频进行研究，发现最先进的深度伪造音频检测算法所学习的表示并不表现出真伪音频之间明显的不同模式，相反，通过脑电图测量可观察到人类在接触伪造音频和真实音频时的不同模式，这为深度伪造音频检测等领域的未来研究方向提供了初步证据。
variationsbrain activityreal and fake audiodeepfake audio detectioneeg
发现论文，激发创造
  • 揭示幻觉：理解人类对音视频深度伪造的感知

    人们对深度伪造视频的感知能力进行主观研究，结果显示机器学习模型相对于人类在同样的 40 个视频上有更好的表现，而人们又往往高估了自己的检测能力。这一研究结果有助于对比人类和机器的性能、推进法医分析，并实现自适应对策。

    May, 2024

  • 跨文本、音频和视频的政治 Deepfakes 人类检测

    研究表明，人们对于真实和伪造的政治演讲的辨别能力更多地依赖于音频和视觉线索，而并非演讲内容本身。然而，反思性推理能力会调节参与者对视觉线索的考虑程度，反应出低反思性推理能力与过度依赖演讲内容的趋势。

    Feb, 2022

  • 广义 Deepfake 检测的脑电图特征

    通过利用从人类参与者的神经处理中测量得到的脑电图（EEG）从 FaceForensics++ 数据集的 Deepfake 刺激中检测深度伪造是这项研究的目标。初步结果表明，人类神经处理信号成功地整合到了 Deepfake 检测框架中，并且暗示了一种能够识别超越训练领域的 Deepfake 的广义神经表征的潜力。此外，我们的研究为理解数字真实主义如何嵌入人类认知系统提供了下一步的步骤，可能推动未来更逼真的数字化身的发展。

    May, 2024

  • WaveFake: 一份数据集，用以方便音频 Deepfake 检测

    本文介绍了一些用于分析音频信号的常见信号处理技术。我们提供了一个新的数据集，并采用了两个基线模型，以便进一步研究深层次的生成建模在音频信号领域的应用。

    Nov, 2021

  • 大学群体中针对音频深度伪造的感知

    研究了不同专业的大学生对音频 Deepfake 的感知，针对政治因素、语音长度和语法复杂度等方面进行分析，发现音频 Deepfake 的政治含义会影响人们对于其真实性的认知，背景和专业会影响 Deepfake 的感知。

    Dec, 2021

  • 人类大脑无法检测假新闻：文本虚假信息易感性的神经认知研究

    通过神经认知方法研究用户对文本为中心的虚假新闻攻击的易感性，发现人脑在虚假新闻和真实新闻的处理方式上没有明显差异，但处理虚假新闻和休息状态之间和不同类别虚假新闻之间存在显著差异。

    Jul, 2022

  • AI 产生的图像、视频、音频和音视频刺激的人类检测与抛硬币一样好

    合成媒体对人类日常生活具有很高的欺骗性，人类的感知检测能力不再是有效的对抗手段。

    Mar, 2024

  • 揭示真相：探索虚假图像中的人类注视模式

    通过人类语义知识和眼动实验研究假图像检测的可能性，结果显示人们在感知伪造样本时倾向于关注图像的更局部区域，与观看真实图像时更分散的观察模式形成对比。

    Mar, 2024

  • R&B -- 节奏与脑：通过人脑活动解码音乐的跨主体研究

    本研究通过功能性磁共振成像（fMRI）测量的人脑活动，探究音乐是否能够从中解码。利用最新的数据集和预训练的计算模型，研究人员构建了神经数据和音乐刺激的潜在表示之间的映射关系，通过功能和解剖对齐技术解决了 fMRI 数据中低时间分辨率和信噪比的挑战。研究结果表明，通过我们的解码方法，我们能够以最先进的准确度识别音乐，并且建议神经基础的音乐检索系统可实现个性化推荐和治疗应用。

    Jun, 2024

  • 一种新的声音真实性方法

    声音伪造，驱动主要是最近文本到语音合成技术的进展，对社会提出了重大挑战。我们主张从传统的二元范式即声音是 “真实” 或 “伪造” 进行观念转变，而将重点放在定位 “声音编辑” 上，这包括传统的修改、过滤和剪辑，以及文本到语音合成和语音变换系统。我们提出了六个类别，并策划了一个基于 M-AILABS 语料库的新挑战数据集，并提供了基线检测系统。我们认为，仅将声音分类为真实或伪造是一种危险的过度简化，将不能推动语音技术领域的发展。

    Feb, 2024