Oct, 2023

声音拟充 AI 引擎用于钓鱼预防

PDF
TL;DR通过使用 Transformers 网络和声学模型的创新多模式组合学习音频相似性，我们介绍了一个多语言 AI 系统 Sound-skwatter，用于生成 sound-squatting 攻击的候选资源，以实现积极的防御。我们展示了 Sound-skwatter 能够自动列出已知的同音词和成千上万个高质量的候选资源，并覆盖了跨语言的 sound-squatting 攻击，支持任意语言组合。我们将 Sound-skwatter 应用于通过 squatted 域名的网络中心化网络钓鱼，发现生成的域名中约有 10％存在于实际中，其中绝大多数是保护解决方案未知的。接下来，我们展示了对 PyPI 软件包管理器的攻击，其中约 17％的热门软件包拥有至少一个现有的 sound-squatting 候选资源。我们相信 Sound-skwatter 是积极应对互联网上的 sound-squatting 现象的重要资产。为了增加其影响力，我们发布了在线演示，并将我们的模型和代码作为开源发布。
发现论文，激发创造
  • 幽灵声：黑盒，查询有效的音频对抗攻击通过分秒级音素注入

    通过优化梯度估计，PhantomSound 在几分钟内极大提高了黑盒攻击的查询效率，成功地攻击了语音助手并绕过了真实场景中的生物特征检测机制。

    Sep, 2023

  • 对抗性语音合成的协作水印技术

    用协同训练方案为合成语音水印化提供协助，并显示 HiFi-GAN 神经声码器与 ASVspoof 2021 基线反欺骗模型的合作训练能够持续提高检测性能，同时演示了协同训练如何与增强策略相结合以增强对噪声和时间拉伸的鲁棒性。最后，听测试表明，协同训练对声码器语音的感知质量几乎没有不良影响。

    Sep, 2023

  • 主动检测基于区域水印的语音克隆

    在语音生成模型的快速发展领域中，为了确保音频的真实性并防范声音克隆的风险，我们提出了 AudioSeal，这是第一种专门用于局部检测人工智能生成语音的音频水印技术。通过采用一个同时训练的生成器 / 检测器架构，结合一个可在采样级别上进行局部水印检测的本地化损失以及受到听觉掩蔽启发的新型感知损失，AudioSeal 在抗真实生活音频处理和无感知性方面取得了最先进的性能，据自动和人工评估指标显示。此外，AudioSeal 设计了一个快速的单通道检测器，其检测速度显著超过现有模型达到两个数量级，使其非常适合大规模和实时应用。

    Jan, 2024

  • 基于声音的词嵌入学习方法：Sound-Word2Vec

    该论文提出了一个新的嵌入方案 (sound-word2vec)，用于学习基于声音的专业词嵌入。 这些嵌入的使用在文本检索和电影制作等任务中表现出了很好的效果，并提出来了许多新的声学和拟声词上的依赖关系。

    Mar, 2017

  • 基于数据分析与机器学习的 DNS 错误拼写域名检测方法

    本文旨在解决 DNS 中的 Typosquatting 攻击问题，通过数据分析和机器学习等方法提出了一个基于多数投票的集成学习分类器，可以提高对可疑域名的检测准确性。具体而言，该分类器利用了域名长度和唯一字符的数量等特征，较少地标记了合法域名为可疑域名，有效地提升了检测效率。

    Dec, 2020

  • 攻击即为防御：利用对自动语音识别系统的攻击设计鲁棒音频验证码

    本研究旨在针对当前文字型验证码安全性不足的情况，通过对语音识别技术的攻击论文进行比较分类，提出了一种基于容易理解但难以被自动转录的音频机制验证码来提升 Web 的安全及无障碍性，具有较高的可靠性和难以通过语音转文字技术识别等优势。

    Mar, 2022

  • 利用字符串和语音相似性的神经文本标准化

    本研究提出了神经模型，利用单词字符串和音相似性来进行文本规范化。结论表明，将单词字符串的相似性与声音相似性综合考虑，能成功应对缩写、拼写错误和语音替代等问题，并达到了比基础模型更高的 F1 得分。

    Nov, 2020

  • 基于文本的任意声音分离

    本研究提出了一种方法，通过结合两种模型，即 SoundWords 和 SoundFilter 模型，以在共享的文本 - 音频表示法中定义的调节向量为基础，将目标声音源从单通道混合中分离出来，并证明了此多模式训练方法可以提高 SoundFilter 的性能。

    Apr, 2022

  • 音频对抗样本：针对语音转文本的有目标攻击

    利用白盒迭代优化算法针对 Mozilla 的 DeepSpeech 实现针对性的音频对抗性样本进行攻击，成功率为 100％，这种攻击的可行性引入了研究对抗性样本的新领域。

    Jan, 2018

  • 通过单词的听觉信息提升混合编码文本处理能力

    通过使用来自 SOUNDEX 的单词的听觉信息，我们提出了一种处理混合编码文本的语言模型的有效方法（SAMLM），该方法包括基于掩码语言建模的预训练步骤，通过实验验证了 SAMLM 在处理混合编码任务中的鲁棒性和分类结果的改进。同时，我们使用 SHAP 进行解释，阐明了通过 SAMLM 引入的听觉特征如何有效地处理混合编码文本并增加了对对抗攻击的鲁棒性。

    Oct, 2023