May, 2018

Snips Voice Platform: 面向私有设计的嵌入式语音理解系统，用于语音接口

PDF
TL;DR本论文介绍 Snips 语音平台的机器学习体系结构，可在典型的物联网设备微处理器上执行口语理解。所嵌入的推理快速准确，具有隐私保护设计，从不收集用户数据。重点关注自动语音识别和自然语言理解，详细说明了我们训练高性能机器学习模型的方法，使其小到足以在小型设备上实时运行。此外，我们还描述了一种数据生成过程，提供足够的高质量训练数据，而不会危及用户隐私。
发现论文，激发创造
  • 边缘上的口语理解

    本文介绍了一种嵌入式的、面向小型物联网应用的 Spoken Language Understanding 系统，并证明其性能可以与基于云的商业解决方案相媲美。同时，我们还提供了我们实验使用的数据集，旨在促进 SLU 社区的可重复性和有益性。

    Oct, 2018

  • 朝向端到端口语理解

    本文研究了口语理解系统的端到端学习方法，能够直接从音频特征中推断语义意义，而不需要中间文本表示。研究表明，该模型能够获得合理好的结果，并能直接从音频特征中捕捉语义注意力。

    Feb, 2018

  • 设备上的智能助手语言理解

    近期，手机和其他个人设备上运行个人数字助手成为可能。本文描述了在设备上运行的自然语言理解系统的设计。与基于服务器的助手相比，该系统更具隐私性、可靠性、速度更快、表达能力更强且更准确。我们描述了关于架构和技术的关键选择。例如，对话系统文献中的一些方法在部署环境中难以长期维护。希望通过分享我们的实践经验，能够为未来的研究工作提供有益信息。

    Aug, 2023

  • 即插即用的多语种小样本语音识别

    PLiX 是一种多语言、即插即用的语音关键字检测系统，它利用少量样本学习海量真实世界数据，实现在测试期间识别未见过的口头单词。

    May, 2023

  • 低延迟无 ASR 端到端口语理解系统

    本文提出了一种语音理解系统，可以将一个波形分类为结构化数据 (如意图和槽) 而不需要先将其转录为文本，同时系统具有足够小的占用空间可以运行在微型控制器和嵌入式系统上，并且具有最小延迟以逐段处理输入音频数据，并得到了优秀的性能表现 (比其他类似任务的公开研究成果要好)，同时具有低延迟和更小的模型。

    Nov, 2020

  • 建立一个可扩展的自助式口语理解架构：Just ASK

    该论文介绍了 Alexa 技能套件 (ASK) 的机器学习架构设计，该技能套件是一个大规模的口语语言理解 (SLU) 软件开发套件 (SDK)，旨在让第三方开发人员扩展亚马逊虚拟助手 Alexa 的功能。ASK 强调灵活性、可预测性和快速迭代周期，并通过归纳偏差从极小和稀疏的数据集中学习到强大的 SLU 模型，从而消除了软件开发人员和对话系统研究者进入门槛。

    Nov, 2017

  • 隐私保护的端到端口语言理解

    本研究提出了一种新颖的跨任务保护用户隐私的口语理解模型，通过利用隐藏层分离技术，将用户信息仅分布在特定部分的隐藏层中并移除其他类型信息，从而实现隐私安全的隐藏层。为了在效率和隐私之间取得良好的平衡，引入了一种新的模型预训练机制，即联合对抗训练，以进一步增强用户隐私。实验证明，该方法能将语音识别和身份识别攻击的准确性降低至随机猜测水平，同时对口语理解性能影响较小。

    Mar, 2024

  • 会话式人工智能的口语理解：近期进展和未来方向

    该论文讨论了使用深度学习技术进行自然语言理解的联合任务，包括意图检测和槽填充，介绍了 Spoken Language Understanding/Natural Language Understanding（SLU/NLU）技术和用于解决该问题的最新自然语言处理和深度学习技术，以及如何提高性能的一些方法。

    Dec, 2022

  • TinyML 中基于设备学习的说话人验证

    介绍了一种新型的自适应 TinyML 解决方案，可用于需要在设备上学习算法的任务，如识别 Tiny Speaker Verification，并在实际的物联网设备上测试了该解决方案。

    Jun, 2024

  • 通过本地可学习用户讲话特征提升关键词检测

    在此研究中，我们提出了一种新颖的设备内学习架构，由预训练的主干网络和学习用户语音特征的用户感知特征学习组成，用于解决无人工场景中部署时需要调整离线训练分类器以提高准确性的问题。我们通过更新用户投影来减小从 30.1% 到 24.3% 的错误率，针对 Google Speech Commands 数据集的 35 类问题中由未见过的发言人引起的领域转移。此外，我们还展示了我们提出的架构在样本和类别稀缺学习条件下的少样本学习能力。带有 23.7k 参数和每个周期的 1MFLOP 的需求，我们的系统适用于针对电池供电微控制器的 TinyML 应用。

    Mar, 2024