Feb, 2024

使用合成数据进行语音转文本中地址提取的命名实体识别

PDF
TL;DR本文介绍了一种建立在双向编码器变换器（BERT）架构上的命名实体识别（NER）模型的方法，具体使用了 SlovakBERT 模型。该 NER 模型从语音转文本转录获取的数据中提取地址部分。由于真实数据的稀缺性，使用 GPT API 生成了一个合成数据集。强调了在这种人工数据中模仿口语变异的重要性。我们的 NER 模型仅使用合成数据进行训练，并使用小型真实测试数据集进行评估。
named entity recognitionner modelbidirectional encoder representations from transformersslovakbert modelspeech-to-text transcriptions
发现论文，激发创造
  • 科学命名实体识别的分层 Transformer 模型

    使用 BERT 和 transformer 层的简单和有效的 Named Entity Recognition 方法在计算机科学和生物医学领域的三个基准数据集上优于当前最先进技术，无需外部资源或特定数据增强。

    Mar, 2022

  • 一种适用于嘈杂商务电话对话文本的高效实体识别系统

    本研究提出了一种有效的方法，使用有噪声的商务电话对话转录本进行训练的命名实体识别 (NER) 模型，使用 LUKE 作为教师模型，使用大量弱标记数据和少量人工标注数据教授一个 smaller DistilBERT-based 学生模型，并在满足商业电话产品实际约束条件的情况下实现高准确性和即时性能

    Sep, 2022

  • 虚拟代理的端对端口语实体提取

    本文探讨了利用语音编码器从语音中直接提取实体的方法，研究表明这种直接的方法优化了编码器以仅转录语音中与实体相关的部分，忽略不必要的部分，并且在企业虚拟代理的对话中，优于传统的两步法。

    Feb, 2023

  • 基于端到端的语音命名实体提取

    该研究通过一种端到端的神经架构，直接从语音中提取命名实体，并针对语音识别和命名实体识别进行联合优化，相较于传统的流水线方法，实现了更好的命名实体识别结果（测试数据的 F-measure=0.69）

    May, 2018

  • 直接言語翻譯中的命名實體檢測與注入

    本文探讨了如何利用在特定环境下出现的命名实体词典来提高语音转文本模型的准确性， 实验证明使用 NE 词典可以有效提高命名实体的准确性，降低人名错误率达 31%。

    Oct, 2022

  • 命名实体识别的神经网络结构

    本文介绍基于双向 LSTM 和条件随机场，以及基于转移的方法的两种新的神经网络模型，这些模型不依赖于领域特定的知识和语言。通过使用监督语料库和未标注语料库，字符表示和无监督的学习表示，这些模型在四种语言中实现了名词实体识别的最先进性能。

    Mar, 2016

  • 英文语音端到端命名实体识别

    本文介绍了第一个公开的针对英语语音的命名实体识别 (NER) 数据集，并提出了一种端到端的方法，该方法同时优化 ASR 和 NER 标记器的组件。实验结果表明，所提出的端到端方法优于经典的两步方法，并讨论了如何使用语音的 NER 来处理 ASR 系统中的词汇外单词 (OOV)。

    May, 2020

  • 跨文化姓名识别

    该研究旨在改进个人姓名的识别，在识别不同文化背景下的姓名方面，通过实验比较结合字符和词的输入模型与传统的 NER 模型，发现该模型表现更好且可能提高准确率。

    Jan, 2024

  • 使用外部数据进行口语命名实体识别

    本文研究语音识别与文本命名实体识别的端到端模型，研究使用未标注文本数据和数据增强技术来提高实体识别的性能。通过引入自学习、知识蒸馏和迁移学习等方法，该文发现这些技术在资源受限的情况下可以提高实体识别的性能。同时，本文展示了相比于之前的工作，这些方法在 F1 分数方面提高了长达 16% 的表现。

    Dec, 2021

  • 医学口述实体识别

    使用预训练多语言模型 XLM-R，在医学领域的首个口头命名实体识别（Spoken Named Entity Recognition）数据集 VietMed-NER 上取得了最佳表现。

    Jun, 2024