ICMLJul, 2021

孟加拉会话代理的端到端自然语言理解流水线

PDF
TL;DR本文提出了一种新方法来构建可用于商业助手的孟加拉语聊天机器人，以高度自信地使用孟加拉语和孟加拉语在英语翻译中进行交流，使用 Rasa Open Source Framework，fastText embeddings，Polyglot embeddings，Flask 和其他系统作为构建块进行机器学习建模和部署，并呈现出意图分类和实体抽取的流程，其表现合理 。
发现论文，激发创造
  • BanglaNLP 参与 BLP-2023 任务 2：对孟加拉社交媒体帖子的情感分析进行不同 Transformer 模型的基准测试

    这篇论文使用基于 Transformer 的架构进行情感分析，以解决 Bangla 这种低资源语言的问题，并通过细调模型在推特数据上获得最佳性能。同时，还进行了详细的错误分析。

    Oct, 2023

  • 智能家居助手的意图检测和槽位填充：孟加拉和锡尔赫提语的数据集和分析

    我们的研究通过引入首个全面的数据集，针对正式孟加拉语、口头孟加拉语和锡尔赫蒂语中的意图检测和槽填充，总计 984 个样本，涵盖 10 个独特的意图。分析表明，大型语言模型在处理数据不足的下游任务方面具有鲁棒性。GPT-3.5 模型在口头孟加拉语的意图检测得分为 0.94，在槽填充方面得分为 0.51。

    Oct, 2023

  • BanglaNLG 和 BanglaT5：用于评估孟加拉低资源自然语言生成的基准和资源

    本文提出 BanglaNLG，用于评估 Bangla 自然语言生成（NLG）模型的全面基准，并介绍了六个具有挑战性的条件文本生成任务和一个新的对话生成数据集。利用 27.5 GB 干净的 Bangla 数据集，预训练了 BanglaT5，一种面向 Bangla 的序列到序列 Transformer 语言模型。 BanglaT5 在所有任务中均达到最先进的性能，比多语言模型高出 9％的绝对收益和 32％的相对收益。我们将新的对话数据集和 BanglaT5 模型公开发布，以期推动未来的 Bangla NLG 研究。

    May, 2022

  • BanglaBERT: 低资源语言理解评价的语言模型预训练和基准测试 —— 以孟加拉语为例

    介绍了 BanglaBERT 模型，它是在一种 NLP 文献中被广泛使用但语料库有限的低资源语言 - 孟加拉语上进行预训练的 BERT-based NLU 模型。通过对 110 个流行的孟加拉网站进行爬取，作者们收集了 27.5 GB 的 Bangla2B+ 语料库。在多项不同的 NLU 任务中，BanglaBERT 均取得了最好的效果，同时也将这些任务纳入了首个 Bangla Language Understanding Benchmark (BLUB)。模型、数据集和排行榜已公开，为孟加拉自然语言处理的进一步发展做出了贡献。

    Jan, 2021

  • 使用循环神经网络实现英文至孟加拉语机器翻译

    本文描述了一种利用循环神经网络实现英语到孟加拉语机器翻译的系统架构，采用了基于知识的上下文向量来映射英语和孟加拉语单词，并且通过使用不同的激活函数，分别在编码器层利用线性激活函数，在解码器层采用了 tanh 激活函数。其中，GRU 比 LSTM 表现更优，采用 Softmax 和 Sigmoid 激活函数的注意力层优于之前的最先进系统。

    Jun, 2021

  • 使用 NLP 进行产品市场需求分析的 Banglish 文本情感分析和命名实体识别

    使用自然语言处理方法和机器学习模型，对孟加拉市场上最具需求的物品和服务进行识别，以调查 Banglish Text 下通过社交媒体购买的智能手机的性别最受欢迎的型号和品牌。

    Apr, 2022

  • Bangla-Wave：利用 N-gram 语言模型提高孟加拉语自动语音识别

    通过微调波形向量预训练模型，并将 N-gram 语言模型作为后处理程序，我们在 Bengali Common Voice 语音数据集上生成了一个性能更好的孟加拉语自动语音识别模型，并且比现有模型更具有鲁棒性。

    Sep, 2022

  • 评估孟加拉语词汇类比

    该论文提供了用于评估孟加拉语词嵌入质量的高质量数据集，该数据集对于基准测试和指导未来研究至关重要。

    Apr, 2023

  • BNLP: 孟加拉语自然语言处理工具包

    BNLP 是一款面向孟加拉语的开源自然语言处理工具包，提供标记化、词嵌入、词性标注和命名实体识别等预训练模型，具有高精度，广受本土研究社区的欢迎。

    Jan, 2021

  • 揭示大型语言模型在 Transformer 模型之上对孟加拉语自然语言推理的优势：一项全面研究

    通过综合评估，本研究在低资源语言（如孟加拉语）的自然语言推理任务中评估了知名大型语言模型和最先进模型的性能，发现虽然大型语言模型在少样本情况下可以达到与微调后最先进模型相媲美或优越的性能，但需要进一步研究来提高我们对大型语言模型在类似孟加拉语等资源有限的语言中的理解。该研究强调了在不同语言环境中探索大型语言模型能力的持续努力的重要性。

    May, 2024