MMJun, 2021

使用循环神经网络实现英文至孟加拉语机器翻译

PDF
TL;DR本文描述了一种利用循环神经网络实现英语到孟加拉语机器翻译的系统架构，采用了基于知识的上下文向量来映射英语和孟加拉语单词，并且通过使用不同的激活函数，分别在编码器层利用线性激活函数，在解码器层采用了 tanh 激活函数。其中，GRU 比 LSTM 表现更优，采用 Softmax 和 Sigmoid 激活函数的注意力层优于之前的最先进系统。
recurrent neural networksmachine translationbangla languageencoder-decoder modelactivation functions
发现论文，激发创造
  • 通过扩展的 RNN 与 Bi-LSTM 模型在 N-gram 语言上增强孟加拉语下一个单词预测和句子完成

    本研究论文介绍了一种有效处理孟加拉语下一个词预测和孟加拉语句子生成的双向长短期记忆网络模型，扩展了孟加拉语处理的范围，具有多样性和潜在影响力，在各种新闻门户网站上构建了语料库数据集，并在单词预测方面取得了卓越结果，uni-gram、bi-gram 和 tri-gram 的单词预测准确率分别达到 35%、75% 和 95%。

    May, 2024

  • 利用双向门控循环单元和深度学习技术增强孟加拉虚假新闻检测

    针对孟加拉语中的虚假新闻检测，本研究基于大规模数据集，使用了多种深度学习模型，包括双向 GRU 模型、LSTM 模型、1D 卷积神经网络模型以及混合架构模型，通过全面试验证实了这些模型在识别孟加拉语虚假新闻方面的有效性，其中双向 GRU 模型的准确率高达 99.16%。研究结果强调了数据集平衡的重要性，以及对检测过程进行不断改进的必要性，为使用有限资源创建孟加拉语虚假新闻检测系统并为未来的改进工作奠定了基础。

    Mar, 2024

  • 神经机器翻译卷积编码器模型

    本文提出了一种基于卷积层的神经机器翻译框架，相比双向 LSTM 网络，该框架可以同时编码整个源语句，从而加速了翻译速度，在 WMT'16 数据集上达到了竞争水平的准确性，并在 WMT'15 和 WMT'14 数据集上取得了优异的结果。

    Nov, 2016

  • 神经机器翻译的性质：编码器 - 解码器方法

    分析神经机器翻译的性能，研究了两种模型：RNN 编码器 - 解码器和新提出的门控递归卷积神经网络，结果显示神经机器翻译在翻译较短，不含生词句子时表现相对良好，但随着句子长度和生词数的增加，其性能会迅速降低。同时发现，所提出的门控递归卷积网络能够自动学习句子的语法结构。

    Sep, 2014

  • 一个编码器 - 解码器框架，将自然语言翻译为数据库查询

    本研究考虑将自然语言转换成 SQL，用于关系数据库的数据检索。我们提出了一种新的编码 - 解码框架，包括新的语义特征和语法感知状态等新方法。实证评估结果表明，我们的方法在真实世界的数据库和查询上明显优于现有技术。

    Nov, 2017

  • 使用 RNN 编码器 - 解码器学习短语表示，用于统计机器翻译

    本文提出了一种名为 RNN Encoder-Decoder 的神经网络模型，该模型由两个循环神经网络（RNN）组成，它将符号序列编码成固定长度的向量表示，并将该表示解码成另一个符号序列，并通过联合训练编码器和解码器来优化目标序列的条件概率，然后将该模型生成的条件概率应用于现有的对数线性模型中，从而提高统计机器翻译系统的性能，并且该模型能够学习到一种语义和句法上有意义的语言短语表示。

    Jun, 2014

  • 使用 CNN-RNN 架构进行尼泊尔语视频字幕生成

    本研究以深度神经网络为基础，通过整合预训练的卷积神经网络（CNN）和循环神经网络（RNN），着重探讨生成尼泊尔视频的精确且相关的字幕。研究过程包括数据收集、数据预处理、模型实施和评估。通过使用谷歌翻译为 MSVD 数据集添加尼泊尔字幕，研究训练了多种 CNN-RNN 架构。研究探讨了不同 RNN 解码器（如 LSTM、GRU 和双向 LSTM）与 CNNs（如 EfficientNetB0、ResNet101 和 VGG16）的有效性。评估使用 BLEU 和 METEOR 指标，最佳模型为 EfficientNetB0 + BiLSTM，具有 1024 隐藏维度，BLEU-4 分数为 17，METEOR 分数为 46。本文还概述了尼泊尔视频字幕生成的挑战和未来发展方向，为该领域的进一步研究提供了重要资源。

    Nov, 2023

  • 孟加拉会话代理的端到端自然语言理解流水线

    本文提出了一种新方法来构建可用于商业助手的孟加拉语聊天机器人，以高度自信地使用孟加拉语和孟加拉语在英语翻译中进行交流，使用 Rasa Open Source Framework，fastText embeddings，Polyglot embeddings，Flask 和其他系统作为构建块进行机器学习建模和部署，并呈现出意图分类和实体抽取的流程，其表现合理 。

    Jul, 2021

  • 利用注意力机制循环神经网络在社交媒体上检测孟加拉仇恨言论

    通过使用编码器和解码器技术（encoder decoder），作者们提出了一种基于机器学习的模型来检测社交媒体中孟加拉语言使用者的仇恨言论。该模型使用了 1D 卷积层来提取和编码本地特征，并使用了注意机制、LSTM 和 GRU 解码器来预测仇恨言论的类别。经过评估，最佳的预测精度达到了 77%。

    Mar, 2022

  • 基于 Transformer 的印地语到英语神经机器翻译

    我们使用深度学习技术开发了一种神经机器翻译系统，通过训练 Transformer 模型将印度语 Hindi 翻译成英语，通过实施回译增强训练数据并尝试使用 Byte Pair Encoding (BPE) 进行词汇划分，我们在 10 个不同的配置中训练 Transformer，在 IIT Bombay 英印语语料库的测试集中取得了 24.53 的最新 BLEU 分数。

    Sep, 2023