本研究提出了一种新颖的基于 BERT 的多问题机器阅读理解体系结构，将命名实体识别作为一个多问题 MRC 任务，旨在解决大规模电子商务属性（或实体）在高性能和优化训练和推理运行时从非结构化文本中提取的问题，该模型在三个 NER 数据集上获得了比 NER-SQMRC 框架模型更快的训练和推理时间，并且保持与单个问题 MRC（NER-SQMRC）性能相当。

May, 2022

进行标记是费时且昂贵的，因此该研究引入了 XBRL 标记作为金融领域新的实体提取任务，并发布了 FiNER-139 数据集，其中包含 110 万句子和黄金 XBRL 标记。该研究表明，采用字母级别的词元分割会损害 BERT 的性能，而采用单词级别的 BILSTMs 的性能更佳。此外，该研究还提出了两种简单而有效的解决方案，以改善 BERT 的性能。最终，该研究通过数据和错误分析确定了潜在的限制，为未来的 XBRL 标记工作提供了启示。

Mar, 2022

利用机器阅读理解将命名实体识别作为一个解决问题，能够很好的解决大量额外数据收集和预训练的高成本挑战，展示了出色的性能提高并实现了最新的成果。

May, 2023

本文旨在满足金融领域中对预训练语言模型的需求，提出了一种基于大量金融通信语料库的金融领域特定 BERT 模型（FinBERT），在三个金融情感分类任务上的实验结果证明了 FinBERT 相比于一般领域的 BERT 模型具有优势。

Jun, 2020

德国 FinBERT 是一种专门针对金融文本数据的新型预训练德语语言模型，通过综合的预训练过程进行训练，利用包括德国公司财务报告、临时公告和新闻在内的大量语料库。评估结果表明，在金融领域数据上，德国 FinBERT 在情绪预测、主题识别和问答等下游任务中表现出了改进的性能，表明其捕捉领域特定细微差别的效果，该研究认为德国 FinBERT 有望成为金融文本分析中有价值的工具，有潜在的应用于金融领域的多个应用场景。

Nov, 2023

本文提出一种统一的框架，通过将命名实体识别任务形式化为机器阅读理解问题，能够同时处理平面 NER 和嵌套 NER 任务，并在实验中验证该框架在嵌套 NER 数据集上大幅提高性能，并在平面 NER 中获得当前最佳结果。

Oct, 2019

本文提出了一种名为 FinBERT 的基于 BERT 预训练语言模型，用于在金融领域处理自然语言处理任务，实验结果表明它在当前两个金融情感分析数据集上的表现优于现有的机器学习方法。

Aug, 2019

本文提出了一种多任务学习框架，将标签依赖关系融入基于机器阅读理解的命名实体识别，通过使用自注意力模块来捕捉标签之间的依赖关系，实现更好的性能。

Sep, 2023

通过将生物医学实体识别重新定义为机器阅读理解问题，提出了一种基于演示学习的方法来改进在少样本学习场景下的模型识别生物医学实体的能力。使用六个基准数据集进行评估，结果表明 MRC 语言模型在识别生物医学实体方面比序列标注方法更为高效，并且可以与依赖大量标注数据的全监督学习方法竞争成功，为少样本生物医学实体识别方法的未来发展提供了可能的方向。

Aug, 2023

本文探讨了在新闻标题中进行细粒度金融情感分析的任务和挑战，提出 SAEntFiN 1.0 数据集，并使用特征为基础的方法提取实体相关情感。使用 12 种不同的学习方案验证实验结果，RoBERTa 和 finBERT 的平均准确率和 F1 分数最高，同时使用 210,000 多个实体情感预测验证了情感对市场的影响。

May, 2023