ACLMar, 2022

FiNER：用于 XBRL 标注的金融数字实体识别

PDF
TL;DR进行标记是费时且昂贵的，因此该研究引入了 XBRL 标记作为金融领域新的实体提取任务，并发布了 FiNER-139 数据集，其中包含 110 万句子和黄金 XBRL 标记。该研究表明，采用字母级别的词元分割会损害 BERT 的性能，而采用单词级别的 BILSTMs 的性能更佳。此外，该研究还提出了两种简单而有效的解决方案，以改善 BERT 的性能。最终，该研究通过数据和错误分析确定了潜在的限制，为未来的 XBRL 标记工作提供了启示。
发现论文，激发创造
  • 金融数据极端标记：面向 XBRL 标记的数据集和基准测试

    该篇论文研究如何自动给财务报表中的数字赋予特定标签，提出了一个多标签分类的数据集和两种解决方案，并发现第二种方法比第一种略优。

    Jun, 2023

  • FinBERT-MRC：利用 BERT 在机器阅读理解范式下的金融命名实体识别

    通过对金融文本信息提取的困难进行分析，利用机器阅读理解方法，设计实现了一种新的模型 ——FinBERT-MRC，能更好的提取目标实体和信息。应用于华语和商业数据集，实验结果表明 FinBERT-MRC 模型相比 BiLSTM-CRF、BERT-Tagger、BERT-CRF 等序列标注模型中的 F1 值平均增加了 3.94% 至 0.89%。

    May, 2022

  • SEntFiN 1.0：金融新闻情感分析中的实体感知

    本文探讨了在新闻标题中进行细粒度金融情感分析的任务和挑战，提出 SAEntFiN 1.0 数据集，并使用特征为基础的方法提取实体相关情感。使用 12 种不同的学习方案验证实验结果，RoBERTa 和 finBERT 的平均准确率和 F1 分数最高，同时使用 210,000 多个实体情感预测验证了情感对市场的影响。

    May, 2023

  • 大型语言模型的参数高效调优：极端金融数字标注

    我们通过使用大型语言模型（LLMs）的指导调优，研究了用 XBRL 标签自动注释在财务文件中出现的相关数值（GAAP 指标）的问题，提出了一种参数高效的解决方案（FLAN-FinXC），并在两个最近发布的财务数字标签数据集上取得了最新的最佳表现。

    May, 2024

  • FiNER: 金融命名实体识别数据集和弱监督模型

    本文介绍一种用于金融领域的命名实体识别 NER 任务的高质量数据集与一个基于弱监督的框架，用于跨度级分类并提供一套公共的基准数据集，以推动金融领域研究的发展。

    Feb, 2023

  • FinEntity: 金融文本的实体级情感分类

    我们介绍了一个名为 FinEntity 的实体级情感分类数据集，用于金融领域中指向特定金融实体的情感分析。我们在论文中记录了数据集构建过程，并在几个预训练模型（BERT、FinBERT 等）和 ChatGPT 上进行了实体级情感分类的基准测试。我们通过一个案例研究展示了使用 FinEntity 在监测加密货币市场中的实际应用价值。FinEntity 的数据和代码可在 https://github.com/yixuantt/FinEntity 获取。

    Oct, 2023

  • 通过将数字视为实体来提高下游任务性能

    本研究利用最先进的自然语言处理模型及其分类能力，将数字分类为实体，从而使 NLP 模型在多项任务中具备更好的表现，超越了 BERT 和 RoBERTa 的基线分类结果。

    May, 2022

  • FiNCAT：金融数字赔付分析工具

    本研究使用 BERT 模型提取数字的上下文嵌入向量，并通过基于逻辑回归的模型对其进行分类，以便帮助投资者区分理赔和非理赔数字。通过对 FinNum-3 数据集的训练与实验证明，该工具在验证集上获得了宏 F1 分数为 0.8223，已在网站开源。

    Jan, 2022

  • 利用命名实体和词性增强金融关系抽取的语言模型

    本研究提出了一种简单而有效的策略，通过结合命名实体识别和词性标注，以及不同的信息组合方法，改进了预训练语言模型的性能，用于解决金融关系提取任务。对金融关系数据集的实验证明了其有希望的结果，并突出了结合命名实体识别和词性标注在现有模型中的优势。

    May, 2024

  • 低资源语言的跨语言金融交易数据 NER

    我们提出了一个高效的建模框架，用于半结构化文本数据中的跨语言命名实体识别。我们的方法依赖于知识蒸馏和一致性训练，并且利用预训练在源语言上的大型语言模型（XLMRoBERTa）的知识，通过学生 - 教师关系（知识蒸馏）。学生模型在低资源目标语言上采用无监督的一致性训练（使用 KL 散度损失）。我们使用两个独立的 SMS 数据集，分别是英语和阿拉伯语，每个数据集都携带有半结构化的银行交易信息，并侧重展示从英语到阿拉伯语的知识传递。通过仅使用 30 个标记样本，我们的模型可以将商家、金额和其他字段的识别从英语推广到阿拉伯语。我们的实验表明，在低资源语言的少量标记样本的情况下，学习在英语中识别实体就足以在低资源语言中达到合理的性能。该提出的框架对于开发多语言应用程序，尤其是在数字化努力依赖英语和一种或多种低资源语言的地理区域具有重要意义，有时与英语混合使用或独立使用。

    Jul, 2023