本文介绍了 arXiv，它收集了来自物理学、数学和计算机科学等科学领域的 150 万篇预先印刷的文章，并提供了一个管道，标准化和简化 arXiv 的公开可用数据。该管道被用来提取和分析一个拥有 670 万边的引文图和一个包含 110 亿字的全文研究文章语料库。作者呈现了一些基线分类结果并推动了更加令人兴奋的生成图模型的应用。

Apr, 2019

该论文介绍了科学出版领域的扩张，探讨了自然语言处理（NLP）在从大量出版物和预印本中自动提取知识方面的潜力，以及通过注释生物实体以构建 SourceData-NLP 数据集对 NER 进行模型训练的可行性。

Oct, 2023

本研究提出了一种针对未知类别的科学文献的文本分类的新方法，使用自然语言处理技术。该研究利用预训练的语言模型（特别是 SciBERT）从 ArXiv 数据集的摘要中提取有意义的表示。文本分类使用 K-Means 算法进行，并根据 Silhouette 得分确定最佳聚类数。结果表明，所提出的方法比传统的 arXiv 标签系统更有效地捕捉主题信息，从而改善了文本分类。该方法为科学研究文献快速增长的领域提供了更好的导航和推荐系统的潜力。

Sep, 2023

使用自然语言处理技术和 Named Entity Recognition 模型，我们建立了一个系统，对社会科学研究文献中的数据引用进行了探测，构建了一个社会科学文献和相关数据集的数据集，这将有助于未来的数据引用、数据引证网络和数据再利用领域的研究。

May, 2022

本文介绍了一种信息提取工具，可以自动处理大规模无结构文本数据，支持多语言文档的全文、元数据和实体的提取，重点支持三个主要因素以服务于跨国界新闻调查，最终实现了数据集的快速探索以及潜在故事的挖掘。

Sep, 2018

本文提出了 PubLayNet 数据集用于文档布局分析，并证明基于该数据集的深度神经网络模型可以准确地识别科学文章的布局。

Aug, 2019

本文提出 NLPExplorer，这是一个自动的门户网站，用于索引、搜索和可视化自然语言处理（NLP）研究文献，它展示了有关论文、作者、会议和主题的有趣见解。

Oct, 2019

利用 arXiv 的元数据，通过学习这些数据中科学论文的主题标签，我们可以推断出其他大型语料库中与人工智能相关的论文，这种监督式方法可以一直更新，无需依赖于主题专家进行查询开发或标注。

Feb, 2020

本文介绍了哈佛美国专利商标局专利数据集（HUPD），是规模大、结构良好且多用途的英文专利申请语料库，可用于创新、人工智能和自然语言处理领域的多项研究任务。

Jul, 2022

该论文描述了从 Common Crawl 中提取大量高质量单语数据集的自动管道，以用于各种语言的预训练文本表示，并增加了过滤步骤以选择接近于 Wikipedia 等高质量语料库的文档。

Nov, 2019