本研究旨在探究利用领域自适应预训练的方法，结合多语言语料库来同时训练一个领域特定和多语言的语言模型，从而提高目标领域内不同语言任务的文本建模能力。研究结果表明，用这种模型在生物医学命名实体识别和金融句子分类等多个领域特定数据集上进行测试，可以比一般的多语言模型表现更好，接近于单语言情况下的性能表现。

Sep, 2021

本研究提出了一种基于远程监督的技能提取系统，结合ESCO分类法和多种负采样策略提高提取技能的性能，并引入手动注释的基准评估数据集，以促进该任务的进一步研究。

Sep, 2022

The paper presents an end-to-end zero-shot system for skills extraction from job descriptions based on large language models, achieving promising results on skills extraction against the ESCO framework without human annotations.

Jul, 2023

通过使用大型语言模型，本研究提出了一种成本有效的方法来生成准确、全合成的技能提取的标签数据集，并提出了一种对比学习策略，证明其在任务中的有效性。在三个技能提取基准测试中，我们的结果显示，与仅依赖于远程监督的字面匹配的先前发布结果相比，R-Precision@5提高了15至25个百分点。

Jul, 2023

通过分类框架和深度学习模型，该论文提出一种方法来识别职位要求和横向技能的关联，并预测个体职位描述所需的技能。该方法使用ESCO（欧洲技能、能力和职业）分类法进行数据收集、预处理和标记。采用分层分类和多标签策略进行技能识别，通过数据平衡增强模型的鲁棒性。通过比较使用英语特定和多语言句子嵌入模型得到的结果，发现它们具有相近的准确性。实验案例研究详细介绍了神经网络配置、超参数和交叉验证结果，突出了分层方法的有效性和多语言模型在多样化欧洲职位市场的适用性。因此，提出了一种新的方法来从职位广告中对横向技能进行分层分类。

Jan, 2024

本文首次探索在职业技能与ESCO分类之间进行实体链接，使用高效的神经模型（双编码器和自回归模型）进行技能链接的实证研究。

Jan, 2024

通过采用合成训练数据进行技能匹配的最新方法已经显示出有希望的结果，减少了耗时且昂贵的标注需求。本文介绍了JobSkape，一个专门设计用于增强技能与分类匹配的合成数据生成框架，其中包含了一个综合的开源合成数据集SkillSkape，用于技能匹配任务。同时引入了多种离线度量来显示我们的数据集类似于真实世界数据。此外，我们还提出了一个利用大型语言模型（LLMs）进行技能提取和匹配任务的多步骤流水线，并与已知的有监督方法进行基准测试。我们总结出，在真实世界数据上的下游评估结果能够超过基线效果，凸显了其效力和适应性。

Feb, 2024

通过在6个统一化技能提取数据集上使用大语言模型（LLMs）的少样本学习能力，我们研究了上下文学习的使用，以克服手动注释数据的高依赖性对这些方法的泛化能力的限制。我们展示了LLMs能够更好地处理在技能提取任务中句法复杂的技能提及，尽管在性能上不及传统监督模型。

Feb, 2024

利用自然语言处理技术从职位描述中提取相关信息，包括解决训练数据的稀缺性、标注指南的缺乏以及从职位广告中提取有效信息的不足等挑战，最终通过引入抽取方法和多个数据集相辅相成的检索增强模型来提高整体性能，并将提取到的信息置于特定分类体系中。

Apr, 2024

本研究解决了从职位描述中提取关键技能的挑战，比较了基于编码器的传统命名实体识别（NER）方法与大型语言模型（LLM）在俄罗斯职位空缺技能提取中的效果。研究发现，特别是经过调优的DeepPavlov RuBERT NER模型在多项性能指标上超过了LLM，表明传统NER模型在技能提取方面效率更高，能够更好地帮助求职者与雇主需求对接。

Jul, 2024