Jan, 2024

TAROT：基于半结构化数据进行多任务预训练的分级框架以实现有效的人 - 岗匹配

PDF
TL;DRTAROT 是一个层次化的多任务共同预训练框架，旨在更好地利用结构和语义信息进行信息性文本嵌入，通过针对个人资料和工作的半结构化文本的多层次预训练任务限制获得的语义信息。在真实的 LinkedIn 数据集上进行的实验证明了 TAROT 在人 - 岗位匹配任务中的有效性，实现了显著的性能改进。
发现论文，激发创造
  • 面向文本到视频检索的语义角色感知相关性变换器

    该论文提出了一种新型的 Transformer 模型，将文本和视频显式分离，通过注意力机制了解三种角色的内部和内部角色之间的相关性，以在不同级别上寻找识别特征，初步结果表明，在所有的指标中，我们的方法都超过了当前最先进的方 法，在两个指标上也超过了两种最先进的方法。

    Jun, 2022

  • JobBERT：通过技能了解工作职称

    通过将预训练语言模型与从招聘信息中提取的技能标签协同出现信息相结合，我们提出了一种职位称号的神经表示模型， JobBERT 方法相比使用通用语句编码器，在职位标题规范化任务中表现出显著提高，并发布了一个新的评估基准。

    Sep, 2021

  • 粗到细：自然语言理解的分层多任务学习

    通过三种不同的角度（数据属性、手工设计和基于模型的相关性）分析任务相关性，本文提出了一种层次框架并使用粗粒度到细粒度的范式，使模型从所有任务中学习基本语言属性，提高相关任务的性能，并减少不相关任务的负面影响。

    Aug, 2022

  • JobFormer：具有语义增强变形器的技能感知工作推荐

    我们提出了一种新颖的基于设计的语义增强转换器的技能感知推荐模型，用于解析职位描述并完成个性化的工作推荐。我们采用两阶段学习策略进行技能感知推荐，在召回阶段利用技能分布指导 JD 表示学习，然后在排序阶段结合用户个人资料进行最终预测，为学习 JD 提供上下文语义表示，并为点击率（CTR）预测提供有效的 JD - 用户联合表示。通过对大规模真实世界和公共数据集的彻底实证分析，验证了我们方法在职位推荐方面的卓越性能和可解释性。

    Apr, 2024

  • JAMES: 带有多方面嵌入和推理的职位标题映射

    本文提出一种名为 JAMES 的解决方案，通过三种不同类型的嵌入以及多方面协同注意力和逻辑推理表征技术，可将无序、非标准的职位信息映射到预定义的标准职位上。在真实数据上的实验表明，JAMES 策略在准确度和 NDCG 方面可以分别比最佳对比基线高出 10.06％和 17.52％。

    Feb, 2022

  • TaBERT: 文本和表格数据联合理解的预训练

    该论文提出了一种在语言模型中加入（半）结构化表格信息的方法，并在语义解析任务上取得了新的最佳结果。

    May, 2020

  • 多层次句子嵌入用于人格预测

    通过 AdaCos 损失函数对上层句子空间进行训练，并使用基于余弦相似度的新型损失函数进行微调，我们成功地将文本表示为多维空间中的向量，实现了在拥有复杂多级结构的数据集中进行文本分类的目标。

    May, 2023

  • CARTE：表格学习的预训练与迁移

    预定深度学习模型、表格数据、数据集成、神经网络架构、CARTE 等是该论文的关键词，并且 CARTE 是可用于表格数据的大型预训练模型的一种神经网络架构。

    Feb, 2024

  • TART: 任务自适应参考转换技术提升少样本文本分类

    提出一种基于 Task-Adaptive Reference Transformation 网络的 Few-Shot 文本分类方法，通过在任务自适应度量空间中将类原型转换为每个类的固定参考点来增强泛化能力，并引入了一种在转换后的原型之间的区别性参考正则化方法，实验结果在四个基准数据集上均超越了现有模型。

    Jun, 2023

  • 基于句子嵌入的职位广告中横向技能的分层分类

    通过分类框架和深度学习模型，该论文提出一种方法来识别职位要求和横向技能的关联，并预测个体职位描述所需的技能。该方法使用 ESCO（欧洲技能、能力和职业）分类法进行数据收集、预处理和标记。采用分层分类和多标签策略进行技能识别，通过数据平衡增强模型的鲁棒性。通过比较使用英语特定和多语言句子嵌入模型得到的结果，发现它们具有相近的准确性。实验案例研究详细介绍了神经网络配置、超参数和交叉验证结果，突出了分层方法的有效性和多语言模型在多样化欧洲职位市场的适用性。因此，提出了一种新的方法来从职位广告中对横向技能进行分层分类。

    Jan, 2024