Sep, 2023

LLM4Jobs: 无监督职业提取与标准化，基于大规模语言模型

PDF
TL;DRLLM4Jobs 是一种利用大型语言模型（LLMs）进行职位编码的新型无监督方法，通过在合成和实际数据集上进行严谨实验证明，LLM4Jobs 始终超过无监督最先进的基准，展示了其在不同数据集和细粒度上的多功能性。
automated occupation extractionllm4jobsunsupervised methodologyoccupation codinglarge language models
发现论文，激发创造
  • JobRecoGPT -- 基于 LLMs 的可解释的职位推荐

    通过比较四种不同的方法，包括内容确定性、由 LLM 指导、未指导的 LLM 和混合方法，我们利用大型语言模型在工作推荐中捕捉了未结构化数据转换过程中丢失的信息，并且评估了它们在时间需求方面的性能。

    Sep, 2023

  • LABOR-LLM：基于大型语言模型的基于语言的职业表示

    使用大型语言模型和迁移学习技术，本研究提出一种替代 CAREER 基础模型微调的方法，对下一个工作预测任务进行训练并展示了其在代表性调查数据上的预测性能优于传统计量模型、CAREER 和具有情境学习的大型语言模型。

    Jun, 2024

  • 中国劳动市场中的大型语言模型

    该研究探讨了大型语言模型（LLMs）对中国劳动力市场的潜在影响，通过人工专业知识和 LLM 分类的分析，我们研究了 LLM 能力对职业暴露的影响。结果显示职业暴露与工资水平 / 经验溢价呈正相关，暗示高薪和经验密集型工作可能面临更大的被 LLM 软件取代的风险。该研究在理解中国日益强大的 AI 系统对劳动力市场的影响方面提供了分析基础，创新之处在于职业层面的暴露分析、行业聚合方法以及纳入 AI 采用和劳动力市场效应的经济模型。该研究结果将为决策者和企业提供关于最大化 AI 效益和减轻负面影响风险的策略建议。

    Aug, 2023

  • 在职业市场领域利用大型语言模型重新思考技能提取

    通过在 6 个统一化技能提取数据集上使用大语言模型（LLMs）的少样本学习能力，我们研究了上下文学习的使用，以克服手动注释数据的高依赖性对这些方法的泛化能力的限制。我们展示了 LLMs 能够更好地处理在技能提取任务中句法复杂的技能提及，尽管在性能上不及传统监督模型。

    Feb, 2024

  • 雇佣我还是不雇佣？考察语言模型对职业属性的行为

    本论文研究了大型语言模型在职业决策过程中与性别刻板印象相关的行为，通过多轮问答的方式，探究和量化了性别刻板印象在语言模型行为中的存在，并测试了三种模型的偏好。发现所有模型都存在类似于人类偏见的性别刻板印象，但偏好不同，且 GPT-3.5-turbo 和 Llama2-70b-chat 的不同偏好可能意味着当前的对齐方法对消除偏见不足够，甚至可能引入与传统性别刻板印象相矛盾的新偏见。

    May, 2024

  • LLMs4OL：用于本体学习的大型语言模型

    我们提出了 LLMs4OL 方法，利用大型语言模型（LLMs）进行本体学习（OL）。通过全面评估使用零训练样例提示方法，我们发现 LLMs 可以有效地应用其语言模式捕捉能力于 OL，该能力包括从自然语言文本中自动提取和结构化知识。评估涵盖了对三个主要的 OL 任务进行九种不同的 LLM 模型家族的评估，包括术语类型化，分类系统发现以及非分类关系的提取，并包含了 WordNet 中的词汇语义知识，GeoNames 中的地理知识以及 UMLS 中的医学知识等多种类型的本体知识。

    Jul, 2023

  • 利用大型语言模型进行极端多标签技能抽取训练

    通过使用大型语言模型，本研究提出了一种成本有效的方法来生成准确、全合成的技能提取的标签数据集，并提出了一种对比学习策略，证明其在任务中的有效性。在三个技能提取基准测试中，我们的结果显示，与仅依赖于远程监督的字面匹配的先前发布结果相比，R-Precision@5 提高了 15 至 25 个百分点。

    Jul, 2023

  • 大型语言模型为传统主题建模方法提供了一种替代方案

    本研究旨在探讨大型语言模型（LLMs）在主题提取方面的潜力，并建立评估协议以评估 LLMs 的聚类效果。通过深入实验与评估，总结了采用 LLMs 进行主题提取的优势和限制。

    Mar, 2024

  • LegalLens: 利用 LLMs 识别非结构化文本中的法律违规行为

    研究专注于通过大规模语言模型检测非结构化文本数据中的法律违规行为，并将这些违规行为与可能受影响的个人关联起来，实验结果表明我们的数据集和设置可以用于这两个任务。

    Feb, 2024

  • 由学徒到研究助理：大型语言模型推动研究

    通过文献综述和第一手实验，本文研究了大型语言模型（LLMs）的潜力。尽管 LLMs 具有成本效益和高效性等优点，但也存在着诸如提示调优、偏见和主观性等挑战。该研究通过利用 LLMs 进行定性分析的实验提供了新的见解，强调了成功和限制。此外，本文还讨论了缓解挑战的策略，如优化提示技术和利用人类专业知识。我们的工作旨在将 LLMs 有机地融入人机交互数据工作，并积极促进其负责任的应用，以此回应关于 LLMs 在研究中负责任应用的持续对话。

    Apr, 2024