本文提出一种基于短语挖掘算法的主题模型，该算法能够在保证计算效率的同时，高效地发现论文标题、摘要、评论和新闻文章等多种数据集中的高质量主题短语。

Jun, 2014

该论文提出了一种基于知识库的自动短语挖掘框架 AutoPhrase，利用大规模高质量短语取代昂贵的人工规则以及标注，通过浅层句法分析模型和词性标注进一步提高性能，可适用于任何语言。在不同领域和语言的五个真实数据集上，相比现有的方法，新方法在效果上有显著改善。

Feb, 2017

本文提出了UCPhrase，一种新型的无监督上下文感知高质量短语标记器，它利用基于上下文一致性的词序列自动提取高质量短语，并通过基于变换器的神经网络和标签共同训练轻量级跨度预测模型识别表面名称或频率不同的高质量短语。该方法在语料库级别短语排名、文档级别关键词提取和句子级短语标记等任务方面，表现优于现有技术。

May, 2021

该文介绍了一种基于独特的校准过程的方法，可以无需质量短语列表或人工干预，独立地识别主要短语并从任何文本中提取它们，同时避免重复计数等问题，以消除从文本中提取常见短语时经常出现的复杂性问题。

Jun, 2022

本文提出了一种基于预训练语言模型和词性标注的无监督关键词提取方法PatternRank，实验结果表明，在单文档关键词提取中，PatternRank表现优于现有最先进的方法，并且作者提供了KeyphraseVectorizers软件包，使得提取出的关键词可以在不同领域中灵活应用。

Oct, 2022

我们提出了一个改进的框架来以无上下文的方式学习短语表示, 该框架使用短语类型分类作为辅助任务, 并更有效地将字符级信息融入短语表示, 通过设计三种不同程度的数据增强来增加训练样本的多样性, 我们的实验结果表明, 相对于先前的方法, 我们的方法生成了更优秀的短语嵌入, 同时还需要更小的模型大小。

Jan, 2024

研究在对话中的释义（如第一发言者：“那本书是我的。”变成第二发言者：“那本书是你的。” ）的上下文依赖释义操作和训练，提出了一个数据集和方法来对对话中的释义进行分类，通过在 NPR 和 CNN 新闻采访的话语对进行标注，得到了令人满意的用于对话中自动释义检测的上下文学习和令牌分类模型的结果。

Apr, 2024

本文提出了一种用于对大型未标记NLP数据集中的文本质量进行数值评估的新方法，以分配给文本实例一个“质量分数”。通过提出文本质量度量标准，本文建立了一个框架来识别和消除低质量的文本实例，提高了LM模型的训练效率。实验结果表明，通过这种方法，在多个模型和数据集上可以获得显著的训练效果提升，并展示了资源高效的LM训练的潜力。例如，在使用OpenWebText数据集进行训练时，相对于较少的数据量和较快的训练速度，多个LM模型在14个下游评估任务上的平均绝对准确性提高了0.9%，在使用Wikipedia数据集时，平均绝对准确性提高了0.8%。

Apr, 2024

介绍了 LexBench，这是一套全面评估套件，用于测试语言模型在十个语义短语处理任务上的性能。通过实验，验证了模型尺寸与任务性能之间的关系，进一步研究了少样本学习在语义关系分类方面的差距，并且发现强模型在语义短语处理上的性能与人类水平相当。

May, 2024

当目标短语位于噪音上下文中时，单个密集向量不足以进行有效的短语检索；因此，我们提出了代表多个子句、连续词语片段的概念，每个片段都有自己的密集向量，并引入了一种修改后的对比损失函数用于鼓励词嵌入具备此属性，并展示了该方法在短语挖掘中的改进效果。

May, 2024