Apr, 2023

D2CSE: 基于差异感知的深度连续提示对比句子嵌入

PDF
TL;DR本文提出了一种基于连续提示的差异感知深度对比句子嵌入方法（D2CSE），它可以区分相似句子的细微差异并在自我引导的情况下使用对比学习和条件替换令牌检测来执行多个任务，同时减少了训练参数数量，并且在语义文本相似度基准测试中达到了最新的表现水平。
sentence embeddingscontinuous promptscontrastive learningpretrained language modelssemantic textual similarity
发现论文，激发创造
  • DiffCSE：基于差异的对比学习用于句向量

    本文介绍了 DiffCSE，一个无监督的对比学习框架，可以学习敏感于原始句子和编辑后句子之间差异的句子嵌入，通过朴素的掩码和掩码语言模型中的采样获得编辑后的句子，证明了 DiffSCE 是一种等变对比学习，并在语义文本相似性任务中取得了超越无监督 SimCSE 的最先进结果。

    Apr, 2022

  • DialogueCSE: 基于对话的对比学习句向量表示

    本文提出一种对话导向的对比学习方法，即 DialogueCSE，以解决利用对话学习句子嵌入时出现的评估训练差距。通过引入新的匹配引导嵌入机制，该方法生成了上下文感知嵌入，并通过对比损失来最小化每个上下文感知嵌入与其对应的上下文无关嵌入的差异。实验结果表明，在三个多回合对话数据集上，该方法在 MAP 和 Spearman 相关性指标方面优于基线表现，具有很高的效力。

    Sep, 2021

  • SimCSE: 简单的对比学习句子嵌入

    本文介绍了一种简单的对比学习框架 SimCSE，通过无监督和监督学习两种方法，显著提高了句子嵌入的性能，适用于语义文本相似性任务。

    Apr, 2021

  • 从连续的话语中学习对话的表征

    本文介绍了一种对话句子嵌入技术（DSE），它采用自监督对比学习方法来学习高效的对话表示，经在五个下游对话任务上的实验验证，DSE 在零样本和少样本学习中都表现出优异的性能。

    May, 2022

  • DebCSE：从去偏见的角度重新思考无监督对比句嵌入学习

    本文研究了对比学习中存在的偏见问题，提出了一种名为 DebCSE 的新型对比框架，通过逆倾向加权抽样方法选择高质量的正负样本对，以消除各种偏见的影响，从而提高句子嵌入的质量。在语义文本相似性基准测试中，DebCSE 的平均 Spearman 相关系数为 80.33%，显著优于最新的最先进模型。

    Sep, 2023

  • 基于提示对比学习和能量函数学习的改进通用句子嵌入

    本文提出了一种新的基于提示的对比学习方法 (PromCSE)，用于有效提高预训练语言模型 (PLMs) 的普适句子嵌入表示，在七个标准语义文本相似性任务和一个域转移语义文本相似性任务上取得了优于当前最先进的句子嵌入模型的效果。

    Mar, 2022

  • 通过精简句子嵌入，可扩展的注意力句对建模

    该研究介绍一种基于知识蒸馏的 Distilled Sentence Embedding (DSE) 模型，旨在通过构建一个用于重构跨注意力模型得分的基于句子嵌入的学生模型，加速计算查询 - 候选句子对的相似度并在句子表示基准测试中达到最先进的性能。

    Aug, 2019

  • JCSE: 日语句子嵌入对比学习及其应用

    我们提出了一种针对日语的句子表示模型 JCSE 进行领域自适应学习的新方法，通过在源域中生成语句并将其与目标域中的语句合成，生成用于对比学习的矛盾句对，优于直接迁移的其他训练策略，以及在低资源语言的下游任务中有实际应用的效果。

    Jan, 2023

  • 无监督句子嵌入的实例平滑对比学习

    本文提出了 IS-CSE 方法用于平滑特征空间中的嵌入，实现句子嵌入的无监督学习，进而在标准的语义文本相似度（STS）任务中取得更好的结果。

    May, 2023

  • ESimCSE: 对无监督句子嵌入进行对比学习的增强样本构建方法

    提出了一种增强的无监督句子嵌入方法 (ESimCSE)，通过简单的文本操作和动量对比，来提高 SimCSE 在句子语义相似度任务方面的性能，与已有的无监督学习方法相比表现更好。

    Sep, 2021