text embeddings | BriefGPT - AI 论文速递

关键词text embeddings

搜索结果 - 30

一种嵌入器，任何任务：指令微调文本嵌入
介绍了 INSTRUCTOR 方法，该方法可以生成定制化的文本嵌入，能够胜任多种下游任务，且性能优于之前的模型。
PDF2 years ago
弱监督对比预训练的文本嵌入
本文提出了 E5 模型，通过对弱监督的大规模文本对数据集（CCPairs）的对比训练，得到一种最先进的文本嵌入模型，可用于检索、聚类和分类等任务，表现出色并具有迁移性。在 BEIR 和 MTEB 数据集上进行广泛评估，E5 在零样本和微调设
PDF2 years ago
广义球面文本嵌入
本文提出了一种无监督建模方法，通过引入新的相似度度量和矩阵嵌入的优化问题，可以更加灵活地表示文本嵌入，并在文档分类、文档聚类和语义文本相似性基准测试等方面得到改进的结果。
PDF2 years ago
基于文本多样性流形的自然语言对抗样本防御
本文研究了利用预训练语言模型诱导的上下文嵌入空间中的对抗文本的嵌入发散现象，并提出了一种基于嵌入流形的文本防御机制，将文本嵌入映射到近似嵌入流形上进行分类，从而增强模型的鲁棒性。实验证明，该方法在不牺牲准确性的前提下，在各种攻击设置下始终显
PDF2 years ago
MTEB: 大规模文本嵌入基准测试
本文介绍了 Massive Text Embedding Benchmark 评估了 33 种模型在 8 种嵌入任务和 112 种语言上的表现。结果发现，没有一种嵌入方法能够完全在所有任务上占优势，因此需要进一步研究和发展通用的文本嵌入方法
PDF2 years ago
对比式预训练用于文本与代码嵌入
本文研究了使用对比方式的自监督无监督训练大规模文本向量化，得到的向量在文本与代码搜索中表现优异，相较于之前使用监督学习方法的实验结果，相对提升了 4% 到 23.4% 不等。
PDF2 years ago
ACL大规模知识库文本嵌入对齐的系统性研究
该研究通过对齐知识库和文本嵌入，进行联合推理，并通过 COVID-19 案例研究，将文本信息注入知识库嵌入，从而更准确地预测新兴实体和事件的相关性。
PDF3 years ago
EMNLP深度自动语音识别性能预测模型的学习表示分析
本文介绍一项新任务：预测在未见过的广播节目上的 ASR 表现。使用 CNN 编码文本（ASR 转录本）和语音，以预测单词错误率。我们致力于分析 CNN 在训练预测模型时学习的语音信号嵌入和文本嵌入。我们试图更好地理解深度模型捕获的信息及其与
PDF6 years ago
通过图像文本转换实现更好文本理解
本文探讨了将视觉信息与文本表示相结合的模型，通过 comprehensive ablation studies，我们提出了一种简单但表现突出的架构，相对于其他的 multimodal approaches，在若干基准测试中取得了更好的成绩。
PDF7 years ago
ICML基于字符级文本嵌入的文本分割
该研究提出通过训练简单的循环神经网络从原文本字符序列中直接学习文本表示，并将这些文本嵌入用作监督字符级别文本分段和标记任务的特征，以实现比表面字符 n-gram 更好的结果。
PDF11 years ago