text encoders | BriefGPT - AI 论文速递

关键词text encoders

搜索结果 - 9

减少文本编码器在零样本组合图像检索中的任务差异
Composed Image Retrieval (CIR) using zero-shot setting and CLIP encoders can be improved by reducing task discrepancy th
PDF21 days ago
MuLMS-AZ：材料科学领域的论证分区数据集
本研究基于科学出版物的常规修辞结构，将辩证区域的分类扩展到材料科学研究领域，并提出并发布了一个新的数据集，该数据集具有材料科学为中心的多标签注释方案，实验结果表明，使用特定领域的预训练基于 transformer 的文本编码器对高分类性能至
PDFa year ago
ACLBERT-style 和 CLIP-style 文本编码器的差异
本文分析了 BERT-style 和 CLIP-style 文本编码器之间的差异，发现尽管对于通用文本理解任务，CLIP-style 文本编码器表现不如 BERT-style 文本编码器，但它们具备跨模态联想的独特能力，更类似于人类的感官。
PDFa year ago
基于字符的模型提升视觉文本渲染质量
本研究探讨了影响当前图像生成模型难以可靠地生成良好文本图像的主要因素：流行的文本到图像模型缺乏字符级输入特征，这使得更难以预测一个单词的视觉构成为一系列字形。通过对比具有字符感知的与不具有字符感知的文本编码，我们在文本域内发现字符感知的模型
PDF2 years ago
向文本编码器注入后门，滋扰艺术创作：文本到图像合成
介绍了一种针对文本引导的生成模型的后门攻击，揭示了文本编码器的实际修改可能性和潜在威胁，并通过在提示中插入单个字符触发器的方式，演示了攻击的高有效性。同时，还讨论了如何强制让编码器从忘记一些相关的概念，以便更加安全地生成图像。
PDF2 years ago
ACL通过统计相似性度量学习解缠纠缠纷的文本表征
本文研究使用统计相似度度量为基础，构建了一种新的数据表述方法，不需要深度神经网络训练，快速且精度更高地进行敏感属性的鉴别，从而避免社会偏见。
PDF2 years ago
ICLR利用对抗式训练信号生成器进行文本编码器的预训练
提出了一种新的框架 AMOS，其中通过多个辅助生成器的多个信号混合来用对抗学习课程进行文本编码器的预训练，通过 ELECTRA 风格的预训练，主编码器训练为鉴别器，以检测辅助掩蔽语言模型生成的替换标记，AMOS 在 GLUE 基准测试中比
PDF2 years ago
联合能量模型训练以获得更好的校准自然语言理解模型
本文探讨在预训练的文本编码器（如 Roberta）的微调期间进行联合能量模型（EBM）训练，以提高模型的准确性，并通过噪声对比估计进行训练，同时引入掩码语言模型（MLM）目标来提高 NCE 训练的效果。
PDF3 years ago
WWWTextGNN: 基于图神经网络的赞助搜索文本编码器优化
提出了一种名为 TextGNN 模型的文本编码器，结合了用户历史行为中的图形信息，自然地扩展了强的双塔结构编码器，可以在低延迟环境中使用，同时在离线和在线的实验中都取得了显著的性能提升。
PDF3 years ago