pretrained encoders | BriefGPT

关键词pretrained encoders

搜索结果 - 7

多语言不可见说话人情感识别的探索：在多任务学习中利用共注意线索
本研究关注于多语言语音情感识别中未见过的说话者，引入了 CAMuLeNet 这一新颖的架构，通过共同注意力融合和多任务学习解决了这一问题，并在多个基准数据集上对预训练的 Whisper、HuBERT、Wav2Vec2.0 和 WavLM 进
PDF23 days ago
KDD时尚电商中的多模态端到端产品匹配
在线市场与电子商务公司中，产品匹配是识别同一产品不同表示以提高可发现性、整理性和定价性的重要能力。我们在一个行业环境中提出了一个强大的多模态产品匹配系统，其中大规模的数据集、数据分布转移和未知领域带来了挑战。我们比较了不同的方法，并得出结论
PDF4 months ago
均衡数据，不均衡光谱：揭示类别差异的光谱不平衡
我们研究了不同类别之间的性能差异问题，并引入了光谱不平衡的概念来研究特征之间的类别偏差，通过构建一个理论框架，并在 11 个先进的预训练编码器上进行验证，我们展示了如何利用光谱不平衡来比较编码器的质量，评估和结合数据增强策略以缓解这个问题。
PDF5 months ago
语言模型是通用接口
本文提出了使用语言模型作为各种基础模型的通用接口，弥合语言和其他模态的差异性，同时继承了语境训练和生成以及双向编码器的优点，实现了上下文学习、指导跟随等多种能力。实验验证表明，在各种语言和视觉语言基准测试中，我们的模型在微调、零 - sho
PDF2 years ago
利用单模编码器进行视觉语言任务的多模适应蒸馏
提出了一种名为 MAD 的方法，可以使用预训练的单模态视觉和文本编码器对跨模态 VL 编码器进行自适应蒸馏，从而提高了跨模态学习的性能，特别是在 VCR 领域取得了 SOTA 表现。
PDF2 years ago
DeltaLM: 使用预训练多语言编码器扩充编码器 - 解码器预训练，以用于语言生成和翻译
介绍了一种名为 DeltaLM 的预训练多语言编码器 - 解码器模型，桥接了预训练编码器和自然语言生成之间的鸿沟，采用自监督方式的跨语言数据预训练任务。实验显示，DeltaLM 在机器翻译、文本摘要、数据生成和问题生成等自然语言生成和翻译的
PDF3 years ago
EMNLPAM2iCo：使用对抗性示例在低资源语言中评估单词含义的上下文
本研究提出了 AM2iCo 用于多语言和跨语言的词汇语义评估，旨在研究最先进的预训练文本表示模型在理解跨语言环境下的词意识别方面的能力，结果显示当前预训练编码器表现与人类性能存在明显差距，尤其体现在低资源语言和与英语不同的语言上。
PDF3 years ago