ACLMar, 2022

对比视觉语义预训练增强自然语言表示中的语义

TL;DR该研究探讨了对比视觉语义预训练的影响,通过比较 GPT-2 和 CLIP 形成的英语语言表示的几何和语义特性,发现对比视觉语义预训练显著缓解了 GPT-2 上存在的各向异性,提供了较好的词级和句级的语义表示效果。