Oct, 2023
多模式对比学习对分布偏移的鲁棒性
Understanding the Robustness of Multi-modal Contrastive Learning to Distribution Shift
Yihao Xue, Siddharth Joshi, Dang Nguyen, Baharan Mirzasoleiman
TL;DR通过分析多模态对比学习 (MMCL) 方法,我们揭示了其在学习鲁棒表示方面的两种机制:类内对比机制和跨类特征共享机制,这两种机制防止了训练数据中过度呈现的虚假特征对通用核心特征的影响,从而在分布偏移下实现了更优的零样本分类精度。