ICLRMar, 2024

潜在扩散模型的人类对齐分析

TL;DR在这项工作中,我们分析了大规模数据训练的扩散模型对于三选一任务中人类响应的表示对齐情况,发现尽管其与人类响应的对齐程度与仅在 ImageNet-1k 上训练的模型相当,但去噪 U-Net 的对齐层主要为中间层而非瓶颈层,而且文本条件对于高噪声水平下的对齐显著改善,暗示了抽象文本信息的重要性,尤其是在生成的早期阶段。