BriefGPT.xyz
Jul, 2024
大型语言模型中的生成单一文化
Generative Monoculture in Large Language Models
HTML
PDF
Fan Wu, Emily Black, Varun Chandrasekaran
TL;DR
通过分析图书评论和代码生成任务,我们实验证明了生成性单一文化的普遍存在,并发现简单的对策如改变采样或提示策略无法缓解这种行为。此外,我们的结果表明生成性单一文化的根本原因可能内在于语言模型的对准过程,因此需要开发能够保持或推广多样性的微调范例。
Abstract
We introduce {\em
generative monoculture
}, a behavior observed in large
language models
(LLMs) characterized by a significant narrowing of
model
→