Oct, 2023

如果没有欠拟合,就没有冷后验效应

TL;DR贝叶斯深度学习中的冷后验效应表明,在温度$ T < 1 $的后验中,预测效果可能比贝叶斯后验($ T = 1 $)要好。本研究更深入地阐述了冷后验效应,揭示只有当贝叶斯后验出现欠拟合情况时,才会出现冷后验效应。事实上,理论上证明了如果没有欠拟合,就不会有冷后验效应。