Nov, 2023

LiveTune: 动态参数调整用于深度神经网络训练

TL;DR通过存储参数在系统的指定端口上并允许动态调整,我们提出了一个新的框架 LiveTune,允许在训练过程中实时调整参数,从而提供持续的训练会话。通过对我们的框架进行广泛评估,我们发现每次超参数改变可以节省高达 60 秒和 5.4 千焦的能量。