Nov, 2023
LiveTune: 动态参数调整用于深度神经网络训练
LiveTune: Dynamic Parameter Tuning for Training Deep Neural Networks
Soheil Zibakhsh Shabgahi, Nojan Sheybani, Aiden Tabrizi, Farinaz Koushanfar
TL;DR通过存储参数在系统的指定端口上并允许动态调整,我们提出了一个新的框架 LiveTune,允许在训练过程中实时调整参数,从而提供持续的训练会话。通过对我们的框架进行广泛评估,我们发现每次超参数改变可以节省高达 60 秒和 5.4 千焦的能量。