May, 2024

现代时域神经网络中时间步嵌入的消失

TL;DR通过深入分析现代时间相关神经网络的结构,研究报告了一个时间相关神经网络的时间感知关键缺陷,该缺陷同样存在于扩散模型中,同时提供了几种解决方案以改善问题根源,并通过对神经常微分方程和扩散模型的实验验证表明,保证时间感知能力可以提升它们的性能,暗示了它们当前的实现缺乏足够的时间依赖性。