reverse-mode automatic differentiation | BriefGPT

关键词reverse-mode automatic differentiation

搜索结果 - 4

双向响应式编程的机器学习
反应式语言是用于与环境连续并发交互的系统的编程。值采用无界流的形式，模拟时间的离散流逝或并发交互的序列。我们引入了一种对称的反应式构造，使得反向递归成为可能。对后者的约束使得实现变得实际。机器学习系统提供了许多动机：我们证明了反向模式的自动
PDF7 months ago
反向模式自动微分的分解
本文提出了将反向模式自动微分分解为前向模式线性化和转置的方法，它既可以将二者的本质区别隔离出来，又简化了它们的联合实现。具体而言，一旦在源语言中定义了每个基本操作的前向模式自动微分规则，只有线性基元需要额外的转置规则才能得到完整的反向模式自
PDF3 years ago
一种基于自动微分的地震反演通用方法
本研究提出了基于反向模式自动微分的地震反演算法框架，该框架可以通过深度学习框架支持高性能反向模式自动微分，可应用于包括速度模型估计、震源成像、地震定位和震源函数重构等广泛的反演建模应用。
PDF4 years ago
IJCAIDrMAD：使用反向模式自动微分优化深度神经网络超参数的蒸馏
DrMAD 是一种通过优化同时保证模型效果的简单高效的方法，可以在超参数优化中通过近似反转训练轨迹最大化地利用前向传递的知识，是第一个实现自动调整深度神经网络数千个超参数的研究尝试。
PDF9 years ago