ICMLJul, 2022

MCTensor:一种带有多组分浮点的高精度深度学习库

TL;DR本文介绍了 MCTensor,这是基于 PyTorch 的库,提供 DL 训练的通用和高精度算术,在相同的 PyTorch Tensor 方式下,我们实现了多个基本的矩阵级计算运算符和 NN 模块,我们评估了 MCTensor 算术与 PyTorch 本地算术进行比较,结果表明,使用 MCTensor 在 float16 下的模型与使用 float32 或 float64 精度的 PyTorch 模型相匹配或超出表现,并获得高精度计算的好处。