ICMLJul, 2022
MCTensor:一种带有多组分浮点的高精度深度学习库
MCTensor: A High-Precision Deep Learning Library with Multi-Component Floating-Point
Tao Yu, Wentao Guo, Jianan Canal Li, Tiancheng Yuan, Christopher De Sa
TL;DR本文介绍了 MCTensor,这是基于 PyTorch 的库,提供 DL 训练的通用和高精度算术,在相同的 PyTorch Tensor 方式下,我们实现了多个基本的矩阵级计算运算符和 NN 模块,我们评估了 MCTensor 算术与 PyTorch 本地算术进行比较,结果表明,使用 MCTensor 在 float16 下的模型与使用 float32 或 float64 精度的 PyTorch 模型相匹配或超出表现,并获得高精度计算的好处。