Aug, 2023

不需要参数的改进算子范数误差率的双位协方差估计器

TL;DR我们提出了一种新的 2 位协方差矩阵估计器,通过采用三角形 dither 先于 2 位量化器,可以同时解决 Dirksen 等人的两个问题,提高了算子范数误差率,并且无需任何调整参数,实验结果证明了估计器的出色数值性能。