Jul, 2022

QSAN: 一种近期可实现的量子自注意力网络

TL;DR本文提出了用近期的量子设备实现可行的量子自注意(QSAN)网络,并研究了其线性和可逆的量子自我注意机制,包括量子逻辑相似性,量子比特自我注意得分矩阵等,该方法能够解决自我注意机制由于二次复杂度导致的存储问题,并能够充分部署在量子计算机上,在自然梯度下降的方法下能够更快地进行训练,具有实现量子增强自然语言处理(NLP)的巨大潜力。