May, 2023

适应神经脑机接口预测输入的 Transformer 语言模型

TL;DR使用 Transformer 语言模型进行字符预测可以很大程度上加快 BCI 打字速度,本文针对几种基于 wordpiece 级别的 Transformer 语言模型进行了评估,并发现 GPT-2 可以在干净的文本上取得最佳效果,同时分析了字符位置和上下文长度对打字速度的影响。