Aug, 2023
在数据稀缺领域中利用专家模型训练深度神经网络：应用于离线手写签名验证
Leveraging Expert Models for Training Deep Neural Networks in Scarce Data Domains: Application to Offline Handwritten Signature Verification
Dimitrios Tsourounis, Ilias Theodorakopoulos, Elias N. Zois, George Economou
TL;DR该研究引入了一种新方法，在任务特定数据有限或不可用的领域中，利用现有专家模型的知识来训练新的卷积神经网络。该方案应用于脱机手写签名验证（OffSV），通过特征为基础的知识蒸馏（FKD）和全局相似性度量，仅使用手写文本数据来监督学生的训练，从而使得训练出的模型在三个常用签名数据集中达到与或超过教师模型的性能，而且在特征提取训练过程中无需使用任何签名，从而证明了利用现有专家模型克服 OffSV 和其他相关领域的数据稀缺性挑战的功效。