Sep, 2022

跨多个领域联合推断中连接多个黑盒模型的 MLink

TL;DR本文研究了基于黑盒机器学习模型的模型链接学习任务,提出了一种模型链接设计来支持黑盒模型的链接,并针对分布差异性挑战,提出了模型链接的自适应和聚合方法。通过模型链接实现多模型协作推断可以在成本预算下提高推断结果的准确度,定量实验表明,与多任务学习、基于深度强化学习的调度程序和帧过滤baseline相比,本文提出的MLink可以在保存94%推断准确性的同时,节省66.7%的推断计算。