Oct, 2023
利用表示学习的任务感知调制：异构系统中少样本学习的方法
Task Aware Modulation using Representation Learning: An Approach for Few Shot Learning in Heterogeneous Systems
Arvind Renganathan, Rahul Ghosh, Ankush Khandelwal, Vipin Kumar
TL;DR本研究通过使用任务感知的表示学习（TAM-RL）框架，在不了解单个任务特征的异构系统中提升个性化预测。TAM-RL 提取代表实体的实际内在特征的嵌入，并将这些特征用于为每个实体 / 任务个性化预测。通过使用真实的水文和通量塔基准数据集，我们展示了 TAM-RL 能够在更快且更简单的训练过程中显著优于现有的基准方法，如 MAML 和多模态 MAML（MMAML）。具体而言，TAM-RL 消除了对 MAML、MMAML 模型收敛至关重要的敏感超参数，如内循环步骤和内循环学习率的需求。我们进一步通过使用合成数据进行实证评估，探究实体的异质性对 MAML、MMAML 和 TAM-RL 相对性能的影响。结论显示，当可能学习到不同任务的不同表示时，TAM-RL 显著提高了预测性能。