Mar, 2024
动态适配器遇到提示调整：基于参数效率的点云分析迁移学习
Dynamic Adapter Meets Prompt Tuning: Parameter-Efficient Transfer
Learning for Point Cloud Analysis
TL;DR本文的目标是研究点云分析中的参数高效迁移学习，以在任务性能和参数效率之间取得理想的平衡，通过冻结默认预训练模型的参数，并使用动态适配器和提示调整相结合的方法，捕捉每个标记的重要程度，要点功能以及实例特定特征的交互。通过在五个具有挑战性的数据集上进行的实验表明，所提出的方法在明显减少可训练参数和训练GPU存储空间（分别减少95％和35％) 的同时，实现了优于完全微调对应方法的性能。