- 基于随机矩阵理论的多任务回归分析及其在时间序列预测中的应用
我们提出了一个新的理论框架,将随机矩阵理论应用于高维非高斯数据分布下,为多任务回归提供准确的性能估计;我们通过将多任务优化问题形式化为一种正则化技术来使单任务模型利用多任务学习信息,并在线性模型的背景下导出了多任务优化的闭式解;我们的分析通 - GO4Align: 多任务对齐的群体优化
本文提出了一个名为 GO4Align 的多任务优化方法,通过显式地对任务进行对齐来解决任务不平衡的问题。为了实现这一目标,我们设计了一种自适应的群组风险最小化策略,结合了动态群组分配和基于风险信息的群组指标等关键技术。在各种典型基准测试中进 - 多任务学习与多任务优化
本文提出了一种多目标优化的多任务学习方法,通过迭代传递模型参数在优化过程中解决存在冲突的多个任务,并在图像分类、场景理解和多目标回归问题中进行了实验验证,结果显示该方法显著提升了发现满足 Pareto 优化的模型集合的状态,尤其在大规模图像 - CoTBal: 多任务视觉指令调整的综合任务平衡
本研究提出了一种全面任务平衡算法(CoTBal),用于大型多模态模型(LMMs)的多任务视觉指令调整,实验证明 CoTBal 能够取得优越的整体性能。
- 参数化任务的 MAP-Elites
利用相似性同时优化一组函数称为多任务优化。本文介绍参数化任务 MAP-Elites(PT-ME),一种解决连续多任务优化问题的新型黑盒算法。该算法每次迭代解决一个新任务,从而有效地覆盖连续空间,并利用基于局部线性回归的新型变异操作。在两个参 - GoMatching:基于长短期匹配的视频文字定位的简单基线
在本文中,我们提出了一种名为 GoMatching 的简单基线方法,通过在跟踪任务中集中训练的努力来提高视频文本识别的性能,同时在图像文本识别任务上保持强大的性能表现。通过添加重新评分头和设计长短期匹配模块,GoMatching 在两个公共 - 基于多任务优化的物理信息神经网络训练用于交通密度预测
提出了一种基于多任务优化范式的物理信息神经网络(PINNs)训练框架,通过解决多个辅助任务来提升主任务的性能,应用于交通密度预测问题的训练中,实验结果表明相比传统方式,该框架显著提高了 PINN 的性能。
- 公平的多任务学习
本文提出了一种名为 EMTL 的新型多任务学习优化方法,通过正则化不同任务的相对贡献,在更新共享参数时改善了多任务学习的泛化性能,并通过扩展实验验证了该方法的稳定性和优越性。
- BPJDet:通用身体部件关节点扩展目标表示
本文提出了一种基于 CNN 的新型扩展目标表示法,将人体部位的中心偏移量集成到一个统一的对象表示中,并构建了一种密集的一阶通用身体 - 部位联合检测器 (BPJDet),利用多任务优化来处理多项任务,以实现身体部位的联合检测,从而改进了人体 - PCRLv2:用于自监督预训练的医学图像分析统一视觉信息保护框架
提出了一个基于像素恢复和多任务优化的统一半监督学习框架,用于医学图像分析,并在包括脑部肿瘤分割,胸部病理学识别和肺部结节检测在内的各种任务中取得了优于其他自监督学习方法的表现。
- MGADN:用于多元时间序列的多任务图形异常检测网络
研究了多变量时序数据的异常检测问题,提出了一种使用 GAT 和 LSTM 深度学习模型的方法,通过多任务优化算法来同时实现时间戳和传感器之间的关系建模、精准的异常检测和重构。
- 深度学习中的当前多任务优化方法是否有效?
本文研究了多任务优化算法和权重平均法在语言和视觉任务中的性能对比,发现在复杂性和算力开销上,多任务优化算法并没有显著优势,并提出可行的替代方法和训练注意事项。同时,该研究还讨论了评估多任务优化算法性能的挑战和潜在解决方案。
- 基于多任务优化的协同训练在电量消耗预测中的应用
提出一种基于多任务优化的共同训练(MTO-CT)框架来预测电力消耗,使用长短时记忆(LSTM)模型作为预测器,通过知识传输模块在不同任务之间进行知识共享,通过实际使用澳大利亚的电力消费数据,证明这种方法在预测精度方面具有优越性。
- Gradient Vaccine: 大规模多语言模型中的多任务优化研究和改进
本文提出了 Gradient Vaccine,一种简单而可扩展的优化过程,可用于改进多语言模型的性能表现,从而获得显著的模型性能提升。通过捕捉多语言模型的梯度相似性,本文揭示了现有基于梯度的多任务学习方法的关键局限性,并揭示了在多语言优化中 - 贝叶斯优化教程
本文介绍了贝叶斯优化的基本工作原理,包括高斯过程回归和三种常见的采集函数;讨论了高级技术,包括并行运行多个函数评估,多保真度和多信息源优化,多任务的贝叶斯优化,并探讨贝叶斯优化软件和未来研究方向。
- 昂贵积分的贝叶斯优化
提出一种用于贝叶斯优化的算法,优化对象为求和或积分形式、具有难以评估的函数,适用于机器学习超参数调优、模拟优化、随机实验设计等领域,该方法在单次函数评估处于预算内时具有平均情况最优性,通过解决信息价值优化问题达到了一步最优性,同时也在数值实 - ECCVMOON: 一种混合多目标优化网络,用于识别面部属性
本文提出了一种新的混合目标优化网络,其中的损失函数混合了多种任务目标,并具有领域自适应的传播损失重新加权,解决了深度卷积神经网络中的多标签不平衡问题,该方法在面部属性识别方面表现良好,优于使用相同数据的独立训练的 DCNN。
- AAAI基于度量学习的多任务结构化输出优化技术,用于强健的关键点跟踪
提出了一种基于时空多任务结构输出优化的鲁棒性关键点跟踪器,实现了跨帧时空模型的一致性、帧内空间模型的一致性以及辨别特征的构建,并采用联合学习方案同时优化了上述三个模块。
- 输入扭曲用于非平稳函数的贝叶斯优化
本文介绍一种基于 Beta 累积分布函数的自适应学习输入空间的方法,针对多任务贝叶斯优化问题,将多个任务共同映射为稳定的空间,实验结果表明,该方法可以大幅提升全局寻优的效率和准确性。