预测动态融合
本研究提供了一种新的质量感知多模态融合方法,旨在从概率推理的角度解决跨模态相关性和交互性的挑战,并在多个基准测试中验证了其分类准确性和模型鲁棒性的提升。
Jun, 2023
本文提出了一种动态多模态融合的方法,可以在预测过程中根据数据的不同需求自适应地融合多模态数据,从而有效地减少计算成本,并在多个多模态任务上获得了良好的效果,这为动态多模态网络设计开辟了一条新的方向。
Mar, 2022
本研究提出了两种自适应融合网络(Auto-Fusion、GAN-Fusion),通过对不同模态的特征进行有效的上下文建模,在多模态机器翻译和情感识别等任务中取得了比现有方法更好的效果。
Nov, 2019
本文描述了一种层次双任务驱动的深度模型,用于多模态场景感知,包括图像融合和场景理解。该模型不仅能够产生视觉良好的融合结果,而且比现有技术实现了显著的检测和分割优势。
May, 2023
基于低质量数据的多模态融合面临四个主要挑战:噪声多模态数据,不完整多模态数据,不平衡多模态数据和质量变化多模态数据。本文通过全面的分类对多模态融合的常见挑战和最新进展进行调研,为研究人员提供了了解该领域现状和发现潜在研究方向的方法。此外,本文还讨论了该领域的开放问题以及有趣的未来研究方向。
Apr, 2024
该研究提出了一种交互式多模态融合技术,可在保留各自模态特征的同时,更好地融合来自不同模态的知识,以实现更好的链接预测效果,并在多个真实世界数据集上进行了实证评估。
Mar, 2023
本研究提出了一种新颖的基于深度学习的多模态数据融合框架,具有异构维度(例如 3D+2D)的兼容定位任务的能力,并在地理萎缩和视网膜血管分割任务上取得了优于现有单模态方法的结果。
Feb, 2024
多模态融合与多任务学习在三维自动驾驶场景中变得流行,然而,将现有框架扩展到多模态多任务学习领域仍然是无效的甚至有害的,由于恶名昭彰的模态偏差和任务冲突。本研究提出了一个新颖而简单的多层梯度校准学习框架,通过任务和模态之间的优化在任务和模态之间进行优化。实验证明了该方法的有效性。
Jul, 2023
探究了目前多模态融合模型是否利用补充信息来防御对抗攻击,通过在 MFNet 上应用 FGSM 和 PGD 等对抗攻击进行实验验证,发现多模态融合模型在对抗攻击方面仍然存在脆弱性。
May, 2020