提出了一种使用 MambaMIR 和 MambaMIR-GAN 进行医学图像重建和不确定性估计的方法，通过 Arbitrary-Masked Mamba-based 模型和波尔塔斯转换结合，实现了最佳的重建保真度和感知质量。

May, 2024

我们提出了一种新的模型不确定性量化方法 MAF，该方法依赖于从体积图像数据的多个视图中获得的互补信息的集成，应用于 3D 医学图像到图像转换的认知不确定性估计，并在合成对比增强的 T1 加权影像上应用。

Nov, 2023

使用自我监督目标进行大型基础模型的训练，然后在下游任务中进行微调已成为一种标准程序。我们介绍了多模态注意力融合（MAM）方法，通过零 - shot 范式，实现了从高资源模态（文本和图像）的注意力矩阵到资源受限领域（语音和音频）的知识转移。MAM 可将自动语音识别（ASR）模型的相对字错误率（WER）降低多达 6.70％，将音频事件分类（AEC）模型的相对分类错误率降低 10.63％。在一些数据 / 计算资源可用的情况下，我们提出了可学习的 MAM 方法，用于合并注意力矩阵，进一步将 ASR 的 WER 降低 2.90％，AEC 降低 18.42％，相对于微调方法。

Dec, 2023

本文介绍了几种新颖的深度学习训练技术，如广义模型无关课程学习方法和级联加和增强方法，它们不仅能够提高训练效率并改善深度网络训练过程中的优化平滑度、鲁棒性，而且还能够为计算机视觉任务提供更好的预测性能和模型稳健性。

Nov, 2022

近年来，语言和文本到图像模型的大规模预训练的进步已经革新了机器学习领域。然而，将这两种模态集成到一个能够生成无缝多模态输出的强大模型仍然是一个重大挑战。为了解决这个问题，我们提出了联合自回归混合（JAM）框架，这是一种模块化的方法，系统地融合了现有的文本和图像生成模型。我们还引入了一种专门的、高效的数据调优策略，为混合模态生成任务量身定制。我们最终调优的模型在生成高质量多模态输出方面表现出了无与伦比的性能，并且代表了首个明确设计用于此目的的模型。

Sep, 2023

本研究提出了一种基于多模态生成模型的半监督学习方法，通过学习序列对之间的共享表示来重构未配对的数据，以解决指令跟随任务中的挑战，并在实验中通过利用未配对数据来改善表现。

Dec, 2022

通过将 Transformer 与多实例学习（MIL）框架结合使用整张切片图像（WSIs），我们提出了一种 MamMIL 框架，首次将选择性结构状态空间模型（即 Mamba）与 MIL 结合起来，实现了对实例依赖性的建模并保持了线性复杂性。在两个数据集上的实验证明，MamMIL 可以以比基于 Transformer 的最先进的 MIL 框架更小的内存占用来实现先进的分类性能。

Mar, 2024

本文提出一种新的自我监督学习（SSL）方法，通过构建序列视图间的对比学习来改进序列推荐问题的效果，为了解决数据稀疏性和噪音问题，提出了三种模型增强方法以构建视图对，实验表明模型增强对于增强 SSL 中的序列推荐任务效果是有效的。

Mar, 2022

基于状态空间模型（SSM）的 Mamba 与 Transformer 架构相结合的 PointABM 模型，在改善局部特征以提高 3D 点云分析性能方面表现出优越性，并通过引入双向 SSM 框架和自注意机制进一步增强了特征提取能力，实验证明整合 Mamba 与 Transformer 显著提高了 3D 点云分析模型的能力。

Jun, 2024

该研究提出了一种基于决策边界的数据增强策略，利用预训练语言模型来提高鲁棒性；该技术首先将潜在特征接近决策边界，然后通过重构生成一个带有软标签的模糊版本，并建议使用中点 K 采样来增强生成句子的多样性。通过大量实验证明了该增强策略与其他方法相比的性能，同时深入研究了软标签和中点 K 采样的效果以及该方法在课程数据增强中的可扩展性。

Mar, 2024