基于观测引导的扩散概率模型
本文提出了一种名为 RGDM 的模型,通过强化学习(RL)引导扩散模型的训练阶段,从而实现对样本生成的控制。在 3D 形状和分子生成任务上的实验表明,该模型相较于现有的条件扩散模型具有显著的改进。
Apr, 2023
利用高斯混合模型作为特征条件引导去噪过程,构建了一种基于高斯混合模型的条件机制,证明了该条件机制在特征上的条件潜在分布相较于类别上的条件潜在分布产生较少的缺陷生成,通过两种基于高斯混合模型的扩散模型的实验结果支持上述发现,并提出负高斯混合梯度作为一种新的梯度函数,通过额外分类器在扩散模型训练中应用,提高了训练稳定性,并从理论上证明了负高斯混合梯度和地球移动距离(Wasserstein 距离)在学习由低维流形支持的分布时具有相同的优势作为一种更合理的代价函数。
Jan, 2024
通过匹配隐式和显式因素,我们提出了一种新的方法,以解决生成模型中的采样难题,该方法利用隐式模型匹配噪声数据的边缘分布和前向扩散的显式条件分布,以有效地匹配联合降噪分布,并获得与扩散模型相当的生成性能和比采样步骤少的模型相比更好的结果。
Jun, 2023
通过在模型训练过程中加入约束条件使其生成的样本更符合所施加的约束,从而提高生成样本与约束的一致性,且相较于现有方法有更好的性能且不影响推断速度;该方法还可以自然地防止过拟合。
Mar, 2024
基于最大似然原则的参数估计,使用迭代最优化算法获取数据似然函数的最优解。本文提出一种新的去噪扩散概率模型方法(Gen-neG),利用外部的辅助信息进行模型学习,在生成过程中通过生成对抗网络(GANs)和鉴别器引导策略,将生成样本限制在正区域范围内。实验证明 Gen-neG 在自动驾驶模拟器中的碰撞避免和安全人体运动生成等应用中具有有效性。
Jul, 2023
本文提出了一种新颖的净化方法,即导向扩散模型净化(GDMP),旨在帮助保护深度神经网络分类器免受对抗攻击的影响。在各种数据集上进行的广泛实验表明,所提出的 GDMP 将由对抗攻击引起的扰动降至浅层范围,从而显着提高了分类的正确性,并提高了 5%的鲁棒性。
May, 2022
通过引入广义扩散适应(GDA)方法,研究论文提出了一种对不同类型的分布移位具有鲁棒性的测试时间适应方法,实现了在广泛的 OOD 基准测试上的最高分类准确度提升。
Mar, 2024
本文提出了一种新的 OOC 检测方法,探讨了鉴别模型在特定区域中对数据更敏感,借此提出了基于扩散模型的检测方法和指标分数,结合鉴别模型和生成模型进行检测,实验结果表明该方法在 CIFAR10 和 CIFAR100 数据集上有竞争力。
Nov, 2022
此研究介绍了量子生成扩散模型(QGDM),一种完全的量子力学模型,用于生成量子态系列,灵感来自去噪扩散概率模型。QGDM 通过引入时间步骤相关的噪声进入量子态,并配对训练以逆转这种污染的降噪机制,高效地将完全混合态演化成目标量子态。与量子生成对抗网络的比较分析证明了 QGDM 的优越性,在涉及 4 个量子比特的数值模拟中,拟真度指标超过 0.99。此外,我们提出了一种资源高效的 QGDM 版本(RE-QGDM),其在涉及 8 个量子比特的任务中减少了对辅助量子比特的需求,同时保持了令人印象深刻的生成能力。这些结果展示了所提出模型在应对具有挑战性的量子生成问题方面的潜力。
Jan, 2024