- 均场混沌扩散模型
本论文介绍了一种新的基于评分的生成模型(SGMs),通过利用均值场理论的概念来处理高基数数据分布。我们提出了均值场混沌扩散模型(MF-CDMs),通过利用相互作用粒子的混沌传播特性来解决高基数数据中固有的维度灾难问题。将高基数数据视为大型随 - 增强结构化分布学习的非线性降噪得分匹配
提出了一种新颖的训练基于分数的生成模型的方法,通过非线性加噪动力学改进结构化分布的学习,从而使其更好地适应数据,在数据预处理步骤中获取结构并引入了两种方法解决非线性动力学训练带来的挑战,展示了该方法在几个示例上的有效性。
- 基于得分的生成模型的可证明鲁棒性研究:一个不确定性量化的视角
通过不确定性量化的视角,我们证明基于得分的生成模型对实际实现中的多重误差具有可靠性。利用 Wasserstein 不确定性传播定理,我们展示了有限样本近似、提前停止、得分匹配目标选择、得分函数参数化表达能力以及参考分布选择所导致的误差如何影 - 基于得分的生成模型与自适应动量
通过引入适应性动量采样,有效加速了转换过程,同时在小样本步骤中产生更加逼真的图像 / 图表,并在图像和图表生成任务中获得了有竞争力的评分。
- 基于分值的生成模型的概率流动常微分方程的收敛分析
基于分数的生成模型中,我们从理论和数值的角度研究了基于概率流 ODE 的确定性采样器的收敛性质,并证明了目标和生成数据分布之间的总变差可以在连续时间层面上通过 d√δ(其中 d 表示数据维度,δ 表示 L2 - 评分匹配误差)被上界限制,并 - 简化扩散薛定谔桥
本研究介绍了一种新颖的理论简化方法,将扩散薛定谔桥与基于评分的生成模型统一起来,解决了扩散薛定谔桥在复杂数据生成方面的局限性,实现了更快的收敛和更强的性能。通过将基于评分的生成模型作为扩散薛定谔桥的初始解决方案,我们的方法充分发挥了两个框架 - 基于相似度核的零射新型分子生成
通过分析得分模型,本研究发现生成分子过程中的得分模型在起始时类似恢复势能,在最后则类似量子力学力,两者之间表现出特殊性质以便生成较大的分子。基于训练出的模型,本研究提出了一种新的零样本分子生成方法 —— 基于相似性的分子生成(SiMGen) - 基于成绩的生成模型在学习亚高斯概率分布族中克服了维度诅咒
分析使用得分为基础的生成模型在学习一类亚高斯概率分布时的近似和概括性,介绍了相对于标准高斯测度的概率分布的复杂性概念,证明了通过经验得分匹配生成的分布以维度无关的速率近似目标分布。通过包括某些高斯混合的示例说明了理论,证明中的一个基本要素是 - Wasserstein 近似算子描述基于评分的生成模型并解决记忆问题
我们着眼于得分基础生成模型(SGMs)的基本数学结构,以 Wasserstein 邻近算子(WPO)为基础进行了 SGMs 的数学形式重构,并通过均匀场博弈(MFGs)揭示出描述扩散和基于得分模型的归纳偏差的数学结构。借助 Cole-Hop - 得分高不代表生成模型好
通过样本复杂性论证,我们在特定设置下展示了得分函数训练良好的情况下,SGM 只能输出训练数据点的高斯模糊样本,从而模拟核密度估计的效果,这与最近的研究结果一致,揭示了 SGM 展示出记忆效应并且无法生成的弱点。
- AAAISO (3) 上扩散生成模型的统一框架:在计算机视觉与天体物理学中的应用
我们开发了基于分数的生成模型(SGMs)和去噪扩散概率模型(DDPMs)的扩展,用于三维旋转的李群 SO(3),并应用于合成密度和姿态估计任务,在天体物理学 / 宇宙学中预测相关星系方向。
- 混合类型表格数据的连续扩散
通过结合评分匹配和评分插值,我们在这篇论文中提出了一种针对混合类型表格数据的得分生成模型。模型考虑了特征异质性,并允许自适应、可学习的噪声调度以提高样本质量。实验结果表明,我们的模型在质量上始终优于最先进的基准模型,并且噪声调度设计中的异质 - CoCoGen:基于评分的生成模型,用于前向和逆向问题的物理一致和条件性建模
通过将分数模型集成到离散化信息中,本研究提出了一种提高偏微分方程下数据一致性的高效方法,将其应用于物理问题领域,并展示了分数模型在物理任务中的潜力和多样性,特别关注代理建模和稀疏测量的概率场重建和反演。
- 一类基于评分的生成模型的 Wasserstein 收敛保证
在本研究中,我们针对具有最先进性能的分数生成模型(SGMs)这一最新类别的深度生成模型,基于确切的评分估计和平滑的对数凹分布假设,在 2-Wasserstein 距离上提出了收敛性保证。我们针对几种具体的 SGM 模型将结果特化,这些模型采 - 基于评分的生成模型学习具有约束混合的流形结构
通过线性逼近和本地特征向量生成的子空间,调查经过训练的评分模型 (linear approximations and subspaces spanned by local feature vectors),通过低维流形上支持的数据分布支持的 - 生成性分数扩散模型
我们首次尝试在具有无限二次变差的随机过程上建立一个生成模型。
- 闭合式扩散模型
通过对闭式评分函数进行平滑处理,我们提出了一种无须训练即可生成新样本的 SGM 模型,并提出了一种高效的基于最近邻的评分函数估计器,使得我们的方法在使用消费级 CPU 运行时具有与神经 SGMs 相竞争的采样速度。
- 通过基于分数的对抗图像生成评估鲁棒性
此研究介绍了基于评分的对抗生成(ScoreAG)框架,利用评分模型生成超越 $p$ 范数约束的对抗样本,既能保持图像的核心语义,又能生成逼真的对抗样本,进一步提高分类器的鲁棒性。通过广泛的实证评估,ScoreAG 在多个基准测试上与当前最先 - 一种丰富且高效的强化学习策略类别:一致性模型
我们提出了一种用于离线、离线到在线和在线三种典型强化学习设置的高效且表达力强的策略表示方法,称为一致性策略,以一种演员 - 评论家风格的算法应用连续模型,展现了其在多模态数据、计算效率和性能方面的优势。
- 生成转换路径的扩散方法
我们开发了两种新的路径生成方法:基于链式方法和基于中点方法,在数据丰富和数据匮乏的情况下,在模拟稀有转换过程中展示了这些方法的有效性。