- 马尔可夫流匹配:用连续正规化流加速 MCMC
通过建模生成概率路径的向量场,连续归一化流(CNFs)利用神经网络学习参考密度与目标密度之间的概率路径。本文重新利用流匹配(FM)方法,结合马尔可夫采样方法评估 FM 目标和使用学习的概率路径改进蒙特卡洛采样,将该方法用于概率推断。我们提出 - ICLRVerlet 流:流动式生成模型的精确似然积分器
本文介绍了 Verlet 流,这是一类基于 Hamiltonian 动力学的增广状态空间的连续正则化流 (CNFs),用于计算模型似然的近似,以克服在重要性采样 Boltzmann 分布时,需要精确似然度的限制。在实验中,我们证明了常用的 - 连续归一化流在概率分布学习中的收敛性
通过连续归一化流(CNFs)和线性插值,我们研究了采用匹配流目标函数学习概率分布的 CNFs 在从有限随机样本中学习概率分布方面的理论属性,并建立了基于 Wasserstein-2 距离的分布估计器的非渐进误差界。
- 基于分配流形上的 E - 泛地测流匹配的离散联合分布生成建模
该研究介绍了一种新颖的生成模型,基于连续归一化流在分解离散度量子流形上。在逐渐整合流中分配类别,避免了离散化潜在连续模型时出现的舍入、样本截断等问题。通过将子流形嵌入到所有联合离散分布的超单纯体中并进行数据驱动的平均,可以逼近能表示结构离散 - 精确知识传递通过流匹配
我们提出了一种新颖的知识转移框架,引入连续归一化流进行渐进知识转化,并利用多步采样策略实现精准知识传递。通过引入随机插值,我们理论上证明了 FM-KT 的训练目标相当于最小化教师特征映射或逻辑负对数似然的上界。此外,FM-KT 可以看作是一 - 几何感知归一化的 Wasserstein 流用于最优因果推断
通过将连续归一化流应用于因果推断中的参数子模型,本文通过优化半参数效率界实现了精确的参数插值,从而进一步提高对错误建模的鲁棒性,从而取得了重要进展。
- Q - 归一化流和极小密度比估计
本文提出了一种新的流模型 Q-malizing flow,它是由神经 ODE 模型构建的,能够从 P 分布可达到任意 Q 分布,主要应用在密度比估计和高维数据相互信息估计中。
- ICML扩散 ODE 的最大似然估计的改进技术
本研究提出多个改进扩散 ODE 的最大似然估计技术,包括训练和评估技术,通过这些技术,我们无需变分去量化或数据增强在图像数据集上实现了具有最先进似然估计结果(CIFAR-10 上的 2.56,ImageNet-32 上的 3.43)。
- ICLR半等变条件归一化流
研究使用连续归一化流学习条件分布的问题,确保对刚体运动的条件不变性,并在受体感知配体生成的分子设置中展示了该技术的有效性。
- 一般几何中的黎曼流匹配
该文提出了 Riemannian Flow Matching (RFM) 框架,用于基于流的生成建模,可在流形上进行直接而有效的训练,并且在真实世界的非欧几里得数据集上达到了最先进的性能。
- 生成建模中的流匹配
基于连续归一化流的生成建模范例中,发现使用流匹配方法与扩散路径一起训练更具有鲁棒性和稳定性,并且可以开启使用优化运输插值定义的非扩散概率路径,该方法比传统扩散模型更适用于训练 ImageNet,并能快速生成可靠采样结果。
- ICML匹配流形上的正则化流和概率路径
该研究论文考虑了在流形数据上训练连续归一化流模型的问题,提出了一种新的概率路径距离度量 PPD,并证明了其具有优越的特性和性能,在实验中所得的结果十分令人满意。
- ICLR神经拉格朗日薛定谔桥:扩散模型用于人口动态
本研究提出了使用连续标准化流(CNFs)和动态最优输运方法对种群动态进行建模,以在固定时间点观测到的种群中推断采样轨迹的方法。通过使用正则化神经 SDE 对对流扩散过程进行建模并开发了一个模型架构,可以有效地近似种群级别的动态,即使在高维数 - CVPRTO-FLOW:具有时间优化的连续归一化流和移动速度伴随的高效算法
该研究提出了一种使用坐标下降和进化时间优化相结合的方法对神经常微分方程进行训练,以加速训练速度和提高稳定性,并在基准模型的基础上展示了更好的性能。
- Moser Flow: 基于发散性的流形生成建模
本文介绍了 Moser Flow 一种新型连续归一化流的生成模型,它可以通过求解变量转换公式得到归一化流,学习模型密度的参数形式为源(先验)密度减去神经网络的发散,通过该模型的学习在复杂的流形曲面采样与密度估计上取得了显著的性能提升。
- 黎曼连续归一化流
本文提出 Riemannian 连续正规化流模型,通过设置连续性流作为常微分方程的解来定义流,其可以对光滑流形上的灵活概率测度进行有效参数化,在合成和现实数据方面与标准流或先前介绍的预测流相比可以显著提高表现。
- 离散优化与优化离散在时间序列回归和连续正态化流中的比较
通过对神经 ODE 的时间序列回归和连续归一化流中的离散优化(Disc-Opt)和优化离散(Opt-Disc)方法进行比较,我们证明了 Disc-Opt 方法在数值处理上的小心使用可以在推理中达到与 Opt-Disc 相似的性能,同时大大降 - ICMLTrajectoryNet:用于建模细胞动态的动态最优输运网络
本文介绍了一种将连续归一化流和动态最优传输相结合的建模方法,该方法能够模拟动态过程中数据的期望路径,并提出了 TrajectoryNet 模型,从而在 single-cell RNA 测序数据的细胞动态研究中取得了良好的效果。
- 神经常微分方程
提出一种新型深度神经网络模型 —— 连续深度模型,其采用了一个神经网络来参数化隐藏状态的导数,并利用黑箱微分方程求解器计算网络输出,使其具有内存成本不变、能够为每个输入自适应地选择评估策略并能显式进行精度 / 速度权衡等特点。研究者进一步证