Apr, 2024

多维插值器

PDF
TL;DR在微分方程生成建模领域中，我们首次引入了一种多维插值器，将这些系数扩展到多个维度上，在训练和推理阶段都使用单一维度标量值作为插值系数。此外，我们提出了一个新的路径优化问题，用于自适应确定多维推理轨迹，其中包括预定的微分方程求解器和固定数量的函数评估。我们的解决方案使用模拟动态和对抗性训练来优化推理路径。特别地，即使在没有路径优化的情况下，使用多维插值器在训练过程中也能提高模型的推理性能。当使用由我们的优化过程导出的自适应多维路径时，即使使用固定的求解器配置，也能进一步提高性能。多维插值器的引入不仅增强了模型的有效性，还开辟了在训练和推理方法论中探索的新领域，强调了多维路径作为一个未开发的前沿。
发现论文，激发创造
  • 多边生成建模与随机插值

    通过学习解释多种概率密度函数的联合分布，该研究提出了一种多边际生成建模问题的方法，该方法在随机插值框架的扩展中，通过测度的动态传输构建高效的学习算法，并在多边际视角下提取多边对应关系，从而在风格转换、算法公平性和数据修复等应用中发挥作用。

    Oct, 2023

  • 隐式模型中的语义插值

    本研究针对隐式模型中的编码向量进行变换插值时，提出需要考虑编码向量的分布假设和插值路径的几何关系；在此基础上，通过改变编码先验分布，将更多概率分布集中在原点附近，得到保证线性插值路径穿过高密度区域的方案，实现生成图像的质量和插值路径的意义更加明显。

    Oct, 2017

  • 具有随机插值和 Föllmer 过程的概率预测

    我们提出了一个基于生成模型的动力系统概率预测框架，将预测问题描述为从当前状态给定的未来系统状态的条件分布中进行采样，并证明了该框架在复杂的高维预测问题上的实用性。

    Mar, 2024

  • 依赖数据耦合的随机插值

    使用基于随机插值的框架将基本密度与目标密度进行耦合，构建了条件生成模型，从而实现了类标签或连续嵌入的信息传输，通过超分辨率和修复实验验证了构建相关联的耦合的实用性。

    Oct, 2023

  • 用扩散模型在图像之间进行插值

    通过使用潜在扩散模型进行无监督插值，我们在降噪、文本嵌入和主题姿势上实现了一致而令人信服的图像插值，而传统的数量指标如 FID 则无法准确度量插值质量。

    Jul, 2023

  • DYffusion: 基于动态信息的时空预测扩散模型

    文章提出了一种新的 diffusion model 的训练方法，通过将数据中的时间动态信息直接耦合在网络的 diffusion steps 中，训练了一个 stochastic time-conditioner interpolator 和一个 backbone forecaster network，从而实现了多步和长距离的时序预测能力。实验结果表明该方法对于复杂的动态状态预测有较强的表现。

    Jun, 2023

  • 通过生成插值改进分类器的超越分布鲁棒性

    利用生成模型进行数据增强，提高神经分类器对于分布转移的鲁棒性。

    Jul, 2023

  • 数据内插值 —— 高阶梯度正则化 GAN 中的判别器

    该论文提出了一种使用多项式调和径向基函数来优化生成对抗网络中鉴别器的方法，进而对数据的潜在空间分布进行建模，并证明在实验验证中，这种方法显着优于传统的鉴别器架构。

    Jun, 2023

  • 使用随机插值构建归一化流

    本文提出一种基于连续时间正规化流的生成模型，该流的速度场由时间依赖密度的概率流推断而来，可用于样本生成和密度估计，并可最小化插值密度的路径长度来建立最优传输映射。该方法通过对基于随机微分方程的方法的简化，使生成的流可以以低成本超越传统方法，并可在图像生成等任务上达到较理想的性能。

    Sep, 2022

  • 深度神经网络、通用的普遍插值和可控制的 ODE

    通过离散化有控制的常微分方程（也称为神经常微分方程）以及一些连接性，我们研究表达性质并展示了通用差错的普适插值性质（比通用逼近性质稍弱），并探究最少参数个数在保证表达能力的情况下的取值。

    Aug, 2019