通过熵正则化的 f - 散度梯度流技术,可以提高生成数据的质量,避免了浪费的样本拒绝,可以应用于各种生成系统,并取得了显著的效果优于 DOT 和 DDLS 方法。
Dec, 2020
基于数据异构和模型异构的联邦学习场景中,使用无数据的知识蒸馏机制提出了 DFRD 方法,在服务器上通过条件生成器逼近客户端上传的本地模型训练空间,并通过动态加权和标签采样准确提取本地模型的知识,实验证明 DFRD 相较于基准模型取得了显著的性能提升。
Sep, 2023
提出了一种基于密度比估计和 f - 散度最小化的算法,旨在通过多种视角来了解生成对抗网络(GANs)的特点,提高生成器的学习效果。
Oct, 2016
本文介绍了一种新型动态线性流方法(DLF),该方法结合了流式建模的高效性与自回归建模的高密度性能,可用于生成复杂分布,并在 ImageNet 数据集上取得了最新的最佳性能结果。
May, 2019
我们提出了一种基于扩散生成流采样器 (DGFS) 的抽样框架,该方法可以将学习过程易于处理地分解为短的部分轨迹段,通过参数化额外的 “流函数”,并且在各种具有挑战性的实验中展示了相比于相关先前方法更准确的规范常量估计。
Oct, 2023
基于得分扩散模型的监督式学习框架用于训练生成模型,并通过生成标记数据解决了无监督训练中的问题,提高了采样效率和神经网络训练的时间节省。
本文提出了一种新的流模型 Q-malizing flow,它是由神经 ODE 模型构建的,能够从 P 分布可达到任意 Q 分布,主要应用在密度比估计和高维数据相互信息估计中。
May, 2023
提出 VGrow 框架来学习深度生成模型,通过 $f$-divergence 进行梯度流,使用 logD-trick GAN 来作为新的目标函数评估不同的散度,结果表明 VGrow 可以生成高保真图像并且表现优异。
Jan, 2019
建议了一个统一理论框架,将基于得分的扩散模型和生成对抗网络合并起来,提出了一个名为 “鉴别器去噪扩散流” 的新 SDE,通过调整不同得分项之间的相对权重,可以在 SDMs 和 GANs 之间实现平滑转换,同时保持边际分布不变,提供了新的算法,并具有在高样本质量和快速采样速度之间实现灵活权衡的潜力。
Jul, 2023
大型视觉 - 语言模型通过非微调或数据增强实现个性化能力增强。本文提出了两种使用模型无关学习进行图像生成的模型,通过将语义先验与生成能力进行对齐。其中一种方法是 RLDF(Reinforcement Learning from Diffusion Feedback),通过保持先前的奖励函数进行视觉模仿。另一种方法是噪声扩散梯度优化方法。这些方法的核心是我们提出的连续语义引导的特殊 CFG 编码。RLDF 仅使用单张输入图像且无文本输入,在不同领域包括零售、体育和农业生成了具有类一致性和强大视觉多样性的高质量图像。项目网站可在此 https URL 找到。
Nov, 2023