CVPRApr, 2023

少样本图像生成中不兼容的知识转移探究

PDF
TL;DR本研究提出了一种名为知识截断的方法来缓解 few-shot 图像生成中特有的不兼容知识转移问题，该方法是一种轻量级基于修剪的方法，旨在剪枝源生成器中的不重要的过滤器以加快培训速度，在各种挑战性的设置中实现了最先进的性能提升。
few-shot image generationknowledge transferknowledge truncationsource generatorpruning-based method
发现论文，激发创造
  • 自适应感知核调制的小样本图像生成

    本文针对 few-shot image generation 问题，提出了一个 Adaptation-Aware kernel Modulation (AdAM) 方法，能够充分利用源域和目标域数据进行迁移学习，以生成更多和多样化的样本，实现了 SOTA 效果。

    Oct, 2022

  • AdAM: 自适应感知核调制的小样本图像生成

    本文针对目前的 few-shot image generation 方法仅基于源域的知识选择而未考虑适应性，提出了一种适应性感知的 AdAM 方法，通过实验证明在多个领域的 FSIG 中均有最好的表现，应用前景广阔。

    Jul, 2023

  • 基于内建测地曲面的信息传递的少样本图像生成

    通过建立的测地曲面的信息传输方法，无需大规模预训练模型，仅使用几个样本就能在训练生成模型时实现优质图像的生成。

    Jan, 2024

  • 对 Few-shot 图像生成技术的深入研究

    在小目标数据上进行预训练的 GANs 会在生成图像时出现重复样本的问题，研究者提出了几种方法来解决这个问题，但当前缺乏一个统一的分析框架。该论文提出了一个框架来分析现有方法，并发现某些方法过于注重多样性维护，反而抑制了图像质量的提高。在此基础上，研究者提出了一种双重对比学习的方法来缓解多样性退化问题，实验结果表明该方法取得了较好的性能。

    May, 2022

  • 跨域对应实现小样本图像生成

    利用预训练的跨域远程监督来降低过拟合，使用锚定策略以鼓励不同程度的真实感，实现源域和目标域之间的自动对应和生成更多样化和逼真的图像的少样本学习模型。

    Apr, 2021

  • 有监督的遮蔽知识蒸馏用于小样本变压器

    本文提出了一种新的有监督掩蔽知识蒸馏模型 (SMKD)，将标签信息融入到自我蒸馏框架中，通过在类和图块标记上进行内部类知识蒸馏，并引入在类内图像中对屏蔽图块标记重构的挑战性任务，我们比以前的自我监督方法实现了更好的结果，实验结果显示，我们的方法在四个 few-shot 分类基准数据集上的性能优于以往方法。

    Mar, 2023

  • 生成对抗网络的小样本迁移学习

    该研究提出 Few-Shot GAN (FSGAN)，通过组件分析和学习预训练模型的奇异值，而固定奇异向量，以在少于 100 张图像的情况下进行 GAN 适应。在 5-100 张图像的挑战性少样本设置中，与现有的 GAN 适应方法相比，FSGAN 实现了显著的视觉质量提高。

    Oct, 2020

  • 少样本无监督图像到图像翻译

    本论文提出一种基于生成对抗网络和网络设计的少样本无监督图像转换算法，通过在基准数据集上的大量实验验证与多种基线方法比较，证明了提出的框架的有效性。

    May, 2019

  • 利用未标记的照片提高细粒度的 SBIR

    本文提出了一种先进的细粒度基于草图的图像检索方法，通过两个关键问题的解决方案实现了超过之前最新方法约 11％的提高：在感知空间几何方面充分强制执行标准三元组损失及使用预先训练的教师和知识蒸馏技术来充分利用图像数据。

    Mar, 2023

  • 跨领域少样本分割通过迭代支持查询对应挖掘

    跨领域少样本分割 (CD-FSS) 需要仅使用有限样本从不同领域中对新颖类别进行分割，论文发现通过 fine-tuning 阶段有效地在领域之间转移学习得到的元知识的必要性以及由于新颖类别样本稀缺导致朴素的 fine-tuning 存在过拟合风险，并提出了一种解决这一挑战的新型跨领域 fine-tuning 策略，通过设计双向少样本预测 (BFP) 和迭代少样本适配器 (IFA) 来降低过拟合风险并最大化利用稀疏的新颖类别样本的监督信号，实验证明该方法显著优于当前技术水平 (+7.8%)，验证了 IFA 能同时应对跨领域挑战和减轻过拟合问题。代码将提供。

    Jan, 2024