MMJul, 2021

从有偏的场景图中恢复无偏的场景图

PDF
TL;DR本文提出一种基于 PU 学习和动态标签频率估计的方法，通过有效利用标签频率从而解决场景图生成中的长尾问题和报告偏差，实现更准确的标签估计和更平衡的场景图生成。
scene graph generationlong tail problemreporting biaspu learningdynamic label frequency estimation
发现论文，激发创造
  • 从有偏训练数据中生成无偏场景图

    本文通过因果推断方法构建了一个场景图生成的因果图，并通过传统偏差训练和反事实因果关系推断方法去除其不良偏差，最终提出了一个基于 Total Direct Effect 的无偏差 SGG 框架。

    Feb, 2020

  • 通过去偏向性生成信息场景图

    为解决语义空间层面和样本训练层面的不平衡问题，在场景图生成中提出了一种名为 DB-SGG 的有效框架，通过语义去偏见和平衡谓词学习的组件集成，超过 Transformer 136.3％、119.5％和 122.6％的 mR@20，在三个场景图生成子任务上，应用于 SGG 模型，并在句子到图形检索和图像字幕的两个下游任务上得到验证。

    Aug, 2023

  • 广义无偏场景图生成

    现有的无偏场景图生成方法只关注高频类占据稀有类预测的谓词级不平衡，而忽视了概念级别的不平衡。因此，我们提出了一个新的研究问题：广义无偏场景图生成（G-USGG），它考虑了谓词级和概念级的不平衡。为了解决这个问题，我们引入了多概念学习（MCL）框架，通过多个概念原型在同一类中表示不同数量的概念来量化谓词之间的概念级不平衡，并通过概念正则化（CR）技术有效地学习概念原型。此外，为了实现对不同概念的平衡学习，我们引入了平衡原型记忆（BPM），指导 SGG 模型生成平衡的概念原型表示。广泛的实验证明了我们的模型无关策略在提高 VG-SGG 和 OI-SGG 数据集上基准模型性能方面的显著有效性，取得了谓词级无偏关系识别和概念级组合生成两个关键方面的最新成就。

    Aug, 2023

  • 使用虚词去偏以提升视觉 - 语言模型中的场景图生成

    通过使用预训练的视觉 - 语言模型（VLMs）增强场景图生成（SGG）模型的表示，并结合语言模型估计（LM Estimation）来解决预训练与 SGG 之间的差距，我们的方法有效地处理了词汇偏见，加强了 SGG 的表示，并获得了显著的性能提升。

    Mar, 2024

  • 视频中无偏场景图生成

    该研究提出了一个名为 TEMPURA 的框架，通过基于 Transformer 的序列建模，学习合成无偏差的关系表示，并使用高斯混合模型来减少视觉关系的预测不确定性，从而解决视频动态场景的场景图生成中存在的多种问题。该方法在生成更加无偏的场景图方面具有显著的优势。

    Apr, 2023

  • 视频中无偏场景图生成的相关性去偏

    FloCoDe 通过使用流进行特征扭曲以检测帧间时间一致的对象，并使用相关性去偏学习长尾类别的无偏关系表示，通过混合 sigmoid 交叉熵损失和对比损失以缓解预测不确定性，实现生成更加无偏的场景图，性能提升高达 4.1%。

    Oct, 2023

  • 通过两阶段因果建模实现无偏场景图生成

    本文提出了一种使用因果推理的场景图生成任务去偏置化的方法，其中包含两个阶段的因果建模，第一阶段是因果表示学习，第二阶段是自适应逻辑调整，实验结果表明该方法可以在头尾关系之间实现更好的平衡，达到最先进的性能表现。

    Jul, 2023

  • 从整体到特定：通过平衡调整进行信息化场景图生成

    本研究提出了一种基于平衡调整的场景图生成框架 ——BA-SGG，该框架通过语义平衡调整和平衡谓词学习两个组件分别对信息谓词和常见谓词之间的两种不平衡进行调整，有效提高场景图生成的性能。在 Visual Genome 数据集中，与变压器模型相比，我们的方法在三个子任务中的平均回收率分别提高了 14.3％，8.0％和 6.1％。

    Aug, 2021

  • 减少偏差的模型生成场景图

    提出了一种基于自学知识的场景图生成模型训练方案，使用两个关系分类器减少标注偏差和稀疏标注造成的影响，并在多个标准场景图生成任务中观察到了显著的相对改进。

    Aug, 2020

  • 不偏场景图生成的偏斜类平衡重新加权

    提出一种名为 Skew Class-balanced Re-weighting（SCR）的无偏场景图生成（SGG）算法，以考虑长尾分布造成的无偏谓词预测，并使用 SCR 损失函数来更好地权衡大多数和少数谓词表现，通过在标准视觉基因组数据集和 Open Image V4&V6 上进行广泛实验，证明了 SCR 在传统 SGG 模型上的优异表现和普适性。

    Jan, 2023