AAAIMar, 2023

TQ-Net：混合对比表示学习用于异质性测试问题

PDF
TL;DR该论文提出了 TQ-Net，一种基于两阶段无监督对比学习的方法，用于融合文本和图片以改善考试问题的表现，并在实际应用中展现出高准确性。
online learningtest questionsheterogeneous dataunsupervised learningcontrastive learning
发现论文，激发创造
  • QuesNet: 异构测试题统一表示

    提出了一种面向教育领域的预训练方法 QuesNet，利用统一的框架整合含有异构输入的问题信息并设计了两种级别的预训练算法来学习基础语言特征、领域逻辑和知识，证明了其在问题理解和应用方面的有效性和优越性。

    May, 2019

  • 通过对比预训练实现对数学问题的全面理解

    本研究提出了一种新的数学问题对比预训练方法 QuesCo，该方法利用知识层次结构感知的排名策略来更好地表示数学问题，并进行了广泛的实验以证明其有效性。

    Jan, 2023

  • 自监督预训练和对比表征学习在多项选择视频 QA 中的应用

    本文介绍了一种新的多项选择视频问题回答（Video QA）的训练方案，其中包括自监督预训练阶段和监督对比学习的辅助学习。在自监督预训练阶段中，我们将原始问题格式进行了转化，以预测相关问题并提供模型更广泛的背景输入。然后，我们在对比学习的主阶段中添加了屏蔽噪声，并通过将正样本映射到受掩输入来改进模型表现。最后，我们采用了本地对齐注意力来更有效地关注相关字幕句子的视频帧。我们的实验结果表明，我们的模型在相关测试集上均取得了最先进的性能，并通过进一步的分析验证了我们的方法。

    Sep, 2020

  • 多模态上下文图谱理解和自监督开放式理解的教材问题回答

    该研究提出了一种新算法，用于解决复杂的教材题目答案（TQA）任务，该算法主要围绕多模态上下文中的知识特征提取以及自我监督开放式学习过程展开，并且实验证明其优于目前先进的方法。

    Nov, 2018

  • 基于视觉常识的异构图对比学习

    本研究通过引入视觉常识信息和提出异构图对比学习方法，改善视觉推理任务，使模型更专注于具有辨别力的对象和相关的视觉常识属性，并通过图关系网络推理同质边之间的关联和异质边之间的相似性，从而提高了模型的信息传输效果。在四个基准测试上的广泛实验表明，本方法显著改进了七个具有代表性的视觉问答模型，证明了它的有效性和泛化性。

    Nov, 2023

  • 自监督对比跨模态表示学习用于口语问答

    本文提出了基于自监督和对比表示学习的新型语音问答培训方案，采用多元增广策略以及时间对齐注意来更有效地指导生成模型，实现最佳答案预测解决方案，在三个 SQA 基准测试上取得了最新成果。

    Sep, 2021

  • 一个以问题为中心的多专家对比学习框架，用于提高深度序贯知识追踪模型的准确性和可解释性

    我们提出了一个名为 Q-MCKT 的基于问题中心的多专家对比学习框架，用于知识追踪，以解决应用深度学习技术建模知识追踪过程时面临的挑战。

    Mar, 2024

  • 机器阅读理解中的迁移学习的两阶段综合网络

    使用 SynNet 技术构建的预训练模型进行跨领域机器阅读理解，将 F1 值提高至 44.3%，并使用多个模型预测融合，达到 46.6% 的 F1 值，在无提供的标注数据情况下，优于基线模型的 7.6%。

    Jun, 2017

  • 问答领域的有监督和无监督迁移学习

    本文探究了迁移学习在问题回答方面的应用，使用两种问题回答模型，在 TOEFL 和 MCTest 数据集上通过简单的迁移学习技术从 MovieQA 数据集中学到的知识显著提高了性能，尤其是其中一种模型在所有目标数据集上取得了最佳效果，对于 TOEFL 听力理解测试，它的性能比以前的最佳模型提高了 7%。最后，我们证明了即使在目标 QA 数据集示例的正确答案不可用的无监督情况下，迁移学习也是有帮助的。

    Nov, 2017

  • 基于对比学习的混合网络用于长尾图像分类

    本文研究基于对比学习的监督式分类学习策略，提出了一种混合网络结构，用于从不平衡的数据中学习更好的图像表征，以提高分类精度。具体而言，我们探索了两种对比损失的变体，以推动特征学习，从而实现更好的分类器。实验结果表明，基于对比学习的混合网络在长尾分类中优于传统方法。

    Mar, 2021