Sep, 2023

基于视觉解释的自我改进分类系统：使用虚拟对抗训练

PDF
TL;DR通过将虚拟对抗训练（VAT）与 BERT 模型结合，提出了一种基于视觉解释的自我改进的分类模型，用于解决使用 BERT 构建的分类系统存在的解释困难和鲁棒性低的问题。实验结果表明该模型在 Twitter 的推文数据集上对分类任务具有显著有效性。
发现论文，激发创造
  • 基于上下文的虚拟对抗训练在带噪标签的文本分类中的应用

    该论文提出了一种基于上下文的虚拟对抗训练方法，通过在上下文级别执行对抗性训练来防止文本分类器过度拟合噪声标签，实验证明该方法对于处理噪声标签非常有效。

    May, 2022

  • 用于半监督乳腺肿块分类的虚拟对抗训练

    本研究旨在开发一种新的计算机辅助诊断 (CAD) 方案，以利用半监督学习对乳腺 X-ray 图像进行良恶性分类，采用虚拟对抗培训方法，提高模型的鲁棒性和分类准确性。

    Jan, 2022

  • 使用 BERT 进行基于方面的情感分析的对抗式训练

    应用对抗性培训来提高 BERT 在情感分析的方面提取和观点分类任务中的性能。

    Jan, 2020

  • TAVAT: 基于 Token 的虚拟对抗训练用于语言理解

    本文提出了一种基于标记的虚拟对抗训练方法，该方法在 NLP 任务中引入了生成嵌入空间中扰动的虚拟对抗训练，并使用标记级别的规范化球适当限制这些扰动，实验表明，该方法显著提高了 BERT 和 ALBERT 等预训练模型在多个任务中的性能。

    Apr, 2020

  • 使用监督机器学习和 BERT 模型进行在线虚假评论检测

    本研究提出使用 BERT 模型从文本（即评论）中提取词嵌入来改进现有的虚假评论分类或检测方法，结果表明 SVM 分类器在准确度和 F1 得分方面优于其他分类器，并且比之前的研究中使用的分类器高出 7.6％。

    Jan, 2023

  • 使用潜空间虚拟对抗训练进行正则化

    本文提出了一种名为 LVAT 的新的规则化方法，将扰动注入潜在空间以生成理解性更强的对抗样本，并在图像分类任务的超视觉和半监督学习情景中使用 SVHN 和 CIFAR-10 数据集验证其性能，证明其优于其他现有方法及 VAT。

    Nov, 2020

  • 半监督文本分类的对抗训练方法

    本文介绍了在文本领域将反对训练和虚拟反对训练应用于使用递归神经网络中的单词嵌入，并在多个基准半监督和纯监督任务上实现了最先进结果。

    May, 2016

  • 虚拟对抗训练：一种用于监督学习和半监督学习的正则方法

    提出了一种基于虚拟对抗损失的正则化方法 - 一种关于条件标签分布的局部平滑度的新度量。虚拟对抗损失被定义为每个数据点周围条件标签分布对本地扰动的鲁棒性。我们的方法定义了无需标签信息的对抗方向，因此适用于半监督学习。在多个基准数据集上，通过熵最小化原理实现的 VAT 在半监督学习任务上实现了 SVHN 和 CIFAR-10 的最新性能。

    Apr, 2017

  • 基于对抗训练和整词掩膜 BERT 的汽车评论文本情感分析模型

    本文提出了一种基于对抗训练和全词掩膜 BERT 的汽车评论情感分析模型，旨在克服汽车领域文本的词汇专业性和噪声问题，提高情感分析模型的准确性。

    Jun, 2022

  • VisualBERT：一种用于视觉和语言的简单高效基准线模型

    VisualBERT 是一个简单灵活的框架，由一系列 Transformer 层组成，可以对输入的文本和相关的图像区域进行自我注意力对齐。该论文提出了两种针对预先训练 VisualBERT 的视觉语言模型目标，经过在四项视觉语言任务上的实验表明，VisualBERT 的表现优于或与最先进的模型不相上下，同时具有显著的简单性。进一步的分析表明，VisualBERT 可以将语言元素与图像区域相关联，而不需要任何明确的监督，并且甚至可以关注句法关系，例如跟踪动词与相应参数图像区域之间的关联。

    Aug, 2019