May, 2023

针对语义任务的隐式表征语境化

PDF
TL;DR本文提出一种语境化的方法，可以在不需要访问原始训练数据或编码网络的情况下，将专门用于重构的隐式表示的编码用于语义任务，揭示了编码中隐藏的有意义的语义信息，并通过在大型数据集上预训练隐式表示，同时保持在标签数据集上的附加分割和重构的性能，并允许对未见过任务进行微调。
implicit representationcontextualizationdownstream tasksreconstruction tasksemantic information
发现论文，激发创造
  • 通向神经隐式表征的泛化

    通过多任务学习，训练神经隐式表示以在重建、分类和语义分割任务上实现功能丰富的编码。

    Jan, 2021

  • 上下文编码器：通过修补学习特征

    本研究提出了一种无监督的视觉特征学习方法，称为 Context Encoders，利用卷积神经网络通过上下文预测像素来对图像进行重构，该方法通过重构加对抗性损失双重学习获得更加清晰的结果，这种学习到的特征在分类、检测和分割等任务中表现出了很好的效果。

    Apr, 2016

  • 从显式类嵌入的角度提升语义分割

    本文提出了 ECENet，它是一种新的分割范式，通过在与多阶段图像特征交互过程中显式地获得和增强类别嵌入，探索了传统解码过程并探索了分割掩模和类别嵌入之间的反向信息流，同时通过特征重建模块来确保骨干中特征的可区分性和信息丰富度，实验结果表明我们的 ECENet 在 ADE20K 数据集上的性能优于其他模型，且计算成本较低，在 PASCAL-Context 数据集上实现了新的最先进结果。

    Aug, 2023

  • 语义分割的上下文编码

    本文提出了一种 Context Encoding Module 方法，在原有 FCN 框架的基础上加入了全局场景语义信息来优化语义分割结果，在 PASCAL-Context、PASCAL VOC 2012 和 ADE20K 数据集上取得了最新最优的成果，并且通过在 CIFAR-10 数据集上进行对比实验表明该方法可以用来改善相对浅层网络的特征表示效果。

    Mar, 2018

  • 基于学习语义先验的上下文感知图像修复

    本文提出了一种基于预训练任务和语义先验的图像修复方法，通过预处理任务学习语义先验并将其适应于图像修复，提出了一种上下文感知的图像修复模型，全面融合全局语义和局部特征，实现了对 Places2，CelebA 和 Paris StreetView 数据集的最新技术水平。

    Jun, 2021

  • BERT 上语法信息编码的演进

    本文分析了 BERT 在六种不同的任务中精细调整过程中所嵌入的句法树随着调整而演变的情况，结果表明编码的语法信息在不同任务的精细调整过程中被遗忘（词性标注）、强化（依存句法和组成成句）或保留（语义相关任务）。

    Jan, 2021

  • 将语义引入语音编码器

    本文提出了一种无监督的任务无关方法，将大型语言模型中的语义信息融合进入自监督语音编码器，提高了其在意图分类，名称实体识别及槽填充等方面的性能，使其达到了有监督方法同等的效果，为已有的语音编码器的无监督实现提供了可行性证明。

    Nov, 2022

  • 学习句子表示的高效框架

    本文提出一种从未标记数据中学习句子表示的简单有效的框架，通过将句子出现的上下文预测问题重新表述为分类问题，并基于句子向量表示来区分上下文句子和对比句子，并在多个下游 NLP 任务中展示了高质量的句子表示的超越性能以及训练时间的数量级加速。

    Mar, 2018

  • 自然语言多任务：分析和提高隐藏表示的句法显著性

    训练多任务自动编码器进行语言任务，分析学习到的句子隐藏表示。加入翻译和词性解码器时，表示将显着改变。使用的解码器越多，模型根据句法相似性对句子进行聚类的效果越好。通过插值句子来探索表示空间的结构，得出很多有可识别句法结构的伪英语句子。最后，我们指出了模型的一个有意思的特性：两个句子之间的差分向量可以添加到第三个具有类似特征的句子中，以有意义的方式改变它。

    Jan, 2018

  • 重建探测

    本文提出了一种新的分析方法 —— 重构探测，基于掩蔽语言模型（MLM）中的重构概率来分析上下文表示。我们应用此分析方法到三个 MLMs，并发现上下文有助于靠近正在重构的标记的标记的可重构性；并且，这些增强主要归于输入层的静态和位置嵌入。

    Dec, 2022