领域不变图像表示的高效学习

Jan, 2013

Efficient Learning of Domain-invariant Image Representations

Judy Hoffman, Erik Rodner, Jeff Donahue, Trevor Darrell, Kate Saenko

TL;DR本文介绍了一种能够有效地实现为线性分类器的学习表示算法，该算法能够明确地补偿域不匹配，并在训练分类器的过程中形成从目标（测试）域到源（训练）域的线性转换。通过多类别适应的表示学习，能够在异构特征空间之间进行映射，并且可以扩展到大型数据集。在几个图像数据集上的实验结果表明，与之前的方法相比，提高了准确性并具有计算上的优势。

Abstract

We present an algorithm that learns representations which explicitly compensate for domain mismatch and which can be efficiently realized as linear classifiers. Specifically, we form a linear transformation that maps features from the target (test) domain to the source (training) domai

domain mismatch linear classifiers representation learning heterogeneous feature spaces large datasets

发现论文，激发创造

学习不变表示以进行领域自适应

本文针对无监督域适应学习中常见的假设提出了简单反例，证明了这些假设并不足以保证域适应的成功；提出了一种基于信息理论的弱化条件，并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡；最后，通过实验验证了理论结果。

Jan, 2019

学习不变表示以实现无监督图像恢复

该研究论文提出了一种无监督学习方法，它通过显式地从噪声数据中学习不变展示来重建清晰图像，并通过引入离散解缠表示和敌对域自适应等额外的自监督模块实现。实验表明该方法在合成和真实噪声去除任务方面表现与最先进的监督和无监督方法相当，同时比其他领域适应方法具有更快和更稳定的收敛性。

Mar, 2020

领域密度转换的域不变表示学习

本论文提出了一种基于对抗生成网络的方法，通过学习域间变换的不变性来实现域不变表示的学习，以解决领域泛化问题，并在多个广泛使用的数据集上取得了与最先进模型竞争的结果。

Feb, 2021

域不变表示中的支持和可逆性

研究表明，学习领域不变表示已成为非监督领域适应的一种流行方法，但其局限性主要在于非反演变换中丢失的信息以及领域不变性是一个过于严格的要求，本研究提出了一种权衡代价的一般化界限，并建议使用测量源域覆盖目标域范围的范围来提高性能。

Mar, 2019

使用局部变换学习不变表示

本文提出了一个新颖的具有转换不变性的特征学习框架，将线性转换纳入特征学习算法中，可应用于无监督学习方法，如自动编码器或稀疏编码，证明在 MNIST 变化，CIFAR-10 和 STL-10 等图像分类基准数据集上具有优越的分类性能并在 TIMIT 数据集上实现了最先进的电话分类任务的结果。

Jun, 2012

学习领域不变表示以多源迁移学习

本研究探讨了多源领域自适应和领域泛化设置中的目标通用损失的上界和两种领域不变表示的定义，并研究了强制学习每个领域不变表示的优缺点和权衡，并通过实验来检查这些表示的权衡，探索了我们所开发的理论的其他有趣特性。

Nov, 2021

半监督域自适应的学习不变表示和风险

本论文提出了一种用于半监督域适应的算法 LIRR，它能同时学习不变的表示和风险，并将特征空间中的边缘和条件分布对齐，实现了目标泛化能力的有意义提高。该算法在分类和回归任务上实现了最先进的性能和显著的改进。

Oct, 2020

在潜在空间中通过领域不变表示学习改善入侵检测

通过多任务学习，我们引入了一种两阶段表示学习技术，旨在从跨越多个领域的特征中培养一个潜在空间，包括原始和跨领域的特征，以增强在未见过的内部分布和外部分布领域的推理能力。此外，我们试图通过最小化先验和潜在空间之间的互信息来解耦潜在空间，从而有效地消除虚假特征之间的关联性。总体而言，这种联合优化将促进领域无关的特征学习。我们使用标准分类指标在多个网络安全数据集上评估模型的有效性，并将结果与当代领域泛化方法进行对比。

Dec, 2023

跨领域和任务传递表示的有效学习

该研究提出了一种跨不同领域和任务学习可转移表示的框架，借助度量学习的方法为新任务和领域泛化嵌入，通过对抗损失解决了域偏移问题，在标记源数据和目标域中的未标记或稀疏标记的数据上进行同时优化。该方法在只有每类很少标记实例的情况下，对新领域内的新类提供了令人信服的结果，优于现有的微调方法，并证明了该框架在从图像对象识别到视频动作识别的转移学习任务中的有效性。

Nov, 2017

基于压缩域的深度神经网络可视识别技术与特征适应

本文提出一种基于学习的压缩域分类框架，可以在不同比特率下利用压缩域潜在表示执行视觉识别，包括引入轻量级注意模型的新型特征适应模块，它可以自适应地强调和增强提取的逐通道信息的关键特征；还介绍了一种适配训练策略，使用预训练的像素域权重。与使用像素域完全解码的压缩图像以及未压缩图像相比，研究结果表明，提出的压缩域分类模型不仅可以显著优于现有的压缩域分类模型，而且在计算效率方面也可以获得与使用完全解码图像的像素域模型相似的精确度结果。

May, 2023