随机回归正则化 CNN 迁移学习

CVPRAug, 2019

Regularizing CNN Transfer Learning with Randomised Regression

Yang Zhong, Atsuto Maki

TL;DR该论文提出了一种基于自适应框架的 CNN 正则化方法，在目标领域使用有限的训练数据进行迁移学习。该方法没有明确目标，通过简单地尝试将图像表示回归到伪回归目标，动态地对 CNN 进行正则化。实验结果表明，与最近的一些最先进的方法相比，伪任务正则化改进了分类精度。

Abstract

This paper is about regularizing deep convolutional networks (CNNs) based on an adaptive framework for transfer learning with limited training data in the target domain. Recent advances of CNN regularization in t

convolutional neural networks transfer learning regularization limited data pseudo-task regularization

发现论文，激发创造

神经网络微调的改进正则化和鲁棒性

通过 fine-tuning 算法的正则化与 self-labeling 方法相互插值，从而提高在小数据集下的图像与文本分类表现。

Nov, 2021

基于风格迁移的图像合成作为深度学习中有效的正则化技术

本文探讨了深度学习在图像分析和分类方面的弱点，提出利用基于神经风格转换的数据增强方法以提高数据集的泛化能力，并通过应用于皮肤病分类案例验证了其潜力。

May, 2019

语义分割的预测转移与正则化

本论文提出了一种无监督学习的预测传输正则化器 (RPT)，利用语义分割的内在特性进行模型转移，从而提高模型的鲁棒性和准确性。作者还将 RPT 集成到对抗式分割框架中，在 GTA5/SYNTHIA 到 Cityscapes 数据集的转换中实现了历史上最好的结果：当从 GTA5/SYNTHIA 到 Cityscapes 转换时，模型的平均交并比 (mIoU) 分别为 53.2％/51.7％。

Jun, 2020

方差 - 协方差正则化提高表示学习

本文介绍了一种名为 VCR 的正则化技术，旨在提高传输学习效果，该技术以促进具有高方差和最小协方差的学习表示为目标，从而防止网络仅关注减少损失函数的特征。作者通过各种实验验证了该方法的可行性，并开发了实现策略，表明 VCR 是一种强大且高效的方法，可用于增强监督学习和自监督学习的传输学习性能，为该领域的未来研究开辟了新的可能性。

Jun, 2023

从人脑中学习如何正则化机器

通过使用大规模神经系统数据对卷积神经网络进行正则化来学习更强的神经特征，以提高模型对于对抗扰动和噪声的分类鲁棒性。

Nov, 2019

单帧正则化用于保持时间稳定的 CNNs

本论文提出了一种新的卷积神经网络训练策略，利用正则化方法实现了视频神经网络的时间稳定性不需要昂贵的运动估计或大量视频材料，同时可在架构不变的情况下进行微调，并证明该方法可以显著提高时间平滑性并增强泛化性能。

Feb, 2019

深层人员再识别的伪正则化方法

本文引入一种名为 “伪正例正则化” 的方法，该方法使用无标签数据增广有标签数据，以丰富训练数据，从而降低了卷积神经网络中的过拟合风险，实验结果表明该方法提高了基线并与最先进的人物再识别方法相比具有竞争性的表现。

Nov, 2017

深度神经网络微调上的自适应随机特征正则化

使用自适应随机特征正则化 (AdaRand) 方法，无需辅助源信息和重大计算成本，通过改变特征向量的分布来提高训练模型的下游分类任务性能。

Mar, 2024

利用卷积滤波器模式进行迁移学习

本文介绍了一种新的正则化技术，旨在通过高斯混合模型捕捉卷积神经网络中的统计关系，并将其转移到另一个网络中，实现特征表示的高效学习和转移。

Aug, 2017

置信度正则化自训练

本文提出了一种基于置信度正则化的自训练框架，在目标域上进行伪标签预测，并通过交替优化联合优化伪标签来实现领域自适应，其中伪标签作为连续隐变量进行处理，该方法在图像分类和语义分割中实验证明了其具有优异的性能。

Aug, 2019