通过随机凸面化和频域最小化实现高效卷积自编码

NIPSNov, 2016

通过随机凸面化和频域最小化实现高效卷积自编码

Efficient Convolutional Auto-Encoding via Random Convexification and Frequency-Domain Minimization

Meshia Cédric Oveneke, Mitchel Aliosha-Perez, Yong Zhao, Dongmei Jiang, Hichem Sahli

TL;DR本研究提出了一种高效的层级无监督训练深度卷积神经网络的学习策略，采用随机凸化的重构压缩自编码学习目标，并通过坐标下降法在频域中解决 resulting large-scale convex minimization problem，具有单个可调优化参数，快速且有保证的收敛以及全并行计算的可能性，在实验中得到良好的效果。

Abstract

The omnipresence of deep learning architectures such as deep convolutional neural networks (CNN)s is fueled by the synergistic combination of ever-increasing labeled datasets and specialized hardware. Despite the indisputable success, the reliance on huge amounts of labeled data and sp

deep learning convolutional neural network unsupervised training reconstruction contractive auto-encoding convex minimization

发现论文，激发创造

通过进化搜索利用标准卷积自编码器的潜力进行图像修复

本研究采用进化算法来搜索优化简单的卷积自编码器，用其进行图像恢复任务，无需采用对抗训练和复杂的损失函数，实验结果在 CelebA 和 SVHN 数据集上表现出色。

Mar, 2018

基于深度卷积自编码器的有损图像压缩

本文提出了一种基于深度学习的图像压缩架构，利用卷积自编码器的优势达到了更高的编码效率，并利用主成分分析来产生一个更加能量紧凑的表示，实验结果表明，该方法相对于传统的图像编码算法在 Kodak 图像数据库上获得了 13.7％的 BD 速率降低，而且与 JPEG2000 具有类似的复杂度。

Apr, 2018

使用卷积和堆叠自编码器的无监督表示学习：领域和跨领域特征空间分析

本文研究了不同的自编码器架构和训练策略，以从图像中学习表征，研究了网络深度和容量对降维和泛化能力的影响，结果表明自编码器特征的分类结果与预训练卷积神经网络一样有辨别能力。以上发现可用于设计跨领域的无监督表征学习方法。

Nov, 2018

深度多视角表示学习：目标和优化

本文研究了多视角数据下的特征表示学习问题，比较了基于神经网络的多种技术，提出了一种新的深度自编码器，通过随机优化方法探索了小批量相关性目标函数，最终发现基于相关性的表现效果最佳。

Feb, 2016

基于粒子群优化的灵活卷积自编码器用于图像分类

本文提出了一种灵活的卷积自编码器和一种使用粒子群优化的架构发现方法，该方法可以自动搜索最优架构，结果表明，该方法在图像分类方面的表现明显优于同行竞争对手，包括最先进的算法。

Dec, 2017

基于卷积自编码嵌入和相对熵最小化的深度聚类

该研究提出了一种名为 DEPICT 的新型深度嵌入式正则化聚类模型，该模型使用多层卷积自编码器和多项式 logistic 回归函数，通过相对熵最小化方法实现效率和精确性高效的数据映射和聚类分配，可以在无标签数据进行超参数调整的真实世界聚类任务中发挥其优越性和更快的运行时间。

Apr, 2017

多目标卷积自编码器神经进化 (MONCAE)

本文提出了一种新颖的神经进化方法来确定卷积自编码器的结构和超参数，使用超体积指标在神经架构搜索的背景下进行压缩图像来加快 AutoML 流程。

Jun, 2021

基于学习的有损图像压缩：综合调研

本论文介绍了近年来利用机器学习架构进行图像压缩的技术与方法，主要包括自编码器、卷积神经网络、生成对抗网络等，并探讨了该领域仍需解决的问题。

Jan, 2022

卷积自编码器学习时的空间频率损失

本文提出了利用空间频率特征来计算损失函数的方法，用于显著降低卷积自编码器重构图像的模糊程度。实验证明，利用这个方法可以减少重构图像中出现的模糊现象。

Jun, 2018

凸化卷积神经网络

介绍一种凸化卷积神经网络方法，利用再现核希尔伯特空间将卷积滤波器表示为向量，并将 CNN 参数表示为低秩矩阵，进而通过凸优化求解 CNN，其泛化误差与最优 CNN 一致，CCNNs 通过逐层训练使其在性能上与基线方法相当。

Sep, 2016