通过采用分层抽样和多尺度特征的方法，优化以卷积预测器为基础的像素级预测问题的神经网络结构，显著提高了模型在低级边缘检测、中级表面法线估计和高级语义分割中的性能.

Sep, 2016

该研究通过比较卷积神经网络（CNN）和全连接网络（FCN）在损失景观中的动态性来探讨它们究竟有什么不同。他们引入了一种将 CNN 映射为其等效 FCN（称为 eFCN）的方法，以直接在 FCN 空间中比较 CNN 和 FCN 的培训动态。该研究还测试了一种新的培训协议，证明了 eFCN 对于某些中间时刻可以优于 CNN。这表明在优化的早期阶段，CNN 的先验有助于浏览损失景观，从而实现更好的泛化。

Jun, 2019

本文提出了一种简单而有效的框架，将现代卷积神经网络 (CNNs) 与全连接 (FC) 层相结合，展示了这种架构变化在小数据区间的巨大影响。另外，还提出了一种在线联合知识蒸馏方法，以利用额外的 FC 层来提高 CNN 模型的泛化能力，并在测试时避免了它们。我们在超级学习和主动学习的几个标准数据集上进行了分类实验，实验结果明显优于没有全连接层的网络，在有监督设置下准确率最高可达到 16%。

Oct, 2022

本文提出了一种基于全卷积网络 (FCN) 的彩色图像恢复方法，该方法通过学习直接将受损图像映射到干净图像的端到端映射，实现了盲图像修复并在图像去噪方面表现超过传统稀疏编码方法并有着与最先进方法相当的性能。

Nov, 2016

介绍了一种新的可视化技术，通过消融研究得出了超越 Krizhevsky 等在 ImageNet 分类基准上的模型架构，其 ImageNet 模型表现优异并且泛化性良好，可以轻松地在其他数据集上取得优异的分类效果。

Nov, 2013

本文通过可视化方法探讨神经网络损失函数的结构和损失景观对泛化的影响，提出了一种简单的 “滤波器归一化” 方法来可视化损失函数曲率并对损失函数进行有意义的比较。然后，利用各种可视化方法，探索网络结构如何影响损失景观，以及训练参数如何影响最小化器的形状。

Dec, 2017

本文提出了一种基于卷积神经网络的 Fully Convolutional Networks（FCN）方法，可以用于图像的深度语义分割。通过该方法，我们成功地提高了 PASCAL VOC、NYUDv2、SIFT Flow 和 PASCAL-Context 等公开数据集上的 segmentation 模型的性能，并且推断速度远快于之前的相关工作。

May, 2016

利用神经网络进行相似性分析是一种理解和分类各个领域中复杂模式的强大技术。本研究探讨了完全卷积网络（FCNs）生成的潜在信息在相似性分析中的应用，特别是用于估计二维图片中对象的视觉相似度。这一分析方案包括两个步骤：（1）从经过训练的 FCN 中提取和转换每个二维对象的特征模式，（2）通过模糊推理来识别最相似的模式。通过考虑分析中潜在变量的重要性，可以进一步增强第二步，并提供有关使用基于神经网络的相似性分析有效地辨别数据模式的好处和挑战的宝贵见解。

Jul, 2023

本文提出一种新的形状全卷积网络 (Shape Fully Convolutional Networks，SFCN) 架构，用于三维形状的分割，该架构基于图形卷积和池化操作。同时，基于 SFCN 架构，还提出了一种新的形状分割方法，并采用基于特征投票的多标签图割算法来优化 SFCN 预测得到的分割结果。实验结果表明，我们的方法在学习和预测相似或不同特征的混合形状数据集方面表现出很好的效果。

Feb, 2017

研究了使用共享权重和最大池化层的实用深度卷积神经网络的损失景观和表现力，发现这些 CNN 在宽层处可以产生线性独立特征，研究了获得零训练误差的全局最小值所需的必要和充分条件，分析表明，深度和宽度都很重要，宽度可以使损失函数具有很好的性质。

Oct, 2017