通过使用多个独立的子网络组成的集成模型来提高模型性能和可靠性，并通过新的损失函数鼓励模型之间的多样性，在保持计算效率的同时，有效地改善模型的不确定性估计。在计算机视觉、自然语言处理和基因组数据等多个领域的广泛实验中，我们的方法在预测可靠性方面取得了显著改善。

Aug, 2023

本论文介绍了一种低成本框架用于构建子网络集合，通过从已训练的母模型中采样、扰动和优化子网络的方式形成子网络集合，研究发现该方法可以显著提高训练效率、参数利用以及泛化性能，同时最小化计算成本，通过利用深度神经网络的潜力来构建更好的系统。

Nov, 2023

本文提出了一种名为 ' 快照集成 ' 的新技术，可以实现在不增加训练成本的情况下，通过在一个单一的神经网络中收敛到几个局部极小值并保存模型参数的方法，同时通过循环学习率表达式，获得重复快速收敛的能力，实验结果表明，这种方法可有效地降低误差率并与传统的网络集成方法相比较优秀。

Apr, 2017

本文提出了 MixMo 框架，通过二元混合的方式，使用 rectangular patches from CutMix 增强特征，在 CIFAR-100 和 Tiny ImageNet 数据集上，在不需要推理和内存开销的情况下，显著优于数据增强深度集成，并提高了图像分类的最新水平。

Mar, 2021

通过适应多输入多输出（MIMO）框架来解决机器学习中的不确定性估计问题，以提高预测模型的可靠性和可解释性，特别是在高风险真实世界场景中，通过在单个模型中训练多个子网络并利用深度神经网络的过参数化优势，适用于像素级回归任务，并引入一种新的同步子网络性能的方法，在两个正交数据集上的综合评估表明，该 MIMO U-Net 与现有模型具有可比较的准确性、更好的校准性以及鲁棒的异常检测能力，同时在参数大小和推理时间上有显着的改进。

Aug, 2023

利用深度学习的进展，本研究提出了 Multiple-Input-Multiple-Output Neural Networks (MIMONets) 的概念，通过超定的计算来降低推理成本，并在动态参数范围内实现准确率与吞吐量的权衡。MIMONets 应用于 CNN 和 Transformer 架构，分别命名为 MIMOConv 和 MIMOFormer，并通过实证评估验证了它们的高速和准确性。

Dec, 2023

本文介绍了两种不同的深度神经网络结构：一个标准的全连接的多层网络和一种特别设计用于该任务的检测网络 (DetNet)。我们将投影梯度下降算法的迭代展开成网络，获得了 DetNet 的结构。我们比较了这两种方法的准确性和运行时间，并成功地在保持低计算要求的情况下实现了最先进的性能。此外，我们成功地使用单个网络检测了整个频道分布，并考虑了软输出检测。我们证明这些网络可以被轻松地修改为产生软决策。

May, 2018

本文提出了一种基于模型驱动的深度学习网络用于多输入多输出（MIMO）检测，通过深度学习技术优化网络的可训练参数以提高检测性能；由于网络可训练变量的数量等于层数，因此可以在很短的时间内轻松训练网络，并且网络可以处理时变信道，通过数值结果表明该方法可以显著提高 Rayleigh 和相关 MIMO 信道下迭代算法的性能。

Sep, 2018

该论文提出了一种名为深度子集合（Deep Sub-Ensembles）的方法，通过仅对接近输出层的层进行集成，从而近似获得深度集合（Deep Ensembles）的模型不确定性， 在减少计算负担的同时，控制了误差和 NLL 的变化，来实现在误差和不确定性精度和计算性能之间的权衡。

Oct, 2019

提高机器学习模型的预测准确性和可靠性，本文提出了一种简化深度集成模型的方法，通过不同的误差计算方法来训练多个线性分类器，达到与成本高昂的深度集成模型相同的校准能力和良好的分类性能，适用于组织病理图像和内镜图像的分类应用。

Mar, 2023