本文介绍了基于正则化标签编码学习 (RLEL) 的端到端网络和标签编码的训练，使用连续搜索空间的实值标签编码和鼓励一定属性编码的正则化函数，该方法适用于回归问题，应用于深度回归网络涉及的多个任务和不同数据集时均可得到较好的结果，在 MAE 上比直接回归提高 10.9％，比多分类提高 12.4％。

Mar, 2023

相关研究通过在深度神经网络分类器的潜在空间中引入线性倒数第二层进行训练，其中损失函数随着潜在空间中坐标的平方指数增长，促使了二进制编码的出现。这种现象是神经坍缩的一个特定实例，它在训练的最后阶段出现，导致潜在类均值崩溃到等角紧框图的顶点。我们展示了二进制编码加速收敛到等角紧框图并提高分类准确度的效果。

Oct, 2023

本文基于机器学习算法对分类变量进行编码技术探究，通过对比不同编码策略和算法的实验结果，发现对训练数据中的特征进行正则化后的目标编码技术能够提供最好的结果，并且传统编码技术在部分情况下不如目标编码技术。

Apr, 2021

本文探讨使用深度神经网络进行一次解码的想法，特别是在随机和结构化码，如极化码方面的应用。通过实验我们发现，结构化码比随机码更易于学习，并且神经网络能够推广到它没有见过的结构化码中，这提供了神经网络可以学习解码算法的证据。我们引入了标准化验证误差（Normalized Validation Error，NVE）来进一步研究深度学习解码的潜力和限制。

Jan, 2017

在这项工作中，我们开始探讨使用深度神经网络对二进制代码理解进行训练的可能性。具体而言，网络将以直接从二进制中派生的特征作为输入，并输出英文功能描述，以帮助逆向工程师调查闭源软件的功能，无论是恶意的还是良性的。我们发现嵌入距离相关性（EDC）测试对于评估数据集值非常有诊断能力，表明我们收集的数据集和一些现有的开源数据集质量较低。

Apr, 2024

本研究对 14 种编码器以及八种常见机器学习模型在 28 个数据集上进行了全面的实验评估，发现了不同编码器在不同情境下的最佳选择，并为数据科学家在欺诈检测、疾病诊断等领域提供了选择合适编码器的指导。

Jan, 2024

本文提出了一种算法，用于实现神经网络模型输入数据的分类特征的二进制编码，同时在前向传播和反向传播过程中实施变化，以实现模型权重的变化，这些变化是由神经网络学习过程对某个特征类别的某些数据实例而导致的，只会影响该特征类别的输入数据实例的前向传播计算，这类似于使用 one-hot 编码处理分类特征的情况。

Nov, 2023

该论文介绍了一种新的网络类型 —— 线性化置信网（LBN）—— 它是实值条件分布的普遍逼近器，并且能够有效地训练，在图像去噪和面部表情生成等任务中取得了最先进的结果。

Nov, 2015

本研究比较了四种多标签分类方法，其中两种基于编码器，两种基于编码器 - 解码器。结果表明，在多个数据集上使用编码器 - 解码器方法比仅编码器表现更好，其非自回归编码器 - 解码器方法获得了最优表现。

May, 2023

本研究提出了一种将目标嵌入到低维空间以提高神经网络收敛速度的方法，其中采用随机投影技术以零计算成本提高了收敛速度，并使用归一化的特征值表示类流形以提高编码的准确性。实验证明该方法能显著提高 CIFAR-100、CUB200-2011、Imagenet 和 MIT Places 数据集上的神经网络收敛速度和准确率。

Jun, 2018