我们介绍了一种新颖的正则化方法，称为 DLoss，在多变量回归问题中。我们的目标是通过惩罚模型的导数与从训练数据估计得出的数据生成函数的导数之间的差异，将模型与数据对齐，不仅在目标值方面，还包括相关的导数。实验证明，在使用 DLoss（使用最近邻选择）时，我们平均获得与验证数据集中的均方误差最佳排名，相比于无正则化、L2 正则化和 Dropout。

May, 2024

基于经验风险最小化与 l_1 正则化的深度神经网络估计器，我们推导出其在回归和分类（包括多类别）中的过量风险的一般界限，并证明它在各种函数类的整个范围内几乎达到最小值（取对数因子）。

Nov, 2023

本文提出了一种新型的 Max-Mahalanobis linear discriminant analysis (MM-LDA) 神经网络，结合了深度神经网络中的非线性变换和分类器的优化，这种方法在应对对抗攻击方面更具鲁棒性，并且在类别不平衡分类的表现也更加出色。

Feb, 2018

通过使用 Low-Dimensional-Manifold-regularized neural Network 来加强神经网络的特征提取，有效提高了在小样本情况下的泛化能力并且可以应用于同种物体的跨光谱识别。

Nov, 2017

本文通过使用深度神经网络结合稀疏规则化技术，针对非线性偏微分方程的解进行了数值研究，结果表明该方法在求解 Burgers 方程和 Schrödinger 方程时能够生成稀疏且准确的解。

Jul, 2022

针对在普通最小二乘法回归中预测的偏差问题，我们提出了一个更好的估算方法 —— 基于截断误差差值的极小 - 极大框架，其期望和差距都为 d/n。

Oct, 2010

该研究提出了一种分布式最小二乘逼近法，能够解决大量回归问题，使用局部二次函数逼近本地目标函数，通过取局部估计的加权平均值得到联合估计值，进一步使用自适应 Lasso 方法进行收缩估计，使用新设计的分布式贝叶斯信息准则分析分布式回归，取得了令人满意的结果

Aug, 2019

本文提出一种新的神经网络估计算法 NN-GLS，利用广义最小二乘（GLS）明确地考虑了空间协方差，从而实现非线性均值，并使用克里金法对新位置进行预测。 作者证明了 NN-GLS 对于不规则的空间相关数据过程是一致的，同时将该算法演示在模拟和实际数据集中。

Apr, 2023

我们提出了一种用于在线估计时变图信号的高效神经网络架构，名为自适应最小均方图神经网络（LMS-GNN），它旨在捕捉时间变化和填补受噪声和缺失值影响的信号的空间和时间跨度相互作用，通过自适应图滤波器和图神经网络的组合实现。实验表明，与自适应图滤波器和图卷积神经网络等基于图的方法相比，我们的 LMS-GNN 实现了更准确的在线预测。

Jan, 2024

使用深度前馈神经网络、广义线性模型和贝叶斯推断等方法，提出一种高精度的回归和分类方法，能够在原有方法中量化预测不确定性并进行变量选择，并在多种模拟和真实数据示例中得到了令人满意的结果。

May, 2018