本文研究了混合线性回归模型的在线识别和数据聚类问题，引入了两种基于期望最大化原理的相应的新的在线识别算法，证明了这两种算法都在不依赖传统的独立同分布数据假设的情况下全局收敛。在分析中的一个关键步骤是建立相应微分方程的稳定性以应用著名的 Ljung 的 ODE 方法，同时还证明了在已知参数的情况下，簇内误差和新数据被正确分类到簇中的概率渐近地与之前相同。最后，通过数值模拟验证了我们在线算法的有效性。

Nov, 2023

本文提出了一个适用于广泛条件下的固定参数可处理算法，用于解决多重线性回归模型问题，并实现全局收敛和样本复杂度的 nearly 线性缩放。

Feb, 2018

提出一种名为 Convex Clustering Multi-Task regression Learning (CCMTL) 的算法，通过在预测模型的 k 近邻图上与凸聚类相结合，并使用新提出的优化方法有效地解决底层凸问题，使得其能够在包含大量任务的问题中实现准确性、高效性和线性可扩展性，并在真实世界和合成数据集上优于 7 种现有的 state-of-the-art 多任务学习方法。

Nov, 2018

本文介绍了一种用于多目标回归的集成方法，通过现有目标的随机线性组合构建新的目标变量，并与 RAkEL 和一系列最新的多标签分类算法进行比较。在 12 个多目标数据集上的实验证明，该方法表现显著优于单一模型方法和随机森林方法。

Apr, 2014

考虑到基因组关联研究，在许多预测变量已经在同一个个体中收集并且每个预测变量都是单独分析的情况下，我们引入一个标准的线性模型，并在其中引入一个额外的随机效应。本文的三个创新点是（1）线性和 log-odds 尺度之间的转换是准确的，特别适用于小效应大小的重要的遗传情况；(2) 一种极大似然算法，比以前发表的方法快一个数量级以上；和 (3) 计算边缘似然的有效方法，允许贝叶斯模型比较。该方法已成功应用于包括超过 20,000 个人和 500,000 个遗传变异的多发性硬化的大规模关联研究。

Jul, 2012

本文提出了 Wasserstein Mixed Linear Regression (WMLR)，通过使用一种优化传输的方法来解决 Mixed Linear Regression 问题。WMLR 可以处理混合模型的联邦学习任务，收敛速度较快且具有良好的普适性和泛化性。

Jun, 2021

本研究证明在逻辑回归模型中，当样本量和自变量个数的比例变大时，MLE 的偏差和方差均远大于经典预测所得，常用的 LRT 也未能满足卡方分布，因此现有的软件包所得出的推论是不可靠的。

Mar, 2018

本文研究混合线性回归在预测误差上的问题。我们提出了一种预测方法，其中模型预测一个值列表，而不是预测标签。我们证明了使用最小化所有组件模型的损失所定义的损失函数可以实现小概率的预测误差。此外，我们提出了基于交替最小化的算法，实现了在不需要假设可实现模型的情况下找到最佳拟合线。

May, 2022

我们开发了从面板数据中估计政策干预措施的估计量，允许混淆回归因子的非线性效果，并使用三个著名的机器学习算法（LASSO、分类和回归树以及随机森林）来研究这些估计量的性能。

Dec, 2023

比较新提出的回归算法与传统机器学习算法（决策树、随机森林、KNN 和 XG Boost）的性能，使用平均绝对误差作为性能度量标准在各种数据集上进行深入比较，展示了新的算法具有的潜力和鲁棒性。

Jun, 2023