- 利用公共的表示进行私有的迁移学习
通过实证研究公共数据如何融入差分隐私学习并从公共数据中学习共享表示,我们理论上研究了共享表示如何改进私有学习,并探索了线性回归中的两种常见迁移学习场景,结果帮助了解公共数据在不同私有迁移学习中的益处。
- 医学图像分析中的噪声学习中,带有噪声率估计的样本选择
本文介绍一种新的噪声鲁棒学习方法,将噪声率估计整合到样本选择方法中,以处理有噪声的数据集,首先根据损失值的分布使用线性回归估计数据集的噪声率,然后根据估计的噪声率排除可能有噪声的样本,并进一步使用稀疏正则化来提高我们的深度学习模型的鲁棒性, - 基于新颖概率传递学习策略的增强型多项式混沌展开代理建模
在代理建模领域,多项式混沌展开(PCE)可用于构建成本低廉且准确的代理模型,以替代昂贵的正向模型模拟。我们提出了一种利用迁移学习的策略,通过先前类似的代理建模任务(源域)获得的知识来辅助新的代理建模任务(目标域),从而解决昂贵的正向模型模拟 - 预测建筑废弃物运输车辆的交通活动:一种输入 - 输出隐马尔可夫方法
基于 IOHMM 模型的预测方法可以准确地预测建筑垃圾运输车辆的目的地和停留时间,从而有助于有效的环境管理。
- 加速梯度算法与自适应子空间搜索用于快速实例优化
设计和分析基于梯度的算法,适用于机器学习中的优化问题,包括线性回归等,并改进了现有的复杂度下界。
- 高斯分布中具有 Huber 污染的近最优算法:均值估计与线性回归
我们研究了在存在 Huber 污染时,高斯均值估计和具有高斯协变量的线性回归的基本问题。我们的主要贡献是设计出了第一个样本近优且几乎具有线性时间算法,其具有最佳的误差保证,可以解决这两个问题。
- 重访线性回归的量子算法:无数据依赖参数的二次加速
线性回归是最基本的线性代数问题之一,本研究提出了一个运行时间为 O (ε^(-1) * sqrt (n) * d^(1.5)) + poly (d/ε) 的量子算法,可以在不依赖数据相关参数的情况下,提供 n 的二次量子加速效果,同时还将结 - 基于梯度的双层优化用于多罚项岭回归的矩阵微分计算
本研究探讨了线性回归中带有 L2 正则化的问题,每个输入变量都与一个不同的正则化超参数相关联。通过基于梯度的方法优化这些超参数,通过计算交叉验证准则相对于正则化超参数的梯度,使用矩阵微分学进行解析计算。此外,我们引入了两种针对稀疏模型学习问 - CT 房地产购买决策的线性回归、高斯消元法和 LU 分解的比较分析
该研究综合评估了应用于房地产购买决策过程的三种不同的计算算法。结果表明,线性回归和 LU 分解提供了最可靠的建议,而高斯消元则在稳定性和性能方面存在局限性。通过评估模型效能,如 R 平方分数和均方误差等指标,我们对每种方法的优点和缺点有了深 - 布雷斯距离和形状距离的偶性及其在比较神经表示中的应用
神经网络表示之间的多种 (不) 相似性度量已被提出,大多数这些度量方法可以归为两类:第一类是学习显式映射以量化相似性的线性回归、规范相关分析和形状距离;第二类是量化相似性的总结统计信息的表示相似性分析、中心核对齐和归一化布雷凡斯相似性,本文 - 从惯性传感器预测地面反作用力
本研究旨在确定是否可以使用惯性测量单元(IMUs)采集的数据来预测足底反作用力(GRF),以足够的准确性分析其衍生的生物力学变量,并比较简单的机器学习方法(如线性回归和 K 最近邻回归)与 LSTM 神经网络的效果。
- 比较云中复制的微服务调用率预测
通过对阿里巴巴的微服务追踪数据应用线性回归、多层感知和梯度提升回归模型进行预测,结果表明线性回归模型具有较低的训练时间,而梯度提升回归模型减少了平均绝对误差和平均绝对百分比误差,此外,预测结果显示梯度提升模型对每个微服务所需的副本数量与实际 - 超越神经网络的理解:模型复杂性的实证探索
网络神经元及其他建模方法中存在着 “不可解释” 的现象,其精确度远超过训练集的表现,本文试图寻找并研究这种神奇现象背后的机制。
- 相关噪声在差分隐私学习中明显优于独立噪声
在研究中,我们表征了任意关联函数的渐进学习效用,并给出了线性回归的精确分析边界以及对于一般凸函数问题的凸优化问题的解。我们通过这些界限展示了关联噪声相对于基本 DP-SGD 在问题参数(如有效维度和条件数)上的可证明改进。此外,我们的近乎最 - 线性回归带有打乱标签的最佳估计器
该论文考虑了具有洗牌标签的线性回归任务,提出了一种一步估计器来重构(Π,B),并给出了在不同情境下正确排列恢复的充分条件,最后通过数值实验验证了上述结论。
- 大型语言模型作为优化器
在此工作中,我们提出了一种名为 OPRO 的优化方法,利用大型语言模型作为优化器,通过自然语言描述优化任务。我们首先展示了 OPRO 在线性回归和旅行商问题上的应用,然后转向优化提示,目标是找到最大化任务准确性的指令。我们通过多种大型语言模 - DeLELSTM:基于分解的线性可解释 LSTM,捕捉时间序列的瞬时和长期效应
提出了一种基于分解的可解释 LSTM(DeLELSTM)来改进 LSTM 的可解释性,并在三个实验数据集上对其有效性和解释性进行了演示。
- 使用不同机器学习方法预测药物溶解度 -- 提取化学特征与图卷积神经网络的线性回归模型
利用现代计算资源,本研究采用线性回归模型和图卷积神经网络模型分析多个实验数据集,预测分子的溶解度,结果表明 GCNN 模型具有最佳性能,同时线性回归模型的特征重要性分析揭示了化学影响机制,为设计新药物时了解化学结构对化学性质的影响提供了重要 - 扩展线性回归:通过曲线下面积的卡尔曼滤波方法来最小化损失
该研究通过整合卡尔曼滤波器和分析曲线区域来增强线性回归模型,以最小化损失。目标是使用随机梯度下降(SGD)开发一个最佳线性回归方程进行权重更新。
- 线性自编码器隐式 ZCA 白化在推荐任务中的效果
在推荐系统领域,线性回归(自编码器)模型被研究作为学习物品相似性的方法。本文展示了线性自编码器模型与基于 ZCA 白化的推荐数据之间的关联。特别地,我们展示了线性自编码器模型的对偶形式解实际上对物品的特征向量具有 ZCA 白化效果,而在自编