通过对机器学习理念在函数巴拿赫空间之间进行映射的(通常是非线性)算子的应用,可以构建近似算子,这些算子通常源于用偏微分方程(PDEs)表达的物理模型。近似算子在许多查询任务中具有巨大的潜力,作为传统数值方法的高效代理模型。由于数据驱动,当无法提供基于 PDE 的数学描述时,它们还可以进行模型发现。本综述主要关注神经算子,其构建基于深度神经网络在有限维欧几里得空间定义的函数的逼近方面的成功。从经验上看,神经算子在各种应用中都显示出了成功,但我们对其理论的理解仍然不完整。本综述文章总结了近期进展和我们对神经算子理论方面的当前认识,着重从逼近理论的角度来看。
Feb, 2024
介绍了一种算法设计范例 —— 基于学习预测器的算法,将在线学习技术应用于预测器学习、调整鲁棒性 - 一致性折中并绑定样本复杂度,在构建优美的预测器的同时,在二分图匹配、滑雪租赁、页面迁移和作业调度等多场景中优化了多个现有结果,且提供了第一批基于学习理论的担保。
Feb, 2022
本文介绍了在学习增强的在线算法中使用回归技术来预测未来输入参数的方法,并在广义滑雪租赁、装箱问题、最小完成时间调度等一般在线搜索方案的背景下探讨了这种方法。通过在设计回归问题的损失函数中结合在线优化基准,我们显示了这种回归问题样本复杂度的近似上下界,并将我们的结果扩展到了不可知设置。
May, 2022
研究通过自适应性来改进机器学习的优化算法,包括个性化和用户特定模型、可证明的后训练模型自适应、实时学习未知超参数、快速收敛的二阶方法和基于低维更新的快速可扩展的二阶方法,以提供新的见解、引入具有改进收敛性保证的新算法并改进了流行实用算法的分析。
Nov, 2023
研究人员提出了一种快速预测给定操作问题的战术解决方案的方法,并将其作为二阶最优预测随机程序来规范化问题,利用监督机器学习算法进行预测。与随机程序的样本平均逼近相比,深度学习算法在非常短的计算时间(毫秒或更短)内产生高度准确的预测。
Jan, 2019
本文提出了适用于任意度量任务系统(MTS)(例如缓存、k-server 和凸体追逐)和在线匹配的预测模型,并利用在线算法理论的结果来展示如何使模型更具鲁棒性,其中特别针对缓存问题,本文提出的算法相对于一般 MTS 问题可使得其性能的预测误差表现成指数级别提升。最后,我们使用实际数据集对所提出的方法进行了实证评估,并得出实用性较好的结论。
Mar, 2020
机器学习在系统理论的视角下对在线学习的建模存在不完善之处,本文提出了一种基于系统设计的在线学习框架,包括在线学习的新定义和关键设计参数的识别,以及系统结构和系统行为的划分。同时,通过以医疗保健提供者欺诈检测为案例研究,将讨论与实际在线学习挑战相结合。
Apr, 2024
本研究探讨在机器学习算法中加入优化基准以提高在线算法的预测性能,以租赁或购买问题为例,并通过理论边界和数值模拟能够支持此发现。
通过基本理念和关键原则的系统回顾以及对不同算法和技术的适当分类,此调查旨在提供对在线机器学习文献的全面调查。总体而言,现有的在线学习作品可以根据学习类型和反馈信息的形式分为三个主要类别:(i)始终可用全反馈信息的监督式在线学习,(ii)具有有限反馈的在线学习,以及(iii)无反馈可用的无监督在线学习。
Feb, 2018
通过机器学习算法,结合在线算法,可以提高选择问题中的服务质量,并且能够在预测准确的情况下最大化竞争力。
Jun, 2020