- 无形地图:基于标志物的视觉惯性 SLAM 技术用于智能手机室内导航
使用智能手机创建建筑规模、易于导航的 3D 地图系统;以图形 SLAM 方式构建 3D 地图问题,并推断建筑地标和环境中可导航路径的位置;通过精心选择映射超参数和调整算法适应新环境的新技术来提高地图准确性。
- 卷积神经网络图像分类中的学习曲线估计策略与影响
通过估算模型的学习曲线,选择最佳模型进行全数据集训练,以减少培训时间。本文提出了一种框架和几种策略,并通过模拟学习曲线和图像分类任务的实验对这些策略进行了评估。
- 超参数自适应搜索用于代理优化的一种自调整方法
对于优化昂贵的黑盒函数,代理优化算法表现出了一定的潜力。然而,与采样和代理适配相关的超参数对其性能产生了很大影响,这给普及它们带来了挑战。我们研究了超参数对各种代理优化算法的影响,并提出了一种名为 Hyperparameter Adapti - 随机森林中超参数对变量选择的影响
随机森林 (RF) 在高维物质研究中的预测建模和变量选择方面具有很好的适用性。超参数在 RF 算法对预测性能和变量重要性估计的影响已被研究,然而,超参数对基于 RF 的变量选择的影响尚不清楚。本文使用理论分布和实验基因表达数据进行两个模拟研 - 多尺度储备计算学习噪声诱导的转变
利用噪声驱动的转换现象的机器学习模型,储层计算(一种递归神经网络)能够学习噪声引起的系统状态转换,通过调整关键的超参数,包括储层动力学的时间尺度,生成准确的转换时间和数量的统计数据,适用于多种系统和蛋白质折叠实验数据,表明机器学习方法可以捕 - 了解后训练量化对大规模语言模型的影响
大型语言模型中的参数数量、量化、超参数和推理速度的研究分析
- 短期天气预测中元启发式算法的超参数选择的比较评价
通过比较分析深度学习技术与启发式优化算法结合在天气预报中的性能,并评估不同模型架构在各指标下的表现,本文揭示了启发式优化算法在提高天气预报准确性方面的潜力。该研究还强调了利用高级优化技术选择适合特定天气预报任务的最佳启发式优化算法的重要性。
- 经典算法是公平学习者:对自然天气和野火发生的分类分析
经过评估,本文旨在展示经典的机器学习算法(如决策树、Boosting、支持向量机、k 最近邻算法和浅层人工神经网络)在处理稀疏数据的分类任务中的效果,并观察数据噪声增加时对这些算法的影响,以及不同参数对分类准确性的提升。研究表明,即使在有限 - 幼龄 BERTa:利用幼儿 BERTa 进行语法学习和语言理解
我们展示了 ToddlerBERTa,一种类似 BabyBERTa 的语言模型,通过五种不同的具有不同超参数的模型来探索其功能。在 BLiMP、SuperGLUE、MSGS 和 BabyLM 挑战中的 Supplement 基准上评估,我们 - 自监督解决无监督异常检测的困境和机遇
自我监督学习在无监督异常检测中起到重要作用,对 SSL 策略的选择、超参数的调整、预处理任务和增强函数的设计以及基于密度估计的预训练模型的利用提出了新的发展和挑战。
- 动态双层学习与不精确线搜索
使用变分正则化方法,通过双层学习来学习合适的超参数,同时提出了能够收敛到损失函数超参数的稳定点的近似回溯线搜索算法,并在变分正则化问题的超参数估计中展示了其有效性和可行性。
- 优化基于 Transformer 的机器翻译模型,以便在单个 GPU 训练中达到最佳性能:超参数淘汰研究
通过对超参数的删减实验,发现模型参数不一定越多越有效,进而揭示了通过精确调整超参数在单个 GPU 上训练复杂模型的关键技巧,从而为机器翻译的可用性和经济性提供了重要见解。
- 重新审视 N-CNN 的临床实践
通过优化超参数并评估其对分类指标、解释性和可靠性的影响,本文重新研究了新生儿卷积神经网络 (N-CNN),并讨论了其在临床实践中的潜在影响。
- 利用模型预测路径积分控制增强 AUV 自主性
自主水下航行器(AUV)在测量海洋环境、进行水下检查任务和海洋探索方面发挥着关键作用。本研究探讨了使用模型预测路径积分控制(MPPI)对 AUV 进行控制的可行性,并对主要超参数对 MPPI 控制器性能的影响进行了详细评估。同时,我们将所提 - 最大化支付路由的成功率:使用非静态赌博机
该论文讨论了非固定多臂赌博机方法的系统架构设计和部署,以确定近乎最优的基于最近交易历史的支付路由策略。通过使用一种新颖的基于 Ray 的实现提出了一种路由服务架构,以实现每秒超过 10000 次交易的赌博机式支付路由的最佳扩展能力,同时遵守 - BiERL:一种基于双层优化的元进化强化学习框架
通过双级优化的元进化强化学习(ERL)框架,我们在单个智能体内并行地更新超参数,从而解决了复杂强化学习问题中不足的探索或模型崩溃的问题,验证了其在各种 ERL 算法上改善学习性能的一致性优势。
- CoRe 优化器:机器学习的一体化解决方案
我們對 CoRe 優化器進行了廣泛的性能比較,並與其他九種優化算法進行了比較,包括 Adam 優化器和韌性反向傳播 (RPROP),結果顯示 CoRe 優化器在各種機器學習任務中表現最佳或競爭力非凡,而只需根據小批量或批量學習改變一個超參數 - SecureBoost 超参数调整的多目标联邦学习
SecureBoost 是一种利用同态加密保护数据隐私的树增强算法,广泛应用于金融和医疗保健等领域,具有解释性、有效性和保护隐私的能力。然而,SecureBoost 存在计算复杂度高和标签泄漏风险的问题。为了充分发挥 SecureBoost - KDDDSV:一种用于自监督离群模型选择的对齐验证损失
本文提出了一种名为 DSV 的无监督验证损失方法,该方法通过近似测试数据的不一致性和可分离性来捕捉增强函数与异常机制之间的对齐度,并能够在 21 个真实世界任务中比多种基线算法表现更好,以选择具有有效增强超参数的高性能异常检测模型。
- 基于随机泊松步长的本地自适应联邦学习
本文介绍了一种基于 Stochastic Polyak Stepsize 的联邦学习算法 FedSPS,该算法具有局部自适应性和近乎无参数,且可以达到与 FedAvg 相当的优化性能。