- 基于大型语言模型的进化优化器:精英主义推理
该研究论文探讨了大型语言模型在零样本优化方面的能力,介绍了一种基于语言模型的进化优化方法(LEO),并通过数值示例验证此假设的有效性。同时,论文还提出使用大型语言模型时需要小心处理其想象性和产生幻觉的特点,并给出了获取可靠答案的实用指南以及 - 高光谱光曲线反演用于姿态确定
使用时间序列单像素光谱测量的光谱光变曲线推断航天器的姿态和旋转,通过数值优化和神经网络模型相结合的方法,研究了在无关先验信息的情况下进行航天器姿态和旋转估计的理论和实践,通过在合成数据上的测试结果展示。
- CasADi 中的学习:数值优化中的数据驱动模型
L4CasADi framework enables the seamless integration of PyTorch-learned models with CasADi for efficient and potentially - 遗憾匹配算法在博弈中的最后迭代收敛性质
研究了基于遗憾匹配(RM+)及其变种的算法在求解大规模两人零和博弈中的最优策略时的迭代收敛性,并通过数值实验证明了部分实际变种算法在简单的 3×3 游戏中无法保证迭代收敛。进一步证明了基于平滑技术的最新变种算法,如 extragradien - 贝叶斯优化中对预期改进的意外改进
我们提出了一种名为 LogEI 的新型收敛函数家族,其成员在数值优化方面比标准收敛函数更容易操作,能够显著提升优化性能,并与最新的收敛函数表现相媲美或超越,突显了数字优化在文献中的被低估作用。
- 一个深度学习框架用于动态估算出发地 - 目的地序列
本文提出了一种利用深度学习方法推断 OD 序列结构的方法,并使用结构约束引导传统数值优化,以解决 OD 矩阵估计中存在的欠定问题和滞后问题。实验证明,提供的结构信息不仅包含对 OD 矩阵的空间结构的约束,而且还提供了对 OD 序列的时间结构 - 使用 CMA-ES 进行后续集成的 AutoML:成就与挽救失败
本文研究了自动化机器学习中的模型集成方法,比较了不同方法在不同的度量标准下的性能表现,探讨了如何避免在使用数值优化方法时产生过拟合。
- 电机的混合数据物理驱动多目标优化方法
本文介绍了一种基于数据和物理驱动的模型,利用深度神经网络作为元模型,通过预测中间 FE 测量值来表征 PMSM 的电磁行为,并通过各种物理模型后处理来计算所需的关键绩效指标,从而在计算上实现了 PMSM 的数值优化。
- 针对油藏模拟工作负载的调整算法策略 ——TunaOil
本文提出了一种名为 TunaOil 的新方法,利用机器学习从过去的模拟执行日志中提取特征信息,以优化库存流模拟的数值参数,从而减少工作负荷及计算资源,并在历史匹配中使用卡尔曼滤波调整多个储层模型以适应实际数据,结果表明,这些预测可以平均提高 - 带有新移动策略的绝地求生优化器
本论文提出了一种改良型的基于游戏的元启发式优化算法 ——Battle royale optimizer(BRO),用于解决复杂数值优化问题,通过引入移动策略的额外运动算子来改善探索和利用之间的平衡,实验结果表明改良型 BRO 相比于原始 B - 基于在线黎曼 PCA 的随机规范相关分析
我们提出了一种有效的随机算法(RSG+),使用投影矩阵的重新参数化来进行规范相关分析(CCA),并展示了这种重新参数化如何直接提出机会来重新设计和调整用于 Riemann 流形上数值优化的成熟技术。
- CVPR从运动学习骨骼类目的单目三维重建
使用视频自监督和模板形变技术来实现单目 3D 重建并且进行数值优化,以便使计算得出的模型更加准确和具有解释性。
- EMNLPFastFormers: 高效 Transformer 模型的自然语言理解
本研究提出了 FastFormers 来加快基于 Transformer 模型的 NLU 任务的推理效率,可以通过运用知识蒸馏、结构剪枝和数值优化等方法,将预处理模型在 CPU 和 GPU 上的速度提高至 9.8-233.9 倍,节省成本的 - 约束自共轭最小化的牛顿 Frank-Wolfe 方法
使用线性 oracle 解决自协调约束优化问题,并提供数值结果表明 Newton Frank-Wolfe 在组合优化比例、D - 最优实验设计和 logistic 回归等方面表现优异。
- 无监督学习优化:为 URLLC 训练深度神经网络
本文提出了一种基于无监督深度学习的学习优化的框架,用于解决数值优化问题,可同时应用于函数和变量优化问题,并以超高可靠性通信为例,证明了深度学习可实现无监督学习下的变量优化保障极高的可靠性通信。
- NIPS通过多保真高斯过程优化光子纳米结构
利用多保真高斯过程的方法,结合数值方法和有限差分时间域(FDTD)模拟优化了表面等离子体反射镜颜色滤光片的性能,比较了不同的全局搜索算法,并通过在预先收集的真实数据集上的实验,用有限的预算更有效地优化了传输性能。
- 学习优化:训练深度神经网络用于 无线资源管理
本文提出了一种基于深度神经网络的学习算法来近似数值优化算法,在无线资源管理的应用中,此算法可以在几乎实时完成资源分配,大大提高了计算效率。同时,本文也在理论和实践两方面讨论了基于深度神经网络的算法逼近,并在实现方面用大量数值模拟来证明该算法 - PrivLogit:通过调整数值优化器实现高效的隐私保护逻辑回归
提出了一种定制化的数值优化方法,结合加密协议,可以在保障数据安全和隐私的前提下,实现分布式和隐私保护的逻辑回归,并且在性能和精确度不降低的同时,取得了显著的加速效果。
- 平滑凸优化的优化一阶方法
本论文提出一种优化的一阶方法,用于平滑无约束凸规划问题,达到比 Nesterov 的快速梯度下降法收敛速度两倍更快的收敛速度,并具有与 Nesterov 的快速梯度下降方法相似的高效的递归形式。
- ICML拟牛顿法:一个新方向
该研究论文提出了新的概念,即将许多拟牛顿方法解释为贝叶斯线性回归的近似,为传统算法的某些缺点提供了解释,并展现了一种新的非参数拟牛顿方法,它能够以类似于以前版本的计算成本来更有效地利用可用的信息。