- 基于生成式 AI 的提示演化工程设计优化与视觉语言模型
工程设计优化需要高效结合三维形状表示、优化算法和设计性能评估方法,我们提出了一种在车辆设计场景中利用视觉语言模型来惩罚生成模型合成的不切实际汽车设计的快速演化设计优化 (PEDO) 框架。
- 深度卷积神经网络满足变分形状紧致先验的图像分割
我们提出了两种新的算法来解决图像分割问题,并达到了更高的数值效率和效果,尤其在基于 DeepLabV3 和 IrisParseNet 网络的嘈杂虹膜数据集上进行训练时,IoU 提高了 20%。
- 基于流形的不完全多视图聚类通过双一致性引导
基于流形学习的不完整多视角聚类方法通过双一致性指导灵活地恢复各个视角下的不完整数据,并通过反向正则化实现双一致性指导策略,同时在探索恢复数据的隐藏结构方面提出了流形嵌入测量。此外,该方法平衡了不同视角的重要性,并为每个视角引入了自适应权重项 - 通过大型语言模型探索进化计算的改进
演化计算(EC)是一种强大的优化算法,已在各个领域得到应用。大型语言模型(LLMs)的出现不仅改变了自然语言处理,还将其能力扩展到各个领域。通过利用 LLMs 的丰富知识和自适应能力,我们提供了一个前瞻性的概述,介绍了 LLMs 对 EC - 多维贝叶斯回归最末层:不确定性量化与解缠
我们提出了一种新的贝叶斯末层模型,用于处理异方差噪声下的多变量回归,并提出了一种参数学习的优化算法。贝叶斯末层模型将预测分布的贝叶斯建模与神经网络的参数化相结合,能够通过单次前向传递进行不确定性量化。该框架能够区分事件误差和认知误差,并可用 - 机器学习辅助热电制冷多热点热管理
这项研究介绍了一种新颖的机器学习辅助优化算法,用于实时多热点条件下基于实时多热点条件下基于实时多热点条件下基于实时多热点条件下基于实时多热点条件下的系统并获得准确的温度预测,从而实现全局最优温度控制。
- R2 指标与深度强化学习增强的自适应多目标进化算法
提出了一种基于强化学习的双深度 Q 网络优化算法结构,通过使用 R2 指标将单目标结构转化为多目标结构,以及通过评估每代算法的性能构建强化学习奖励函数,该算法在与其他基于 R2 指标的六种算法进行比较时表现出优秀的性能。
- 基于梯度滑动方法的少数据神经网络分布式随机约束优化
现代分散应用中,通信效率和用户隐私是关键挑战。为了训练机器学习模型,算法必须与数据中心进行通信并对其梯度计算进行采样,从而暴露数据并增加通信成本。为了解决这个问题,我们提出了一种分散优化算法,它在通信效率上高效,并通过最优梯度复杂性达到了一 - 基于共轭梯度类自适应矩估计优化算法的深度学习
通过将共轭普通梯度方法与 Adam 相结合,提出了一种名为 CG-like-Adam 的用于深度学习的新型优化算法,以加速训练并提升深度神经网络的性能。在该算法中,用共轭普通梯度方法替代了 Adam 的一阶和二阶矩估计,数值实验证明了该算法 - ICLRDreamFlow:通过近似概率流进行高质量的文字到三维图像生成
通过利用预训练的 T2I 扩散模型,借助预定时间步长安排,将文本到 3D 优化提升为多视角图像到图像转换问题,我们提出了一种新的优化算法和实用的三阶段粗到精的文本到 3D 优化框架 DreamFlow,实现快速生成高质量、高分辨率(1024 - 通过隐式 - 显式时间步进方法改进自适应矩估计(ADAM)随机优化器
这项研究提出了一种基于隐式 - 显式欧拉离散化的一阶 Adam 算法,并通过对普通微分方程的高阶隐式 - 显式方法求解,得到了一种优于经典 Adam 算法的新型神经网络训练优化算法。
- 去除平方根:AdaGrad 的新高效的尺度不变版本
本研究介绍了一种名为 KATE 的新型优化算法,它是 AdaGrad 算法的一个尺度不变适应版本。我们通过证明其在广义线性模型中具有尺度不变性,并利用数值实验比较 KATE 与 Adam 和 AdaGrad 算法在不同问题上的性能,包括图像 - 深度线性网络中初始化对隐性偏差的作用
该研究聚焦于探索深度学习中的隐含偏差现象,具体研究了权重初始化对优化和泛化问题的影响,通过调查使用深度网络解决欠定线性系统问题时初始化的隐式正则化的作用,有助于更全面地理解深度学习的性能特点。
- 通过自适应一致性图滤波的多视角子空间聚类
本文介绍了一种多视角子空间聚类方法,利用共识重构系数矩阵和共识图滤波器进行数据平滑以及设计重构系数矩阵的规则化器,最终通过多个视角的重构系数矩阵创建约束条件,并提供了一个优化算法来获得它们的最优值。通过广泛的实验,显示该方法优于一些最先进的 - 动量 - SAM:无需计算开销的锐度感知最小化
最近提出的深度神经网络优化算法(Sharpness Aware Minimization)通过在梯度计算之前扰动参数,通过梯度上升步骤将优化引导到损失平坦的参数空间区域。我们提出了动量 - SAM(Momentum-SAM),通过在累积动量 - 基于实例依赖的正未标记数据的联合经验风险最小化
基于正样本和未标记数据的学习(PU 学习)是一种积极研究的机器学习任务,目标是基于包含部分标记的正样本和未标记实例的训练数据集训练一个二元分类模型。本研究提出了一个优化算法,通过建立标签机制、估计倾向性分值和进行参数优化,以实现风险一致性和 - 广义张量分解的 ADMM-MM 算法
该论文提出了一种面向一般线性观测模型中低秩张量逆问题的新统一优化算法,该算法支持多种低秩张量分解模型和基本损失函数,并提出了基于交替方向乘子法向和主化极小化方法的优化算法。通过该算法可以解决广泛的应用,并且可以轻松扩展到任何已建立的张量分解 - 关于联邦学习中叛变影响及其预防措施
该研究证明了参与者的永久叛变对最终模型的稳健性和泛化能力造成的不利影响,并且表明了当前联邦优化算法未能阻止这些有害的叛变。我们引入了一种具有理论保证的新型优化算法,在确保所有参与者达到一个有效解决方案的渐进收敛性的同时,预防了叛变,并通过数 - 硬件高效向量符号架构的 Sobol 序列优化
使用优化算法和 Sobol 序列生成高质量超向量,改进了超维计算中的数据编码和性能,提高语言和标题分类的准确性并降低能量消耗。
- 训练集之外:一种检测模型优化中分布偏移的直观方法
通过训练二元分类器,我们提出了一种简单的方法来检测分布的变化,从而解决了在模型设计过程中的分布偏移问题,并通过验证其在实际应用中的有效性,证实了此方法可以提高设计的质量。