- 从文本到像素:一种针对红外和可见光图像融合的上下文感知语义协同解决方案
本研究提出了一种基于文本引导的多模态图像融合方法,利用文本描述的高级语义结合红外和可见光图像的语义信息,为目标检测任务提供了更准确和鲁棒的结果。通过使用代码本来增强对融合动态的简明直观表达,并通过双层优化策略同时优化融合和检测问题,本研究取 - 在无 Hessian/Jacobian 的随机双层优化中实现 ${O}(ε^{-1.5})$ 复杂度
本文提出了一种新的 Hessian/Jacobian-free 双层优化器 FdeHBO,通过每次迭代使用 O (1) 个样本和仅一阶梯度信息,在非凸 - 强凸随机双层优化中实现了 O (ε^(-1.5)) 样本复杂度,达到 ε- 精确的稳 - iMatching: 即时对应学习
通过引入一种新的自监督学习方案,我们提出了一种新的方法来训练特征对应关系,这种方法能够在任意连续的视频上进行特征对应关系的学习,而无需摄像头姿态或深度标签,从而为自监督的对应关系学习开创了一个新时代。在广泛的实验证明中,表现出较高的性能,在 - 分布式双层优化的单循环算法
在这篇论文中,我们考虑了分散网络中的双层优化问题,提出了一种针对具有强凸下层问题的分散式双层优化的新型单循环算法。我们的算法完全是单循环算法,在逼近超梯度时不需要进行复杂的矩阵向量乘法。此外,与现有的分散式双层优化和联邦双层优化方法不同的是 - 少即是多:对参数高效微调的木马攻击
参数高效微调 (PEFT) 机制使得能够有效地将预训练语言模型 (PLMs) 适应特定任务。然而,尽管其被广泛使用,PEFT 的安全风险还没有被充分探索。本文通过进行初步研究揭示 PEFT 对特洛伊攻击存在独特的脆弱性。通过双层优化来适应下 - 非凸双层优化与一阶随机逼近的惩罚方法
本文主要研究双层优化的一阶算法,目标函数在两个层次上都是光滑但可能非凸的,变量限制在闭凸集合中。首先通过罚函数方法,研究了双层优化的景观,并建立了罚函数与超目标之间的强连接。接着,提出了一阶算法来优化罚函数,以找到一个 ε- 稳定解。在满足 - 非凸时变目标的双层优化
本文研究了在线双层优化(OBO)问题,提出了一种基于窗口平均的单循环在线双层优化器(SOBOW),用于处理时间变化的函数和真超梯度不可得的问题,并通过解开决策变量之间的复杂耦合关系并精确控制超梯度估计误差,来实现亚线性双层局部遗憾的性能。通 - BiERL:一种基于双层优化的元进化强化学习框架
通过双级优化的元进化强化学习(ERL)框架,我们在单个智能体内并行地更新超参数,从而解决了复杂强化学习问题中不足的探索或模型崩溃的问题,验证了其在各种 ERL 算法上改善学习性能的一致性优势。
- 加权图拉索隐式微分优化超参数调整
通过一阶方法解决双层优化问题,推导 Graphical Lasso 解对其正则化超参数的 Jacobi 矩阵,为 Graphical Lasso 的超参数调整提供了框架和算法。
- 加速不精确超梯度下降法用于双层优化
本文提出了 Restarted Accelerated HyperGradient Descent (RAHGD) 方法,用于在非凸强凸双层优化问题中找到一阶和二阶稳定点,并在理论上得到了最优解和新的最佳上限,同时通过实验验证了理论结果。
- 双层优化中寻找静止点的近最优全一阶算法
本文讨论了双层优化问题,提出了第一和第二阶段方法,探究了优化的复杂度和速度,并提出了适用于分布式双层问题的简单算法。
- 压缩、恢复和重新标记:新视角下的 ImageNet 规模数据集简化
SRe$^2$L 是一种新的数据集压缩框架,可以在训练期间解耦模型和合成数据的双层优化,以处理各种规模的数据集、模型结构和图像分辨率,具有高分辨率训练、低训练成本和内存消耗,以及在任意评估网络结构下扩展的能力。
- ACL交叉任务泛化的可微指令优化
本研究介绍了一种使用可学习的指令并基于双层优化优化它们的方法来提高指令调整的横向通用性的优化训练指令的方法,并证明与只使用手动创建的指令相比,学习的指令能够增强指令的多样性并提高横向通用性。
- CVPRSLACK: 带有冷启动和 KL 正则化的数据增强稳定学习
本研究提出了一种无需先前知识直接学习数据扩增策略的方法,并使用 Kullback-Leibler regularization 和连续分布参数化解决了双层优化问题和搜索空间更大的问题,最终在标准基准测试上取得了有竞争力的结果。
- ICML从超图能量函数到超图神经网络
本文提出基于超图正则化能量函数的多个超图神经网络,论述了如何将最小化这些能量的结点嵌入技术,与参数化分类器结合进行端到端训练的过程,并通过实验证明了其优秀性能。
- 一种通用的交替方法用于满足 Polyak-Łojasiewicz 条件的二层优化
提出了一种推广后的交替优化方法(GALET)用于双层优化问题,可以适用于具有非凸下层目标函数的问题,并具有与一阶梯度下降相同的收敛速度。
- 具有本地超梯度估计的联邦多序列随机逼近
通过开发 FedMSA,我们着手开展了 Federated Stochastic Approximation With Multiple Coupled Sequences (MSA) 的算法问题,该算法问题被广泛应用于机器学习,并且在 B - 利用双层优化的稳健先验图解释器
本文提出一种称为 RAGE 的基于双层优化的前驱图解释器,通过发现图神经网络的广泛类别的解释来解决机器学习模型解释性不足的问题,实验结果表明 RAGE 解释具有比现有的后驱和前驱方法更强的健壮性,并且通常能够实现类似或更好的准确性。
- 迭代算法的一步差分
本文提出一种新的自动求导方法 —— 一步法微分(Jacobian-free backpropagation),其性能可与隐式微分方法相媲美,并为快速算法(如超线性优化方法)提供了解决方案。其中使用特定的例子(如牛顿法和梯度下降法)对其进行全 - 通过极小极大重表达实现高效双层优化
提出了一种将双层优化问题重新设计成极小极大问题的方法,并采用渐进式梯度下降上升算法来解决该问题,结果表明该算法在降低计算成本的同时,优于现有的基于双层优化的算法。