gradient-free | BriefGPT - AI 论文速递

关键词gradient-free

搜索结果 - 10

基于脑启发的分布式记忆学习，用于高效特征无关的无监督域自适应
通过分布式记忆学习机制，利用神经网络以及强化记忆的方式，提出了一种新的无梯度的快速领域适应机制，称为分布式记忆学习（DML），在跨域场景中以显著的性能提升和时间优化为特点。
PDF5 months ago
ViT-ReciproCAM: 用于视觉转换器的无梯度与无注意力的视觉解释
本文提出了一种新颖的方法来解决 Vision Transformers (ViT) 在计算机视觉任务中对图像分类和目标检测等方面表现出的优异性能的预测过程理解和调试预测错误的挑战。我们提出了一种名为 ViT-ReciproCAM 的梯度无关
PDF9 months ago
超越梯度的拜占庭容错学习：分布式进化搜索
本文介绍一个更广泛的机器学习中拜占庭容忍的定义 ——“模型一致性”，并将这个定义与经典分布式一致性算法结合使用，生成了一种基于 Evolutionary Search 算法的分布式、拜占庭容忍、无梯度学习算法 —— 广义的（1,λ）进化搜索
PDFa year ago
无梯度文本反演
本文提出了一种基于进化策略的梯度自由框架，用于优化文本反演的过程，试图解决个性化文本生成中因梯度下降算法的内存消耗大、部署复杂等问题。实验结果表明，采用该方法生成的文本图像与采用梯度下降方法生成的相比，性能几乎没有损失，但能够获得更高的计算
PDFa year ago
无梯度极小极大优化：方差降低和更快收敛
本文提出了一种新的零阶方差约减梯度上升 / 下降算法来解决机器学习中的零阶 minimax 最小化问题，并通过实验结果证明其性能优越。
PDF4 years ago
ZO-AdaMM：零阶自适应动量方法用于黑盒优化
该研究提出了一种名为 ZO-AdaMM 的零阶梯度黑盒优化方法，它将 AdaMM 通用于无梯度形式的场景，并阐述了它的收敛率问题以及在非凸约束优化问题中的适用性，最终通过 ImageNet 数据的两个实验应用证明了 ZO-AdaMM 的高精
PDF5 years ago
用基于迁移的先验知识加强黑盒对抗攻击
介绍了一种基于先验指导的随机无梯度（P-RFF）攻击方法，它利用了传输先验和查询信息，需要的查询次数更少、攻击黑盒模型的成功率更高，相较于现有最先进的方法。
PDF5 years ago
利用逐步放大的随机梯度自由对抗攻击揭示了使用成熟攻击方法对稳健性的高估
对 ReLu 神经网络进行梯度自由攻击可以提供对抗性攻击下的网络鲁棒性评估，相比于之前的最先进方法，可以更紧确地估计网络鲁棒性
PDF5 years ago
高效核指数族无梯度哈密尔顿蒙特卡罗
本研究提出了核哈密顿蒙特卡罗算法（KMC）, 一种基于哈密顿蒙特卡罗的无梯度自适应 MCMC 算法。在目标密度函数不可求梯度时，KMC 通过拟合重现核希尔伯特空间中的指数族模型，自适应地学习目标的梯度结构。其具有收敛到精确解的能力，且在采样
PDF9 years ago
探讨赌博机和无导数随机凸优化的复杂性
本文探讨了在带有巴氏反馈或者没有梯度知识下的凸随机优化问题。我们通过精确表征强凸平滑函数的性能以及非凸平滑函数的性能下界，证明了在这两种情况下，所需的查询次数至少要实现二次比例尺度关系。我们同时还发现对于二次函数，即使在没有梯度信息的情况下
PDF12 years ago