- 扩散式审美二维码生成：通过具有抗扫描特性的感知引导
本文介绍了一种基于扩散模型的美学 QR 码生成流程，通过使用经过预训练的 ControlNet 和基于提出的 QR 码机制的扫描鲁棒损失（SRL）的新型分类器指导（SRG）的引导迭代改进，确保美观和可扫描性。通过 Scanning-Robu - 使用投影梯度下降攻击大规模语言模型
通过控制连续放松引入的误差，我们改进了投影梯度下降（PGD）对连续放松输入提示的攻击方法，实现了与现有离散优化相同的毁灭性攻击结果，PGD 对 LLMs 的速度比最新的离散优化方法快了一个数量级。
- 重新思考 PGD 攻击：符号函数是否必要？
该论文通过理论分析和实验证明了前人工作中原梯度失败的原因，并提出了一种新的原梯度下降算法，该算法在各种情况下优于传统的投影梯度下降算法，并且不增加任何计算开销。
- 通用激活：多变量投影
基于结构相似性，通过将 ReLU 替换为广义投影算子，将其扩展为具有多个输入和多个输出的多元投影单元 (MPU)，证明了在表达能力方面，由 SOC 投影激活的 FNN 优于利用 ReLU 的 FNN。实验评估进一步证实了 MPU 在更广泛的 - 减少梯度逼近的对抗训练成本
采用梯度逼近的对抗训练方法能够减少建立稳健模型的成本，而对于常见数据集如 MNIST、CIFAR-10 和 CIFAR-100，该方法在训练时间上节省了高达 60% 的时间，并且在模型测试准确性上没有明显损失。
- ICLR自稳定性：梯度下降在稳定边缘的隐性偏差
本研究发现梯度下降在稳定边缘状态下具有自我稳定性和隐式偏差，可以通过投影梯度下降来描述，并对其在训练过程中的损失、尖锐度和偏差进行了详细预测和验证。
- 自然延续学习：成功源于旅程，不仅仅是终点
本文提出了一种称为自然连续学习（NCL）的新方法，该方法统一了权重正则化和投影梯度下降。NCL 使用贝叶斯权重正则化来鼓励在收敛时所有任务的良好表现，并结合使用先验精度的梯度投影，从而防止优化过程中的灾难性遗忘。我们的方法在前馈神经网络和循 - 理解对抗训练与噪声标签的交互作用
本文结合噪声标签和对抗训练，提出了使用梯度下降步数作为样本选择标准来纠正噪声标签，并且确认对抗训练具有强大的平滑效果的抗噪声标签的能力，从而提高自然的准确度，表明对抗训练作为一种通用的鲁棒性学习标准的优越性。
- 仅需简单微调：通过对抗微调实现鲁棒深度学习
本研究提出了一种基于缓慢上升和快速下降型学习率调度策略的对抗微调方法，该方法通过有效的学习率调度策略显著降低了计算成本，同时提高了深度神经网络的准确性和鲁棒性。 实验结果表明，该方法在 CIFAR-10，CIFAR-100 和 ImageN - 引导式对抗攻击：评估和增强对抗防御
本文提出了 Guided Adversarial Margin Attack (GAMA)，该攻击能够更有效地指导对抗样本的生成；同时，使用所提出的松弛项进行对抗训练，可以提高单步防御的效果，从而达到了最先进的性能水平。
- 广义线性模型中的隐私成本：算法与极小极大下界
使用构建的差分隐私版本的梯度下降算法，针对低维和高维稀疏广义线性模型提出参数估计，通过表征统计学性能和建立 GLMs 的隐私约束极小值下界来显示所提算法的近乎速率最优性。
- MM通信系统中的稀疏线性逆问题求解：一种具有自适应深度的深度学习方法
该论文提出一种基于深度学习的动态网络深度算法，通过在每一层引入终止得分，学习了解每个任务需要执行几层以获得最佳输出，并在稀疏信号恢复和通信信道估计方面表现出更高效和更好的性能。
- 隐式图神经网络
本文提出了一种名为 “Implicit Graph Neural Networks（IGNN）” 的图学习框架，其利用 Perron-Frobenius 理论来确保该框架的良好性，并利用隐式微分得到一种可行的投影梯度下降法来训练该框架，实验 - 深度说话人识别系统的对抗攻击与防御策略
本文研究了深度说话人识别系统所面临的对抗攻击问题，尝试了多种防御方法，并且实验证明了对抗攻击可能会导致准确度降至 0%，并且发现了以投影梯度下降为基础的对抗训练方法是最好的防御手段。
- 加权 MMSE 波束成型算法的深层展开
本文提出了将深度展开应用于加权最小均方误差算法（WMMSE）的新方法，以在 MISO 下行通道中计算尽可能大的加权和速率，通过仿真实验表明，相较于传统方法，深度展开可以更好地权衡性能与计算复杂度。
- 广义张量估计的最优统计和计算框架
该论文提出了一种灵活的通用低秩张量估计问题的框架，包括计算成像、基因组学和网络分析等应用中的许多重要实例，并通过投影梯度下降的统一方法来克服这些问题的非凸性，以适应底层低秩结构，并证明该算法在估计误差的收敛速度上达到极小值最优率。
- MimicGAN：强大的图像流形投影与噪声模拟
提出了一种新的稳健投影技术 -- 误差模拟，可在测试时间内利用代理网络直接逼近未知的失真，从而使 GAN 在现实世界的应用中显著更加稳健，具有更高的准确性和性能。
- 一种基于 PGD 的对抗性测试的替代代理损失函数
本研究介绍了一种新型的对抗性测试方法，称为 MultiTargeted，可以搜索引起神经网络输入错误的边界扰动，相较于其他方法，其需要迭代次数更少，且在 MNIST 和 CIFAR-10 中达到了最佳性能。
- 一种样本随机 Frank-Wolfe 算法
本文提出了一种称为 1-SFW 的新的随机 Frank-Wolfe 算法，通过设计一种新颖的无偏动量估计器，实现了使用每次迭代的单个样品来优化，而无需仔细调整批量大小、步长、学习速率和其他复杂的超参数，并在随机凸优化、随机 DR 亚模拟最大 - ICML高效组合优化的简约黑盒对抗攻击
本文提出了一种离散替代方法来解决黑匣子攻击的问题，该方法可以在不需要估计导数的情况下有效地攻击神经网络，降低了之前所提出方法所需的查询次数。