BriefGPT.xyz
Ask
alpha
关键词
local lipschitz constant
搜索结果 - 4
理解自注意力的规律性与最优传输
通过研究自注意力的局部李普希茨常数，本文在测度论框架下改进了先前的结果，从理论角度探讨了 Transformer 和多头注意力机制在神经网络的鲁棒性问题，并发现高局部李普希茨常数的测度通常由少数的狄拉克函数组成，且质量分布不均衡。此外，本文
→
PDF
7 months ago
ReLU-FNN 的局部利普希茨常数计算：精确性验证的上界计算
该论文主要研究采用整流线性单元（ReLUs）作为激活函数的前馈神经网络（FNNs）的局部利普希茨常数的计算，介绍了一种基于半定规划问题（SDP）和余问题的计算上界的方法，提出了一种模型简化方法并通过数值实例验证了这些方法的有效性。
PDF
9 months ago
计算 ReLU 网络的局部 Lipschitz 常数
本文研究了神经网络的局部 Lipschitz 常数及其在鲁棒性、泛化性和公平性评估中的应用，提出将非光滑向量值函数的局部 Lipschitz 常数与广义 Jacobian 范数最大化相关联的新颖分析结果，并给出适用于广义 Jacobian
→
PDF
4 years ago
变分不等式的黄金比例算法
本文介绍了一种针对单调变分不等式问题的全显式算法，该算法使用计算变量步长的方法来近似本地 Lipschitz 常数，每次迭代只需要评估单调算子 $F$ 和一个 proximal 映射 $g$，并且如果 $F，g$ 满足误差条件，则该方法表现
→
PDF
6 years ago
Prev
Next