training complexity | BriefGPT

关键词training complexity

搜索结果 - 6

可扩展的 Wasserstein 梯度流用于非平衡最优传输的生成建模
本文提出了一种可扩展的基于 Wasserstein 梯度流的生成模型，称为 Semi-dual JKO (S-JKO)，通过使用 JKO 步骤的半对偶形式，将训练复杂度降低至 O (K)，实验证明该模型在 CIFAR-10 和 CelebA
PDF5 months ago
基于文本图的大型语言模型的高效调优和推理
通过将大型语言模型（LLMs）与图神经网络（GNNs）相结合，我们提出了一个参数和内存效率的 FINE-TUNING 方法来处理文本图，该方法通过可调的边结构显著降低了训练复杂性，同时在文本图上获得了最佳模型性能，且训练成本最低。
PDF5 months ago
深度度量学习中的平均场理论
本文探讨了平均场理论在深度度量学习中的应用，提出了两个新的损失函数 MeanFieldContrastive 和 MeanFieldClassWiseMultiSimilarity，发现在三个图像检索数据集中，这些新的损失函数的表现优于传统
PDFa year ago
彩票英雄的崛起：为何零擊消剪枝很困難
本文探讨深度学习中的优化问题，提出一种可能性来在训练时找到可训练的子网络以实现计算效率的提升，但需要在准确度和训练复杂度之间进行权衡。
PDF2 years ago
训练 ReLU 神经网络的复杂度
本文探讨了采用 ReLU 激活函数训练神经网络的复杂度问题，研究表明在神经元构架固定的情况下，两层 ReLU 神经网络的训练是 NP - 难问题，但在第一隐藏层提供足够的超参数时，可以通过多项式时间算法找到合适的权重。
PDF6 years ago
卷积神经网络中是否需要跨度调整
该论文提供了关于现代卷积神经网络中步幅操作作用的新颖且数学严格的视角，并通过该等价性表征了步幅作为通道之间参数共享的另一种机制，从而降低了训练复杂度。
PDF7 years ago