BriefGPT.xyz
Ask
alpha
关键词
memory-efficient algorithm
搜索结果 - 3
VeLoRA:使用排序 - 1 子标记投影的内存高效训练
通过梯度下降,我们确认了大型语言模型的有效模型收敛所需的重要组件,并提出了一种廉价且内存高效的算法来进行微调和预训练大型语言模型。
PDF
a month ago
突破样本复杂度障碍,实现后悔优化的无模型强化学习
通过引入方差缩减策略,设计了一个记忆高效的算法来解决在线序列化强化学习中的勘探和开发之间的平衡问题,该算法的空间复杂度为 $ O (SAH)$,较以前的算法提高了 $S^5A^3$ 倍的效率。
PDF
3 years ago
ICML
单遍逐元素变换低秩逼近
本文提出了一种用于矩阵分解且只需一次通过矩阵的内部即可完成的内存高效算法,并且在同样类似于 Liang et al. 所研究的函数 $f$ 的条件下,误差显著减小,还提出了应用于回归问题的算法,并通过实验证明了其结果的正确性。
PDF
3 years ago
Prev
Next