BriefGPT.xyz
Ask
alpha
关键词
shared randomness
搜索结果 - 2
只需一个字节(每梯度):关于使用共享随机性进行低带宽分散化语言模型微调的注记
本研究提出了一种基于共享随机性的分布式微调方法,通过使用单字节的梯度交换,减少了通信成本,并保留了最近研究中的内存效率和推理优势。
PDF
a year ago
如何使用单个比特(以及一些共享的随机数)发送实数
本文提出了利用单个比特位通信来估算实数的方法,并通过共享随机比特位优化了成本。
PDF
4 years ago
Prev
Next