BriefGPT.xyz
大模型
Ask
alpha
关键词
auxiliary losses
搜索结果 - 5
通过利用图文辅助任务提升社交媒体帖子的多模态分类
利用社交媒体帖子中的多模态信息,通过引入辅助损失与主任务相结合的方式,成功解决了文本和图像信息融合中的挑战,取得了一致的改进效果,并通过详细分析揭示了辅助任务在特定场景和案例中的最有效性。
PDF
10 months ago
零样本神经机器翻译中的缺失元素
本文研究了多语言神经机器翻译模型的零样本翻译问题,提出了基于辅助损失的方法,并在 WMT14 英语 - 法语 / 德语上实现了与基于中介语的模型相媲美的零样本翻译效果,同时在 IWSLT 2017 共享任务中验证了该方法的易于扩展性。
PDF
5 years ago
利用梯度相似性调整辅助损失
研究使用余弦相似度检测是否辅助损失有助于主要损失,证明该方法保证收敛到主要任务的临界点并在多任务学习和强化学习中实际发挥作用。
PDF
6 years ago
使用深度自注意力进行字符级语言建模
本文通过实验证明,64 层深 (Deep) 的 transformer 模型,通过加入中间网络层和序列位置的辅助损失 (auxiliary losses),能够在文本压缩数据 (text8) 和维基百科压缩数据 (enwik8) 数据集上超
→
PDF
6 years ago
通过自适应损失平衡在神经网络中进行任意时刻的预测学习
通过从辅助预测中提取 “Anytime” 预测,优化自适应加权和的辅助损失,以平衡损失以相同的比例进行优化的神经网络。实验证明,采用自适应加权的任意神经网络(ANNs)可在较小的网络上比使用静态常数权重的大型网络更快地实现相同的准确性。
PDF
7 years ago
Prev
Next