down-stream tasks | BriefGPT

关键词down-stream tasks

搜索结果 - 5

无对比自监督学习用于从语音中提取话语级别信息
应用无对比标签的自监督方法 DINO 学习语音的 utterance-level 嵌入，通过在 speaker verification、speech emotion recognition 和 Alzheimer's disease de
PDF2 years ago
SIGIR并非所有相关分数均相等：深度检索模型的高效不确定性和校准建模
以贝叶斯框架为基础的检索模型不仅能够提高排名的准确性，还能提供可靠的不确定性信息来预测截断点并提高下游任务的效果。
PDF3 years ago
重新审视少样本 BERT 微调
本文研究了 BERT 上下文表示的微调，重点关注少样本场景中常见的不稳定性，我们确定了引起这种不稳定性的几个因素，包括使用非标准优化方法、BERT 网络的显著部分在下游任务中的有限适用性以及使用预先确定的训练迭代次数的普遍做法。在这些观察的
PDF4 years ago
EMNLP通过参数高效的迁移学习探索多功能生成式语言模型
本文提出一种有效的方式，利用单个、大型的预训练模型同时微调多个下游生成任务，以实现内存有效性的提升，同时在五个多样化的自然语言生成任务上的实验结果表明，仅使用每个任务额外的 2-3% 的参数，我们的模型可以维持或甚至提高整个模型的微调性能。
PDF4 years ago
学习导航探索策略
本研究提出了使用基于学习的方法，实现任务无关的探索性导航的想法，在对比传统的使用几何技术和通用学习技术的情况下，所采用的包括了空间记忆的策略可以更好地探索新的 3D 环境，并将其用于下游任务。
PDF5 years ago