BriefGPT.xyz
Ask
alpha
关键词
pseudo data
搜索结果 - 4
COLING
问一问先行,增强终身语言学习能力
本文提出了一种名为 AQF-RQ 的新型学习方法,包括一种新的数据格式以及一种训练任务,使模型更容易生成与先前任务相对应的伪数据,并在分界清晰和不清晰的情况下对伪数据更具鲁棒性,可以实现与多任务学习只有 0.36%左右的性能差距。
PDF
2 years ago
离线强化学习中的引导式 Transformer
本文提出了一种名为 Bootstrapped Transformer 的新算法,将 bootstrapping 思想和模型自我生成更多离线数据相结合,进一步提高序列模型训练的效果,该方法在两个离线 RL 基准测试中均取得了优于其他强基线方法
→
PDF
2 years ago
DirectQE: 机器翻译质量估计的直接预训练
本文提出 DirectQE 框架,通过直接预训练来提高机器翻译质量估计(QE)任务的性能,其中生成器训练产生更接近真实 QE 数据的伪数据,检测器使用类似 QE 任务的新目标在这些数据上进行预先训练。在广泛使用的基准测试中,DirectQE
→
PDF
3 years ago
EMNLP
将伪数据融入语法错误纠正的实证研究
通过广泛的实验研究,研究了伪数据的生成或使用方式对语法错误纠正模型训练的影响,而不对模型结构进行任何修改,实现了在 CoNLL-2014 测试集($F_{0.5}=65.0$)和 BEA-2019 共享任务官方测试集中的最优表现。
PDF
5 years ago
Prev
Next