training signals | BriefGPT

关键词training signals

搜索结果 - 10

CVPR使用标签噪声学习具有鉴别性动态的噪声标签检测
该论文提出了 DynaCor 框架，通过训练信号的动态来区分正确标记的实例和错误标记的实例，该框架在各种噪声类型和噪声率下显示出超越其他最先进方法的性能和强大的鲁棒性。
PDFa month ago
Orca 2: 教授小型语言模型进行推理
Orca 2 通过学习丰富的信号，诸如解释追踪等，使其在 BigBench Hard 和 AGIEval 等基准测试中优于传统的经过指导调整的模型。
PDF8 months ago
基于群众标注的多视角知识蒸馏用于领域外泛化
本文提出了新的方法以通过温度调节和 Jensen-Shannon 中心法从众包注释中汇总多个视角的分布，从而获得软标签。我们展示了这些聚合方法在四项自然语言处理任务中表现出最佳或接近最佳的性能，同时还验证了这些方法在任务不确定性估计上表现最
PDF2 years ago
EMNLP遮盖正确令牌：一种令人尴尬简单的错误修正方法
本文探讨了正确标记应如何更好地被利用以促进有效训练的文本错误纠正方法，并提出了一种基于随机蒙版的简单而有效的策略来实现这个目标。在汉语数据集的拼写错误纠正和语音识别错误纠正以及英语数据集的语法错误纠正实验中，我们的方法提高了校正精度。
PDF2 years ago
蒸馏上下文中的学习
本文提出了上下文蒸馏的方法，以内化语言模型通过上下文提示或草稿本获得的性能早期；该方法可以内化抽象任务说明，步骤推理以及具体训练示例，从而有效地训练语言模型。
PDF2 years ago
SIGIRP^3 Ranker：基于提示学习和预微调的缓解预训练和排名微调之间差距方法
本文研究了使用预训练语言模型（PLMs）来进行搜索排名时遇到的两个问题：训练模式和任务知识之间的差距。我们提出了一种称为 P³ Ranker 的模型，该模型使用基于提示的学习将排名任务转换为预训练模式，并使用预训练初始化模型，以尽可能少的数
PDF2 years ago
通过双向实体级递归解码器捕获事件参数交互
该研究提出了一种 Seq2Seq-like 的神经网络结构，用于解决事件参数抽取中存在的训练信号和顺序语义不足的问题，该结构使用具有上下文信息的实体 - 角色预测来生成参数角色。
PDF3 years ago
ACL无监督跨语言学习需要更严谨的方法
本文回顾了无监督跨语言学习的动机、定义、方法和方法，并呼吁对每个方面进行更严格的立场。本研究的现有基础是基于世界上许多语言缺乏平行数据的事实。然而，我们认为实践中不存在不需要任何平行数据而有丰富单语数据的情况。本文还讨论了以前使用的不同训练
PDF4 years ago
MMFDD Massive MIMO 系统下行训练技术：具有记忆的开环和闭环训练
本文提出了实用的开环和闭环训练框架，以减少频分双工（FDD）大规模 MIMO 的下行训练阶段的开销，并在数据通信阶段提高性能。
PDF11 years ago
通过 K-SVD 潜在的最小化原则对过完备字典的可识别性研究
本文对 K-SVD 算法（一种在实际应用中广受欢迎的字典学习算法）的表现进行了理论探究，研究了一个特定问题：在一组 N 个训练信号 yn=Φxn 中，一个字典 Φ 在满足 K-SVD 最小化准则本质下能否被恢复。通过对问题的理论分析，得出了
PDF11 years ago