distillation method | BriefGPT

关键词distillation method

搜索结果 - 8

可解释和可编辑的程序化树策略用于强化学习
我们提出了 INTERPRETER，一种快速蒸馏方法，用于生成用于强化学习的可解释可编辑的树程序。我们通过实验证明，我们的树程序在各种顺序决策任务中能够与训练数据匹配，同时评估了我们设计选择对可解释性和性能的影响。我们展示了我们的策略如何被
PDFa month ago
基于掩码生成特征方法的逐步蒸馏用于知识图谱补全
本文提出了一种基于掩码生成特征的渐进蒸馏方法，用于知识图谱完成任务，显著降低了预训练模型的复杂性。通过对预训练模型进行预蒸馏以获取高质量的教师模型，然后压缩预训练模型网络获取多级学生模型，通过渐进蒸馏实现了从教师到学生的高效知识转移。实验结
PDF6 months ago
大型语言模型蒸馏不需要教师
本文介绍了一种针对大型语言模型的任务无关的零样本评估蒸馏方法，该方法使用截断版本的大模型作为初始化，并使用语言建模目标继续预训练该模型，已从根本上解决了对任务特定学习数据的依赖。本方法可以在无法将教师和学生都放入 GPU 内存的情况下将模型
PDFa year ago
语言模型能够理解物理概念吗？
该论文研究了自然语言模型是否能理解物理概念，并设计了一个基准测试 VEC 来探究视觉和具身概念。结果表明，视觉增强的语言模型，如 CLIP 和 BLIP，能够理解具身概念，而通过蒸馏方法将具身知识转移给 LMs 的性能也相当可观。
PDFa year ago
基于标签引导的车道线分割注意力蒸馏
本文提出一种基于标签引导的注意力蒸馏方法（LGAD），用于训练分割网络以更好地捕捉诸如车道标记之类的长程上下文信息。通过将标签结构信息嵌入教师网络中，并利用其注意力图作为学生网络的监督信号，能够显著提高学生网络的训练效果。
PDFa year ago
ACL利用上下文嵌入模型获得更好的静态词嵌入
本研究提出使用基于 CBOW 的训练方法进行文本嵌入的知识蒸馏，可以有效地提高自然语言处理应用程序的计算效率，同时优于从头开始训练的静态嵌入和以前提出的方法提炼的嵌入。此外，该方法还可以通过标准词汇评估任务公平比较上下文和静态嵌入。
PDF3 years ago
在类增量学习中提取数据的因果效应
本文提出了一个因果框架，解释了类增量学习中的灾难性遗忘的原因，并提出了一种新的蒸馏方法，该方法与现有的抗遗忘技术（例如数据回放和特征 / 标签蒸馏）正交。在这个框架下，我们发现特征 / 标签蒸馏虽然存储效率高，但其因果效应与端到端特征学习的
PDF3 years ago
MarginDistillation: 基于边际的 softmax 蒸馏
本文提出了一种新的蒸馏方法，该方法使用教师网络的类中心作为学生网络的训练目标，通过这种方法，能够在 LFW、AgeDB-30 和 Megaface 数据集上超越其他已知的轻量级神经网络架构蒸馏方法，实现更好的人脸识别效果。
PDF4 years ago