alignment training | BriefGPT

关键词alignment training

搜索结果 - 10

ACL大型语言模型的混合对齐训练
该研究提出了一种混合对齐训练方法（Hbat），基于交替对齐和修改的弹性权重共享方法，实验结果表明，该方法可以在摘要和对话任务中显著超过所有基线模型的性能表现，尤其在使用近端策略优化和直接偏好优化时。
PDF15 days ago
大型语言模型对齐的低冗余优化
在这篇研究论文中，研究人员通过对大型语言模型（LLMs）的经验研究发现了对齐训练中存在的冗余神经元，并提出了一种名为 ALLO 的低冗余对齐方法。该方法通过梯度策略识别与人类偏好数据相关的神经元，通过奖励模型计算损失来识别与对齐相关的关键词
PDF18 days ago
ReMoDetect：奖励模型识别对齐 LLM 的生成
通过对大型语言模型的对齐训练以及奖励模型的检测能力，本文提出了两种训练方案用于提高对 LGM 生成文本的检测效果，并在六个文本领域的十二个对齐模型上进行了广泛的评估，展示了最先进的结果。
PDFa month ago
ConTrans: 通过概念移植进行弱到强对齐工程
通过概念移植，我们提出了一种名为 ConTrans 的新框架，能够通过从源 LLM 对价值对齐的概念向量的细化与亚仿射变换，将其成功移植到目标 LLM 的残差流中，从而实现弱到强的对齐泛化和控制。
PDFa month ago
大规模语言模型的潜在距离指导对齐训练
使用无需标注的注解方法，Latent Distance Guided Alignment Training (LD-Align) 利用生成的潜在空间对大型语言模型进行对齐训练，通过潜在空间中样本对之间的距离来引导对齐训练。经过广泛实验和评估
PDF3 months ago
精调后保持 LLMs 一致性：提示模板的关键作用
本文研究了如何减轻模型由于微调引起的安全问题，通过对几个聊天模型进行广泛实验，发现在微调和推理过程中使用的提示模板对于保持安全对齐至关重要，并提出了 “纯微调，安全测试”（PTST）原则，即在没有安全提示的情况下微调模型，但在测试时使用它。
PDF4 months ago
CLAP: 利用自然语言监督学习可转移的二进制码表示
利用对二进制代码进行对比学习，提高其在迁移学习中的性能，通过对齐二进制代码和自然语言解释来生成更好的嵌入表示，而无需特定任务的训练。
PDF4 months ago
EMNLP关于大型语言模型和对齐的校准
通过对大型语言模型的可靠性进行置信度校准的系统检查，我们评估了在预训练和对齐训练阶段中不同训练设置（如参数尺度和训练数据）对模型校准的影响，并对生成、真实性和理解等方面进行了全面的评估。
PDF7 months ago
Prompt Packer：通过隐藏攻击的组合指令欺骗 LLMs
最近，大型语言模型（LLMs）已越来越多地集成到各种 Web 应用程序中，并进行对齐训练，以确保生成的内容与用户意图和伦理相一致。然而，它们仍存在在实际应用中生成恶意内容（如仇恨言论和犯罪活动）的风险。本文引入了一种创新的技术来混淆恶意指令
PDF9 months ago
视频与语言联系定位的多级对齐训练方案
本文着眼于视频和语言之间的语义联系，提出了一种多级对齐训练方案，基于信息相似性从高层次的上下文到细粒度的语义，通过对称损失来对齐视频和语言的编码，从而在共享特征空间中确保相似信息紧密编码而不同语义的信息保持分开。我们的多级对齐训练可应用于各
PDF2 years ago