distribution gap | BriefGPT

关键词distribution gap

搜索结果 - 6

SpeechAlign：将语音生成与人类偏好对齐
通过分析编解码语言模型中的分布差距，并利用来自人类反馈的学习，本研究提出了 SpeechAlign 策略，通过构建偏好编解码数据集并进行优化，实现了语音语言模型的持续自我改进，解决了编解码语言模型的分布差距问题。
PDF3 months ago
自我蒸馏：填补语言模型微调中的分布差距
使用自我蒸馏微调（SDFT）方法，本研究通过引入由模型自身生成的蒸馏数据集来填补任务数据集与大型语言模型之间的分布差距，解决了在特定任务上微调时性能和通用指令跟随能力之间的挑战，并在多个基准测试中证明了 SDFT 方法在减轻灾难性遗忘的同时
PDF4 months ago
突破数据孤岛：多智能体感知来自独立私有源的跨领域学习
通过引入 Feature Distribution-aware Aggregation (FDA) 框架以缓解多智能体感知中的分布差异，本论文全面探讨了分布差异对现有多智能体感知系统的影响，并通过在公共 OPV2V 和 V2XSet 数据集
PDF5 months ago
通过增强未标记数据上的不确定性改进半监督语义分割
我们提出了一种新的半监督语义分割视角，通过对训练数据集中标记和无标记分布的分析，我们发现即使两个数据集采样自相同分布，标记和无标记数据集之间的分布差异也不能忽视。为了解决这个问题，我们在理论上进行了分析并从实验上证明了适当提高无标记数据的不
PDF7 months ago
对抗性偏好优化
人类偏好对齐是提高大型语言模型交互质量的重要训练步骤。我们提出了一种对抗式偏好优化框架 (APO)，通过最小最大博弈的方式，使 LLM 代理和偏好模型交替更新，从而自适应地解决生成分布差异的问题，实验证明了 APO 在改善 LLM 的帮助性
PDF8 months ago
CVPR半监督医学图像分割的双向复制粘贴
本研究提出一种半监督医学图像分割的方法，通过在简单平均教师体系结构中双向复制粘贴标记和未标记数据，从而鼓励标记和未标记数据之间的一致性学习，有效缓解标记和未标记数据分布之间的差异，实验证明该方法相对于其他半监督医学图像分割数据集的最新技术有
PDFa year ago