negative examples | BriefGPT

关键词negative examples

搜索结果 - 12

大型语言模型遗忘
我们研究了如何在大型语言模型中执行遗忘，即忘记不受欢迎的行为，并展示了三种情况下进行语言模型与人类偏好的对齐可以从学习中受益：（1）删除有害回应，（2）根据要求删除受版权保护的内容，以及（3）消除幻觉。我们的工作是探索语言模型遗忘中首个实现
PDF9 months ago
自标记对抗性反事实推理：用于负例推广的场景
本文提出 SCENE 方法，一种自动方法用于综合训练数据以有效提高模型检测负面样本的能力，该方法通过自标记对抗法来实现对正例数据的零样本负例数据合成，并通过对 SQuAD 2.0 数据集和 ACE-whQA 数据集的实验结果表明该方法可显著
PDFa year ago
GAPX：广义自回归释义标识 X
本文探讨了在自然语言处理中的重要任务 —— 释义识别，发现现有模型在推断时往往受到分布转移的影响。为了克服这种影响，我们提出使用两个分开的模型进行训练，并使用基于困惑度的指标确定在推断时应该给予负模型多少权重，实验证明这种方法取得了很好的效
PDF2 years ago
从反例中学习连贯写作
本研究提出了一种通过利用负面例子来提高神经编码器 - 解码器自然语言生成模型的连续性的写作相关性（WR）训练方法，着重于语境和生成的句子的矢量表示，将其与负面例子进行对比，并将其与常识自然语言推理中的 Unlikelihood（UL）训练方
PDF2 years ago
ICCV无配对图像转换对比学习中基于实例的难负样本生成
本文研究了无序图像翻译中对比学习的性能问题，提出了实例级别的负样本生成方法 NEGCUT，通过基于输入图像的生成器提出容易区分正样本的负样本，训练方式为对抗损失。此方法在三个基准数据集上显示出了明显优势。
PDF3 years ago
探索负样本在对比度表示学习中的作用
该研究讨论了无监督学习中噪声对比学习的技术以及负样本的数量对其效果的影响，包括从理论和实践两个层面考察了负样本在 NLP 和视觉领域中的作用和效果。
PDF3 years ago
ACL噪声对比估计中的困难负例理解
本文探讨了在噪声对比估计中选择负面案例的重要性，发现硬负面案例 —— 在模型下得分最高的不正确案例是有效的，我们开发了分析工具以理解硬负面案例的作用，并通过将负面分布设置为模型分布来减少误差，同时将硬负面案例与适当的评分函数相结合，取得了强
PDF3 years ago
EMNLP论极度不平衡的成对任务自适应数据收集的重要性
本研究利用基于 BERT 模型的嵌入方法，采用主动学习的方式收集训练数据，创造了更加平衡和信息量更丰富的负例样本，有效提高了 QQP 和 WikiQA 测试数据的平均准确率。
PDF4 years ago
ACL利用显式负例提高神经语言模型语法能力的实用性分析
使用否定例子训练神经语言模型，通过添加边际损失增强模型对特定句法结构的鲁棒性表现，研究发现适当使用否定例子提高模型的鲁棒性，具有可行性，但是该方法在处理宾语从句时还存在困难。
PDF4 years ago
AAAI具有正负例的泛化规划
本文将负例规划定义为一组不应由泛化计划解决的计划实例，并将计划验证的概念扩展到验证给定泛化计划解决输入正例实例时是否无法解决给定的一组负例实例，以量化评估泛化计划的能力，并展示如何将负例规划应用于计划综合的编译中，实验结果表明添加负例可以加
PDF5 years ago
EMNLP利用成对出现信息改进大规模数据集上的知识图谱补全
本文提出了一种使用实体 - 关系对在数据集中构建联合学习模型的方法，以提高知识图谱补全的性能，并通过三个数据集的实验证明，当将这两种技术相结合时，尤其是在数据集规模较大，批量大小和负样本生成数量相对较小时，可以显著提高性能。我们还将此技术应
PDF5 years ago
ACL基于投影学习的上下位关系抽取通过负采样方法改进
本文介绍了一种新的基于投影学习和词嵌入的上义词提取方法，并通过使用负例子明确地规范化模型来提高上义词预测性能。
PDF7 years ago