truthfulness | BriefGPT - AI 论文速递

关键词truthfulness

搜索结果 - 24

LACIE: 大型语言模型中关注听众的细化调校来增强置信度校准
为了解决当前大多数模型过于自信的问题，我们引入了一种称为 LACIE 的训练方法，通过模拟一个听众来校准 LLMs 的内隐和外显置信度标记，实验结果表明，经过 LACIE 训练的模型在置信度上表现得更好，并且 LACIE 方法在其他数据集上
PDFa month ago
自适应激活导向：无需调整的多种幻觉类别 LLM 真实性改进方法
使用适应性激活引导（ACT）方法，可以通过调整大型语言模型（LLMs）的激活方向，在推理过程中提高生成内容的真实性。ACT 方法通过利用多样化的引导向量并自适应地调整引导强度，有效应对各种类型的虚构现象。在多种模型中附加应用 ACT 后，如
PDFa month ago
事实还是虚构：诚实机制能否消除联合式自由骑车现象？
以解决标准联邦学习中的共享问题为目标，提出了 FACT 机制，该机制通过使用惩罚系统来消除联邦问题，并通过创建竞争环境确保代理提供真实信息，同时通过提供比单独训练更好的性能来鼓励代理参与，实证结果显示 FACT 在代理不真实情景下避免了共享
PDFa month ago
通过自我完善增强的知识检索减轻大型语言模型的幻觉
在医学领域中，通过使用自我完善的知识图谱检索方法（Re-KGR），我们可以显著提高大型语言模型的真实性，降低谬误并减少虚构内容。
PDF2 months ago
在线策略分类中的错误、操控和保证金
在一个在线的战略分类问题中，每个到达的代理可以操纵其真实特征向量以获得正面的预测标签，同时付出依赖于操纵量的成本。学习者在仅能访问操纵后的特征的情况下，试图预测代理的真实标签。之后学习者公布其预测，代理的真实标签被揭示。我们提供两种新算法，
PDF3 months ago
IBD：通过图像偏置解码减轻大型视觉语言模型中的幻觉
本研究提出了一种新颖的图像偏置解码技术，以对抗引起幻觉的过度依赖文本的问题，并通过综合统计分析验证了该方法的可靠性，通过自适应调整策略在不同条件下实现了强大灵活的处理能力。实验证明，在不需要额外训练数据且仅有模型参数的微小增加情况下，我们的
PDF4 months ago
利用局部内在维度表征大型语言模型生成的真实性
我们研究了如何表征和预测由大型语言模型生成的文本的真实性，这在人类与语言模型之间建立信任的过程中起着关键作用。通过对四个问答数据集进行实验，我们提出的方法通过研究内部激活和量化语言模型激活的本地内在维度（LID）来证明其有效性。此外，我们还
PDF4 months ago
TruthX: 在真实空间中编辑大型语言模型以减轻幻觉
TruthX 通过编辑语言模型内部表达的真实空间，有效提高了 13 个先进语言模型在 TruthfulQA 基准测试上的真实性表现，平均提升了 20%。进一步分析表明，TruthX 获取的真实空间在控制语言模型产生真实或幻觉性回答中发挥了关
PDF4 months ago
理解迭代提示对真实性的影响
大语言模型的发展已经明显改变了许多领域，提供了令人印象深刻的文本生成能力，然而模型的可靠性和真实性仍然是令人担忧的问题。为了解决这个问题，我们研究了迭代提示的方法，这被假设能够完善大语言模型的回答，并评估其对模型真实性的影响，这是一个尚未被
PDF5 months ago
GRATH: 大型语言模型渐进式自我真实化
通过利用 GRAdual self-truTHifying (GRATH) 方法，不需要注释答案，仅使用问题提示和优化模型来提高大型语言模型的真实性，结果表明 GRATH 在 TruthfulQA 上取得了最先进的性能。
PDF5 months ago
AAAI面向大型语言模型的多尺度真实性通过干预而无需调整
通过使用多维正交探针揭示隐藏的真实表示，Truth Forest 方法在大型语言模型中增强真实性，减少产生错觉，以及通过随机查看在序列内改进真实特征的生成，这种方法将 Llama-2-7B 在 TruthfulQA 数据集上的真实性从 40
PDF6 months ago
EMNLP认知失调：为何语言模型输出与内部真实性表征不一致？
神经语言模型可用于评估事实陈述的真实性，工作发现查询与探测过程有时存在不一致性，故探测更为准确，且存在三种不一致类别：编造、欺骗和异质性。
PDF7 months ago
关于自我纠正和语言模型信任的交叉问题
通过探索大型语言模型的自我纠正能力，研究发现自我纠正能够提升大型语言模型的可信度和真实性，但这种改进程度会根据可信度的具体方面和任务的性质而有所不同，并发现大型语言模型在自我纠正过程中存在自我怀疑的实例，带来了一系列需要解决的新挑战。
PDF8 months ago
人物角色作为建模语言模型真实性的方法
大规模语言模型可以通过建模具有真实性特征的个体来聚类真实文本，并利用数据中的分层结构来学习抽象概念，从而扩展对真实与虚假信息的区分能力。
PDF8 months ago
超越文字：多模态训练提升语言模型在真实性和伦理方面的能力
多模态大型语言模型（MLLMs）训练基于大型语言模型（LLM），具备理解多模态输入和生成文本响应的增强能力。本研究表明，视觉指导调整在纯自然语言处理（NLP）环境中意外且有趣地帮助模型实现了改进的真实性和道德一致性。
PDF10 months ago
鉴真伪：通过高效参数模块操作进行模型缺陷遗忘
通过整合 “专家” 和 “反专家” 参数，我们提出了一种称为 “Ext-Sub” 的参数有效模块操作方法，以提高大型语言模型的真实性和去毒性，并在保留通用能力的同时提取和消除 “反专家” 参数内的缺陷能力。通过对语言模型和数学推理等额外能力
PDFa year ago
新闻验证者对决：ChatGPT 3.5、ChatGPT 4.0、Bing AI、Bard 在新闻事实核查中的比较表现评估
本文评估了开放 AI 的 ChatGPT 3.5 和 4.0、谷歌的 Bard (LaMDA) 和微软的 Bing AI 等主要大型语言模型在使用黑箱测试区分新闻真伪方面的精通程度。研究发现，这些模型在真伪辨别方面的平均得分为 65.25，
PDFa year ago
推理时干预：从语言模型中引出真实答案
介绍了一种名为 Inference-Time Intervention 的技术，它通过在有限数量的注意头上遵循一组指南，在推理期间改变模型的激活来提高大型语言模型的真实性，该技术在 TruthfulQA 基准测试中显著提高了 LLaMA 模
PDFa year ago
LLM 内在状态知道自己在撒谎
介绍了一种基于大型语言模型的 “激活函数值” 的真实性检测方法，进一步提高了文本可靠性和实际应用价值。
PDFa year ago
ACLTruthfulQA：衡量模型模仿人类错误的程度
提出了一种 benchmark 以衡量语言模型在生成答案时是否真实，测试了 GPT-3、GPT-Neo/J、GPT-2 和基于 T5 的模型，发现最好的模型能够在 58％的问题上保持真实，建议使用不同于模仿网页文本的训练目标来进行微调以提高
PDF3 years ago