misinformation | BriefGPT - AI 论文速递

关键词misinformation

搜索结果 - 221

Inception: 高效可计算的马尔可夫博弈虚假信息攻击
研究马尔可夫博弈中信息不对称和错误信息导致的安全威胁，通过考虑一名攻击者玩家散布关于其奖励函数的错误信息来影响受害者玩家的行为，我们推导了在最坏情况理性下受害者的策略，并提出了基于线性规划和反向归纳的多项式时间算法来计算攻击者的最优最坏情况
PDF8 days ago
探测人工智能生成的文本：当前方法中影响可检测性的因素
大语言模型（LLM）已经发展到一个即使是人类也很难分辨文本是否由其他人类或计算机生成的程度。本文概述了现有的 AI 生成文本（AIGT）检测方法，包括水印、统计和风格分析以及机器学习分类，并提供了有关该任务的现有数据集的信息。总结研究结果，
PDF11 days ago
评估 ChatGPT 生成的好、坏和丑陋的论证：一个新的数据集、方法论和相关任务
本论文介绍了一种从 ChatGPT 生成的论述性文章中提取好的、坏的和丑陋的论点的方法，并描述了一个包含多样化论证的新颖数据集 ArGPT。我们评估了数据集的有效性并为几个与论述相关的任务建立了基线。最后，我们展示人工生成的数据与人类论证之
PDF11 days ago
检测人工智能生成图像的双输入神经模型的开发
通过引入傅里叶频率分解和双分支神经网络架构，我们提出了一种可以检测人工智能生成图像的工具，有效解决了在道德层面上区分真实图像和虚假图像的难题，达到了与一些最先进的架构相当的性能。
PDF13 days ago
CrAM：RAG 中用于对抗虚假信息的信誉感知注意修正
通过引用外部文档，检索增强生成（RAG）可以缓解大型语言模型（LLMs）的错觉。然而，外部文档中的错误信息可能会误导 LLMs 的生成。为了解决这个问题，我们探索了 “可信度感知 RAG” 的任务，其中 LLMs 根据文档的可信度自动调整检
PDF15 days ago
ACL通过合成对比论证的检索增强事实验证
通过对比论证综合检索增强的事实验证 (RAFTS) 方法能有效检索相关文档作为证据，并从不同角度评估论证，结合信息丰富的上下文示例作为先验，能在没有复杂提示的情况下显著改善受监督和 LLB 基线，且在相对较小的 LLB 上表现超过基于 GP
PDF18 days ago
学习域不变特征进行上下文外新闻检测
提出了一种基于对比学习和最大均值差异的测试时间自适应的 Contrastive Domain Adaptation with Test-Time Adaptation (ConDA-TTA) 方法，用于多模态脱离上下文新闻检测问题，实验证明
PDF21 days ago
带有软逻辑正则化的可解释多模态脱离语境检测
通过使用逻辑正则化方法对文本的短语级别进行预测，我们提出了一种用于检测上下文错误的逻辑正则化方法（LOGRAN），该方法在解释性和结果准确性方面表现出竞争力，提高了对虚假信息的检测和理解能力。
PDF25 days ago
ACL关键词引导下的混乱：揭示大型语言模型对误导性关键词的追随行为并评估防御策略
本研究探讨了大型语言模型（LLMs）的阿谀奉承倾向，这些模型往往会给出与用户所期望的回答相吻合的答案，即使它们并不完全正确。我们通过对多个 LLMs 进行实证分析，展示了这些模型在面对具有误导性的关键词时可能放大误导信息的潜在危险。此外，我
PDFa month ago
大型语言模型中的气候虚假信息去除
气候变化的误导信息是解决人类面临的最严重威胁之一的关键障碍，本文研究了大型语言模型在气候信息方面的事实准确性。通过使用真假标记的问答数据对语言模型进行微调和评估，比较了开源模型，并评估它们对气候变化问题生成真实回答的能力。我们还研究了故意注
PDFa month ago
ACL利用共识观点定制疫苗信息传递
通过个性化聊天机器人与读者建立共同语言的方式，本文研究了在疫苗担忧和错误信息领域建立共识的重要性。通过针对读者的观点和信念进行回应的方式，本文介绍了 TAILOR-CGO 数据集，评估了多个主要 LM 模型在这一任务上的表现，并提供了针对
PDFa month ago
在气候错误信息中检测谬误：技术认知方法用于识别误导性论证
气候变化的错误信息是一个复杂的社会问题，在技术和心理学交叉领域需要综合性、跨学科的解决方案，本研究提出了一种 “技术认知” 方法，将心理学和计算机科学研究综合起来，通过解构气候变化的错误信息进行分类，培训模型以检测这些错误信息中的谬误。
PDF2 months ago
MM网络评论中的辩论反对策略：分类模式的构建与训练验证
该研究对社交媒体上的有害言论进行了内容分析，发现人们在回应有害言论时采用了多种语言策略，其中声誉攻击是最常见的。该研究为表达反对意见提供了综合视角，并探讨了阻止冒犯性或有问题言论的基层努力。
PDF2 months ago
ViWikiFC: 基于越南维基百科的文本知识事实核查源
通过构建 ViWikiFC，我们首次为越南维基百科建立了一个手动注释的开放领域语料库，其中收录了超过 20K 个索证句，经由从维基百科文章提取的证据句生成。我们分析了我们的语料库的各个语言方面，包括新的依赖率、新的 n-gram 率和新的词
PDF2 months ago
能否通过虚构模型减少人类的 “幻觉”？
利用心理测量评估，本研究探讨了大型语言模型（LLMs）在检测常见逻辑陷阱方面与普通人的能力。通过对人类理性与 LLMs 的对比，提出了利用 LLMs 来对抗误解的方法，结合认知失调理论和详细性可能性理论等心理学模型。通过这一努力，凸显了 L
PDF2 months ago
大型语言模型用于假新闻检测
在当前数字化时代，社交平台上虚假信息的快速传播对社会福祉、公众信任和民主进程产生了重大挑战，影响着重要决策和公众舆论。为了应对这些挑战，自动化的虚假新闻检测机制的需求日益增长。本研究引入了 FactAgent，一种以主体性方式利用大型语言模
PDF2 months ago
SIGIRFactCheck Editor: 多语言文本编辑器具备端到端事实核查功能
FactCheck Editor 是一种先进的文本编辑器，旨在自动化事实核查和纠正事实错误。它支持超过 90 种语言，利用 Transformer 模型来协助人类进行劳动密集型的事实验证过程。该演示展示了一个完整的工作流程，检测需要验证的文
PDF2 months ago
社交媒体中分类人工生成和 AI 生成的选举主张
我们提出了一种用于分类选举相关言论的新颖分类体系，介绍了一个基于人工智能生成的推文数据集和机器学习模型来区分人类和人工智能生成的帖子，并识别特定的大型语言模型变体。
PDF2 months ago
回音室内部：推特信息误导的语言基础
社交媒体用户通过分享包含错误信息的帖子或对有争议的话题发表无根据的论点来推动在线上的错误信息传播，在回声室中，由同质性和信息传播中的偏见推动，用户的观点通过与志同道合的同伴重复交互得到加强，本研究探讨了如何通过语言使用来调解围绕错误信息的对
PDF2 months ago
增强型 CARDS：一种用于在 Twitter 上识别气候变化错误信息触发器的机器学习方法
应对气候变化的自动化检测引发了关于气候变化的错误信息传播以及对社会福利构成了重大威胁的紧迫需求，本研究通过开发了一个两步骤的层次模型 —— 增强 CARDS 模型，专门用于检测推特上的气候异议观点，然后将其应用于 2022 年的六个月内的五
PDF2 months ago