misinformation | BriefGPT - AI 论文速递

关键词misinformation

搜索结果 - 224

支持者与怀疑者：基于 LLM 的视频分享平台心理健康（误）信息内容交流分析
在美国，五分之一的成年人患有精神疾病。由于精神健康专业人士和离线资源短缺，在线短视频内容成为传播精神健康帮助和资源的关键渠道。然而，内容创作和获取的便利性也导致了错误信息的传播，对准确诊断和治疗构成风险。检测和了解与此类内容的互动对于减轻其
PDF4 days ago
训练事实验证器的方法：多模态开放模型的知识传递
通过知识传递策略，可以提高模型性能，从而有效验证消息的真实性，扩大网络警察机制的规模，减轻虚假和有害内容的传播。
PDF7 days ago
Inception: 高效可计算的马尔可夫博弈虚假信息攻击
研究马尔可夫博弈中信息不对称和错误信息导致的安全威胁，通过考虑一名攻击者玩家散布关于其奖励函数的错误信息来影响受害者玩家的行为，我们推导了在最坏情况理性下受害者的策略，并提出了基于线性规划和反向归纳的多项式时间算法来计算攻击者的最优最坏情况
PDF12 days ago
探测人工智能生成的文本：当前方法中影响可检测性的因素
大语言模型（LLM）已经发展到一个即使是人类也很难分辨文本是否由其他人类或计算机生成的程度。本文概述了现有的 AI 生成文本（AIGT）检测方法，包括水印、统计和风格分析以及机器学习分类，并提供了有关该任务的现有数据集的信息。总结研究结果，
PDF15 days ago
评估 ChatGPT 生成的好、坏和丑陋的论证：一个新的数据集、方法论和相关任务
本论文介绍了一种从 ChatGPT 生成的论述性文章中提取好的、坏的和丑陋的论点的方法，并描述了一个包含多样化论证的新颖数据集 ArGPT。我们评估了数据集的有效性并为几个与论述相关的任务建立了基线。最后，我们展示人工生成的数据与人类论证之
PDF15 days ago
检测人工智能生成图像的双输入神经模型的开发
通过引入傅里叶频率分解和双分支神经网络架构，我们提出了一种可以检测人工智能生成图像的工具，有效解决了在道德层面上区分真实图像和虚假图像的难题，达到了与一些最先进的架构相当的性能。
PDF17 days ago
CrAM：RAG 中用于对抗虚假信息的信誉感知注意修正
通过引用外部文档，检索增强生成（RAG）可以缓解大型语言模型（LLMs）的错觉。然而，外部文档中的错误信息可能会误导 LLMs 的生成。为了解决这个问题，我们探索了 “可信度感知 RAG” 的任务，其中 LLMs 根据文档的可信度自动调整检
PDF19 days ago
剖析 COVID-19 社交媒体帖子中激励 / 导致接种疫苗的干扰因素
COVID-19 疫情暴露了医疗信息系统的重大弱点，社交媒体上的大量错误信息和其他社会经济因素给人们带来了特殊的挑战，本研究通过分析两年时间内收集的大量数据，针对 COVID-19 疫苗的公众动机话题进行了研究，观察到动机话题随时间和地理位
PDF21 days ago
ACL通过合成对比论证的检索增强事实验证
通过对比论证综合检索增强的事实验证 (RAFTS) 方法能有效检索相关文档作为证据，并从不同角度评估论证，结合信息丰富的上下文示例作为先验，能在没有复杂提示的情况下显著改善受监督和 LLB 基线，且在相对较小的 LLB 上表现超过基于 GP
PDF22 days ago
学习域不变特征进行上下文外新闻检测
提出了一种基于对比学习和最大均值差异的测试时间自适应的 Contrastive Domain Adaptation with Test-Time Adaptation (ConDA-TTA) 方法，用于多模态脱离上下文新闻检测问题，实验证明
PDF25 days ago
带有软逻辑正则化的可解释多模态脱离语境检测
通过使用逻辑正则化方法对文本的短语级别进行预测，我们提出了一种用于检测上下文错误的逻辑正则化方法（LOGRAN），该方法在解释性和结果准确性方面表现出竞争力，提高了对虚假信息的检测和理解能力。
PDFa month ago
ACL关键词引导下的混乱：揭示大型语言模型对误导性关键词的追随行为并评估防御策略
本研究探讨了大型语言模型（LLMs）的阿谀奉承倾向，这些模型往往会给出与用户所期望的回答相吻合的答案，即使它们并不完全正确。我们通过对多个 LLMs 进行实证分析，展示了这些模型在面对具有误导性的关键词时可能放大误导信息的潜在危险。此外，我
PDFa month ago
大型语言模型中的气候虚假信息去除
气候变化的误导信息是解决人类面临的最严重威胁之一的关键障碍，本文研究了大型语言模型在气候信息方面的事实准确性。通过使用真假标记的问答数据对语言模型进行微调和评估，比较了开源模型，并评估它们对气候变化问题生成真实回答的能力。我们还研究了故意注
PDFa month ago
ACL利用共识观点定制疫苗信息传递
通过个性化聊天机器人与读者建立共同语言的方式，本文研究了在疫苗担忧和错误信息领域建立共识的重要性。通过针对读者的观点和信念进行回应的方式，本文介绍了 TAILOR-CGO 数据集，评估了多个主要 LM 模型在这一任务上的表现，并提供了针对
PDF2 months ago
在气候错误信息中检测谬误：技术认知方法用于识别误导性论证
气候变化的错误信息是一个复杂的社会问题，在技术和心理学交叉领域需要综合性、跨学科的解决方案，本研究提出了一种 “技术认知” 方法，将心理学和计算机科学研究综合起来，通过解构气候变化的错误信息进行分类，培训模型以检测这些错误信息中的谬误。
PDF2 months ago
MM网络评论中的辩论反对策略：分类模式的构建与训练验证
该研究对社交媒体上的有害言论进行了内容分析，发现人们在回应有害言论时采用了多种语言策略，其中声誉攻击是最常见的。该研究为表达反对意见提供了综合视角，并探讨了阻止冒犯性或有问题言论的基层努力。
PDF2 months ago
ViWikiFC: 基于越南维基百科的文本知识事实核查源
通过构建 ViWikiFC，我们首次为越南维基百科建立了一个手动注释的开放领域语料库，其中收录了超过 20K 个索证句，经由从维基百科文章提取的证据句生成。我们分析了我们的语料库的各个语言方面，包括新的依赖率、新的 n-gram 率和新的词
PDF2 months ago
能否通过虚构模型减少人类的 “幻觉”？
利用心理测量评估，本研究探讨了大型语言模型（LLMs）在检测常见逻辑陷阱方面与普通人的能力。通过对人类理性与 LLMs 的对比，提出了利用 LLMs 来对抗误解的方法，结合认知失调理论和详细性可能性理论等心理学模型。通过这一努力，凸显了 L
PDF2 months ago
大型语言模型用于假新闻检测
在当前数字化时代，社交平台上虚假信息的快速传播对社会福祉、公众信任和民主进程产生了重大挑战，影响着重要决策和公众舆论。为了应对这些挑战，自动化的虚假新闻检测机制的需求日益增长。本研究引入了 FactAgent，一种以主体性方式利用大型语言模
PDF2 months ago
SIGIRFactCheck Editor: 多语言文本编辑器具备端到端事实核查功能
FactCheck Editor 是一种先进的文本编辑器，旨在自动化事实核查和纠正事实错误。它支持超过 90 种语言，利用 Transformer 模型来协助人类进行劳动密集型的事实验证过程。该演示展示了一个完整的工作流程，检测需要验证的文
PDF2 months ago