Oct, 2022

在算法虚假信息检测中应对意外情况：迈向负责任创新议程

PDF
TL;DR本文基于社会科学和数据科学的交叉领域，探讨了机器学习在应对在线谣言方面的正反两方面影响，剖析了机器学习模型开发中的算法特征，提出了未来的发展方向和对于算法的条理性和责任性。
machine learningmisinformationdata scienceresponsible innovationalgorithmic contingencies
发现论文，激发创造
  • 困境工具包：去偏见和公平公式以实现负责任的 AI/ML

    本文探讨公平和道德人工智能的方法，引入了一组三部分的决策工具包，涉及公正 AI / ML 的相关问题，并主张采用特定的推理和创造性的方法去解决负责任的算法 / 数据驱动系统面临的各种问题。

    Mar, 2023

  • 内容审查中的算法任意性

    机器学习在在线内容管理中广泛使用，但其引入了预测多样性等挑战，该研究旨在分析” 预测多样性 “如何影响内容管理工具的分类结果、社会群体的不平等影响以及与人工分类的对比，结果表明算法扩展的内容管理存在着过度管理人权的风险，为了减轻这些风险，需要通过增加透明度来识别和监管内容管理的任意性。

    Feb, 2024

  • 误信息检测系统中的公正性分析：算法、利益相关者和潜在危害分析

    通过信息正义的概念，建立一个关于算法公正性的框架，以揭示误导信息检测流程包含的公正问题及其潜在风险，并提供审核算法公正性的设计概念性指导。

    Apr, 2022

  • 机器学习中的信任和安全挑战：一项关于虚假信息检测的案例研究

    机器学习在信任与安全问题中的应用存在研究和实践之间的脱节，以误信息检测为案例研究，我们系统化了 270 篇领域内有广泛引用的文献，并对其中的数据和代码可用性、设计失误、可重现性和普适性进行了检查。我们发现文献中存在显著的不足之处，对所声称的性能和实用性提出了质疑。检测任务往往与在线服务面临的挑战有实质性区别。数据集和模型评估往往不代表现实世界环境，评估通常也与模型训练不独立。数据和代码的可用性较差，模型在领域外的数据上泛化效果不佳。基于这些结果，我们提出了评估解决信任与安全问题的机器学习应用的建议，希望未来的研究能避免我们所识别的问题。

    Aug, 2023

  • 一个半监督框架用于虚假信息检测

    使用半监督学习框架来解决极度类别不平衡的问题，并使用实际数据扩充少数类别，该方法在处理社交媒体中极不平衡的发布单元时比 SMOTE、ADASYN、GAN 等其他方法效果显著提高，尤其在相关的 Covid 数据上初步测试表明有效性。

    Apr, 2023

  • 高级机器学习技术用于假新闻（在线虚假言论）检测：系统性综述研究

    本研究旨在分析目前假新闻检测技术的应用现状，探讨解决方案并指出智能系统在检测错误信息源方面的应用方向，同时提出挑战和方法上的空白以激励未来研究。

    Dec, 2020

  • 大型语言模型对误导性污染的风险

    本文研究了现代大型语言模型的潜在滥用问题，并探讨其对信息密集型应用的影响，特别是对开放式问题回答系统。我们建立了一个威胁模型，模拟了可能的滥用场景，证明了大型语言模型可以作为有效的错误信息产生器，导致开放式问题回答系统的性能显著降低。为了减轻大型语言模型生成的错误信息带来的危害，我们探索了三种防御策略：提示、错误信息检测和多数投票。尽管最初的结果显示这些防御策略具有有利趋势，但仍需要更多的工作来解决错误信息污染的挑战。我们的工作强调了进一步研究和跨学科合作的必要性，以应对大型语言模型生成的错误信息，促进大型语言模型的负责任使用。

    May, 2023

  • 人与机器协作的虚假信息检测：立场、情感，还是其他什么？

    该论文研究了如何利用情感分析、面向方面的情感分析和立场检测等机器学习技术以开发部分自动化的虚假新闻检测系统，并使用 COVID-19 散布虚假信息的四个数据集来测试这些技术的有效性

    Nov, 2021

  • 机器学习中的相互关系、责任和鲁棒性：算法社会中的问责

    通过重温 Nissenbaum 文章中关于计算机化对责任追究带来的挑战，结合最新的关于关系型责任追究框架的研究，探讨了数据驱动算法系统所面临的困难，并讨论了削弱这些困难的方法。

    Feb, 2022

  • 大型语言模型能否检测科学新闻报道中的错误信息？

    使用大型语言模型检测科学报道中的虚假信息，针对缺乏明确标签的情况，提出了多种基于大型语言模型的基准架构和提示方法，包括零样本、少样本和连贯思维提示等。

    Feb, 2024