Sep, 2024

人工智能生成新闻的披露增加了参与度，但尽管质量评价积极，仍未减少厌恶感

HTML
PDF
TL;DR本研究探讨了公众对人工智能（AI）生成内容的看法，特别是AI与人工生成新闻之间的感知质量差异。研究发现，无论文章作者是AI还是人类，公众对文章质量的评价相当；然而，披露AI参与生成的信息提高了文章的即时参与度，但并未减少读者对未来AI生成新闻的厌恶感，这揭示了AI在新闻媒体使用中的复杂性。
发现论文，激发创造
  • 人工智能在事实核实方面无效且有潜在危害

    人工智能模型在事实检查任务中表现出令人印象深刻的能力，但该研究发现，AI事实检查在一些特定情况下会对人们的信念和新闻共享意图造成有害影响，这凸显出了AI应用潜在危害性并强调了预防或减轻此类意外后果的政策的重要性。

    Aug, 2023

  • 您信任ChatGPT吗？——人工智能生成内容与人类创作内容的可信度认知

    研究表明，不管用户界面版本如何，参与者倾向于将人类作者和由大型语言模型生成的内容归于相似的可信度水平。他们对于人工智能生成的内容并不认为其能力和可靠性有所不同，但评价人工智能生成的内容更加清晰和吸引人。本研究的发现呼吁在评估信息来源时更加谨慎，并鼓励用户在接触由人工智能系统生成的内容时保持警惕和批判性思维。

    Sep, 2023

  • AI生成内容的偏见：对大型语言模型所产生新闻的研究

    调查了七种代表性大型语言模型生成的AI生成内容的性别和种族偏见，研究发现每个语言模型生成的内容存在明显的性别和种族偏见，其中ChatGPT生成的内容偏见最低且能够拒绝产生带有偏见的内容。

    Sep, 2023

  • 利用LLM的力量：从新闻标题生成的角度评估人工智能文本协同创作

    探索人类如何最好地利用LLMs进行写作，以及与这些模型交互对写作过程中的所有权感和信任感的影响，我们比较了在LLM辅助的新闻标题生成背景下的常见人工智能与人类交互类型（例如，引导系统、从系统输出中选择、后编辑输出）。虽然LLMs单独可以生成令人满意的新闻标题，但平均而言，需要人类对不符合要求的模型输出进行修正。在交互方法中，引导和选择模型输出带来了最大的利益，成本最低（时间和精力）。此外，与自由编辑相比，人工智能辅助对参与者对控制感的认知没有造成伤害。

    Oct, 2023

  • 源信息披露对AI生成的信息评估的影响：一项双部分研究

    人工智能的进展、ChatGPT、信息来源披露、防止吸烟的信息传达和对人工智能的负面态度在影响信息评估和选择方面发挥作用。

    Nov, 2023

  • 跨国人工生成媒体的人类检测代表性研究

    AI生成的媒体对我们所知的数字社会构成威胁。与技术进步相比，人们对生成媒体的感知尚未得到彻底研究。本文通过针对音频、图像和文本媒体跨三个国家（美国、德国和中国）的3,002位参与者进行全面的调查，结果显示，最先进的赝品几乎无法与“真实”媒体区分，大多数参与者在被要求评价时只是猜测它们是人工生成的还是机器生成的。此外，AI生成的媒体在所有媒体类型和所有国家中更容易被误认为是人类产生的。为了进一步了解影响人们对生成媒体检测能力的因素，本文根据对deepfake和虚假新闻研究领域的文献综述，包括个人变量。通过回归分析，我们发现广义信任、认知反思和自报熟悉程度等个人变量显著影响参与者在所有媒体类别中的决策。

    Dec, 2023

  • 利用大型语言模型和逼真的机器人账号激励社交媒体平台上的新闻消费

    检验如何在真实环境中提高用户接触和参与经过验证和意识形态平衡的新闻，以增强他们对政治事务的关注和对品质新闻的认同。

    Mar, 2024

  • 街坊里的影响力人物：误导信息创造者如何使用智能AI

    鉴于生成式人工智能（GenAI）的进展引发了对检测和区分人工生成内容和人类生成内容的关注，本研究通过2022年至2023年的纵向民族志研究发现，GenAI支持拼凑工作，即非专家越来越多地使用GenAI来重新混合、重新包装和（重新）生成内容以满足他们的个人需求和欲望。本研究得出了四个主要发现：首先，参与者主要使用GenAI进行创作，而不是寻求真相。其次，传播“影响力百万富翁”叙事推动参与者成为内容创作者，使用GenAI作为生产工具来生成大量（通常是误导性的）内容。第三，GenAI降低了跨模态内容创作的门槛，吸引消费者成为创作者并显著增加现有创作者的产出。最后，参与者使用GenAI学习和使用营销策略来扩大参与度并将其内容商品化。我们主张将分析焦点从将公众视为AI内容的消费者转向将他们视为创作工者，他们在很大程度上无需了解其基础技术。我们分析了这些较少研究的GenAI新兴用途如何产生新的或加速的误导危害，并探讨了它们对AI产品、平台和政策的影响。

    May, 2024

  • 突发新闻：生成人工智能在新闻报道中的案例研究

    记者在使用大型语言模型（LLMs）时存在与AI的互动，而研究揭示了记者如何向LLM提供敏感材料并以有限的干预发表机器生成的文章，因此呼吁进一步探讨AI的负责任使用以及在新闻环境中使用LLMs的明确准则和最佳实践。

    Jun, 2024

  • 记者、情感与生成式人工智能聊天机器人引入的影响：ChatGPT发布前后的推文大规模分析

    本研究针对生成式人工智能的影响，探讨了记者对ChatGPT发布时的情感反应。通过分析近100万条美国主要新闻机构记者的推文，发现ChatGPT推出后，记者的积极情绪和语调显著上升，表明他们对人工智能潜力的初步乐观。本研究强调了记者在技术创新解读中的关键角色，并揭示了他们的情感反应可能如何影响公众对新兴技术的叙述。

    Sep, 2024