Jun, 2024

人工智能生成语言中的标准语言意识形态

PDF
TL;DR研究中探讨了大型语言模型（LLMs）生成的语言中标准语言意识形态的反映和加强，提出了与 AI 生成语言中标准语言意识形态相关的问题，并介绍了标准 AI 生成语言意识形态的概念。同时，讨论了仍然存在的问题和生成 AI 工具模仿不同英语语言变体的优缺点，将标准语言意识形态视为现有全球权力结构在 AI 生成语言中的表现，并呼吁探索替代性、更解放性的数字未来。
standard language ideologylarge language modelsai-generated languagelinguistic biasgenerative ai tools
发现论文，激发创造
  • 大规模语言模型的软意识形态通过 AI 自我意识

    GPT 软意识使人工智能能够理解预期的意识形态，并生成用于注入大型语言模型意识形态的微调数据，相比传统的政府意识形态操控技术，如信息审查，LLM 意识形态化具有易实施、低成本和高效的优势，但也存在潜在风险。

    Sep, 2023

  • 结构类似语言模型：将人工智能作为自动化主体进行分析

    本文基于精神分析学和批判性媒体研究的资源，将大型语言模型（LLMs）作为自动化主体进行分析，并通过这种方式对 AI 行为进行分析，包括其对偏见和伤害的产生。我们介绍了语言模型的重要性和风险，并通过与 OpenAI 的 InstructGPT 进行探索性访谈来作为案例研究。我们的研究发现，这些自动化的语言产生可以引起人的注意，产生进一步的反移情转移。因此，我们得出结论，批判性媒体方法和精神分析理论共同为我们理解由 AI 驱动的语言系统新的强大智能提供了一种有益的视角。

    Dec, 2022

  • 生成型人工智能和大型语言模型的全球学术指南概览

    本研究通过系统调查、基于文本挖掘的全球和国家指南、独立研究以及八十所大学层面的指导，提供了对教育中生成式人工智能（GAI）和大型语言模型（LLMs）的机会和挑战进行细致的理解。研究强调了在这些技术的整合过程中平衡方法的重要性，以 harness 利用其技术优势的同时，考虑伦理问题，并确保公平的获取和教育结果。最后，本文提出了促进负责任创新和道德实践，指导将 GAI 和 LLMs 整合到学术中的建议。

    May, 2024

  • 语言生成中的社会偏见：进展与挑战

    通过调查，我们着重讨论了语言生成中社会偏见的数据和技术对偏见的影响及降低偏见的进展，并进行了实验来量化解码技术的影响，提出了语言生成应用公平和包容性考虑的重要性。

    May, 2021

  • 从字节到偏见：研究大型语言模型的文化自我认知

    这项研究通过从 GLOBE 项目获取的价值问题激发 ChatGPT（OpenAI）和 Bard（Google）来探讨了大型语言模型的文化自我认知，结果显示它们与英语国家和经济竞争力强的国家的价值观最为相似。认识到大型语言模型的文化偏见并理解它们的工作方式对社会中的所有人都非常重要，因为我们不希望人工智能的黑盒子延续偏见，使人类在无意中创造和训练更加带有偏见的算法。

    Dec, 2023

  • 自由放任的危害：生成式语言模型中的算法偏差

    通过开放式提示，我们发现模型产生的文本在描绘边缘群体的身份时存在错误、隐含和刻板印象的问题，这些问题可能导致心理伤害和认知能力下降。

    Apr, 2024

  • 大语言模型对意识形态操控的易感性研究

    大型语言模型（LLMs）可能对公众对信息的认知和互动产生重大影响，因此需要对其内部思想意识是否可以轻易操纵引起关注。本研究探讨了 LLMs 在指导训练数据中学习和推广意识形态偏见的效果，并揭示了令人担忧的脆弱性：仅接触少量的思想倾向样本就会明显改变 LLMs 的思想意识，尤为显著的是，LLMs 展示了吸收一个主题的意识形态，并将其普遍应用于其他无关主题的惊人能力。LLMs 思想意识易受到恶意操作者故意操纵训练数据或数据标注者无意引入的偏见的风险，这强调了采取强有力的安全措施以减轻意识形态操纵对 LLMs 影响的重要性。

    Feb, 2024

  • 人类启发式 在 AI 语言生成中的局限性

    人类对 AI 产生的虚假言论的辨别能力不足，该文讨论了造成这一现象的原因，并提出了解决方案。

    Jun, 2022

  • 语言迷宫：对 AI 话语中使用的术语进行建设性批评

    人工智能领域的术语问题成为一个重要的议题，本文通过分析人工智能辩论的核心概念，提出更贴切的术语，以促进更有成果的讨论。

    Jul, 2023

  • 生成人工智能伤害的心理社会影响

    该研究探讨引起关注的生成式语言模型在教育领域可能产生的心理社会危害，分析了与学生课堂互动相关的 15 万个 100 字的故事中生成式语言模型所产生的角色人口统计学和再现伤害，强调了生成式人工智能工具在多样化社会环境中部署和使用时对于具有边缘化和少数族裔身份的用户体验可能产生的心理社会影响的重要性。

    May, 2024