Nov, 2023

ChatGPT 在高等教育中的潜在社会偏见：一项范围审视

PDF
TL;DR对 ChatGPT 和其他生成人工智能模型（GAI）存在的潜在偏见在高等教育机构（HEIs）中的应用进行了伦理问题的讨论和相关研究的范围审查，结果表明，虽然存在对大型语言模型（LLMs）和 GAI 的潜在偏见的意识，但多数文章只在表面上接触到 “偏见” 问题，很少有人明确指出在什么情况下会发生何种偏见，并且也未对其对高等教育、教职员工或学生可能产生的影响进行讨论。因此，我们呼吁高等教育研究人员和人工智能专家在这个领域进行更多的研究。
chatgptgenerative artificial intelligencebiaseshigher educationpotential biases
发现论文，激发创造
  • ChatGPT 在高等教育中的伦理影响：一项范围审查

    这篇论文探讨了在高等教育领域使用 ChatGPT 所面临的伦理挑战，并使用 Arksey 和 O'Malley 的研究框架，结合 DeepMind 的伦理问题框架，通过分析相关研究，明确了 AI 在教育中的六个主要伦理问题，强调了信息错误和人机交互方面的危害，并呼吁教育工作者开展更多的实证研究以制定可靠的伦理政策。

    Nov, 2023

  • 学习的演变：评估生成性人工智能对高等教育的深远影响

    研究论文探讨了生成人工智能（GAI）模型，如 ChatGPT，对大学生和高等教育机构的影响，采用综合调查和情景分析的混合方法，结果表明当前技术在学术上的使用对学生取得学业目标有积极帮助，但是技术的不负责任和过度使用可能会带来重大挑战，因此高等教育机构需要制定严格的政策、重新评估学习目标、提升讲师能力、调整课程并重新考虑考试方式。

    Apr, 2024

  • ChatGPT 的偏见是否应存在？大型语言模型中存在的偏见挑战和风险

    本文探讨大规模语言模型（如 ChatGPT）中固有偏见的挑战和风险，讨论其起源、伦理问题、缓解偏见的潜在机会、在虚拟助手、内容生成功能和聊天机器人中部署这些模型的意义以及如何鉴别、量化和缓解语言模型中的偏见，强调了需要跨学科的合作来开发更公正、透明和负责任的人工智能系统。

    Apr, 2023

  • 透过大学的政策、资源和准则看 ChatGPT

    调查美国大学关于在教育中使用 ChatGPT 的学术政策和指南，发现大多数大学对生成式人工智能的整合持开放但谨慎的态度，并表达了他们对道德使用、准确性和数据隐私的担忧，提供了各种资源和指南，包括教学大纲模板 / 样本，研讨会和讨论，共享文章和一对一咨询，重点关注一般技术介绍、道德关注、教学应用、预防策略、数据隐私、限制和探测工具。

    Dec, 2023

  • 高等教育中生成式人工智能：学生感知、益处和挑战之声

    本研究探讨了大学生对生成式人工智能 (GenAI) 技术（例如 ChatGPT）在高等教育中的看法，关注对技术的熟悉程度、参与意愿、潜在好处和挑战以及有效整合。从对香港来自不同学科的 399 名本科生和研究生的调查结果显示，学生普遍对利用 GenAI 进行教学和学习持积极态度。学生们认识到个性化学习支持、写作和头脑风暴的辅助以及研究和分析能力的潜力。然而，他们也表达了对准确性、隐私、伦理问题以及对个人发展、职业前景和社会价值的影响的关注。根据 John Biggs 的 3P 模型，学生的看法显著影响学习方法和成果。通过了解学生的看法，教育工作者和政策制定者可以量身定制 GenAI 技术，以解决需求和关注点，同时促进有效的学习成果。本研究的发现可以指导有关将 GenAI 技术集成到高等教育中的政策制定。通过了解学生的看法并解决他们的关注点，政策制定者可以制定明智的指南和策略，以负责任且有效地实施 GenAI 工具，从而增强高等教育的教学和学习体验。

    Apr, 2023

  • ChatGPT 与更多：在教育领域的生成式人工智能革命

    该调查研究了生成性人工智能模型在教育领域的潜在应用和影响，并就教育环境中的实际应用、挑战和新兴趋势进行了综合和严格的评估，旨在为人工智能与教育之间的关系作出贡献。

    Nov, 2023

  • 生成型人工智能的社会影响：ChatGPT 分析

    该论文采用一种方法来研究生成式 AI 工具对社会的影响，主要关注 ChatGPT 这一案例，评估其对社会各个领域的潜在影响，并阐述综合文献回顾的研究结果，包括正面效应、负面效应、新兴趋势和机遇领域，该分析旨在提供深入讨论的见解，从而激励政策、规范和负责任的发展实践，促进以人为中心的人工智能。

    Mar, 2024

  • AI 和 ChatGPT 在教育中的应用、挑战和伦理问题

    人工智能及 ChatGPT 的应用在教育中的机遇与挑战以及伦理问题。

    Jan, 2024

  • 高等教育中的生成人工智能：机构政策和指南分析的证据

    通过研究 116 所美国高研活跃度大学产生的文件，全面了解高校为机构相关利益相关者提供的关于生成人工智能的建议与指导。基于我们的研究发现，大多数高校鼓励使用生成人工智能，并提供了详细指导，尤其是在课堂中的使用。然而，要注意的是，该研究建议教师指导的指南可能会加重其工作负担，因为往往需要对教学方法进行广泛的修订。

    Jan, 2024

  • 聊天 GPT 和新学术现实：AI 撰写的研究论文及大型语言模型在学术出版中的伦理道德

    本文讨论 OpenAIs ChatGPT，一种用于文本型用户请求（即聊天机器人）的生成式预训练转换器。讨论了 ChatGPT 及类似模型背后的历史和原则，以及其对学术界和学术研究出版的潜在影响。ChatGPT 被认为是自动准备论文和其他类型学术手稿的潜在模型。此外，还讨论了可能出现的潜在伦理问题，并将其置于人工智能、机器学习和自然语言处理的更广泛进展的背景之下。

    Mar, 2023