Jul, 2023

ChatGPT, 生成式人工智能和自然语言大模型用于问责报告和使用的指南的开发

HTML
PDF
TL;DRChatGPT, Generative Artificial Intelligence, and Natural Large Language Models for Accountable Reporting and Use Guidelines (CANGARU) initiative aims to establish consensus and guidelines for the ethical use, disclosure, and reporting of Generative AI, Generative Pre-trained Transformers, and large language models in academia.
发现论文，激发创造
  • 探索ChatGPT的人工智能伦理：一项诊断分析

    通过对 OpenAI 的 ChatGPT 进行定性研究，发现大规模语言模型的伦理风险主要包括偏见性和毒性，当前的基准测试无法解决这些问题，为了避免语言模型应用中出现伦理风险，需要制定可靠的基准测试和实施设计。

    Jan, 2023

  • 聊天GPT和新学术现实：AI撰写的研究论文及大型语言模型在学术出版中的伦理道德

    本文讨论OpenAIs ChatGPT，一种用于文本型用户请求（即聊天机器人）的生成式预训练转换器。讨论了ChatGPT及类似模型背后的历史和原则，以及其对学术界和学术研究出版的潜在影响。ChatGPT被认为是自动准备论文和其他类型学术手稿的潜在模型。此外，还讨论了可能出现的潜在伦理问题，并将其置于人工智能、机器学习和自然语言处理的更广泛进展的背景之下。

    Mar, 2023

  • ChatGPT 时代的科学：大语言模型和人工智能带来的挑战及应对方法

    本文回顾了人工智能中的哲学挑战、伦理和完整性风险，探讨了AI语言模型作为研究工具和研究主题的作用及其对科学家、参与者和评审人的伦理影响，并给出了十个建议以对更负责任的AI语言模型研究进行回应。

    May, 2023

  • ChatGPT在生成式人工智能和大型语言模型时代的简明调查

    ChatGPT是OpenAI创建的一种大型语言模型(LLM)，通过大量数据的精心训练，推动了自然语言处理(NLP)的发展，并拓展了LLM的能力边界。本文主要目标是对ChatGPT及其演变的当前研究方向进行简明概述，提供了基于玻璃盒和黑盒观点的综合分析。此概述也揭示了LLM和GAI领域的现有和缺失研究方向，有益于公众用户和开发人员。

    Jul, 2023

  • 医疗领域中的生成人工智能：伦理考虑和评估清单

    通过系统的范围性评估现有医疗研究，我们揭示了当前关于生成式人工智能的道德讨论中存在的漏洞，并提出了一个伦理检查清单，用于全面评估和透明记录生成式人工智能发展中的伦理讨论。这一清单可以被快速整合到目前的同行评审和出版系统中，以增强生成式人工智能研究，在更广泛的场景中，它也可用于披露生成式人工智能产品（或这些产品的实际应用）中与伦理有关的考虑，以帮助用户建立对其能力的合理信任。

    Nov, 2023

  • ChatGPT 在高等教育中的伦理影响：一项范围审查

    这篇论文探讨了在高等教育领域使用ChatGPT所面临的伦理挑战，并使用Arksey和O'Malley的研究框架，结合DeepMind的伦理问题框架，通过分析相关研究，明确了AI在教育中的六个主要伦理问题，强调了信息错误和人机交互方面的危害，并呼吁教育工作者开展更多的实证研究以制定可靠的伦理政策。

    Nov, 2023

  • ChatGPT在高等教育中的潜在社会偏见：一项范围审视

    对ChatGPT和其他生成人工智能模型（GAI）存在的潜在偏见在高等教育机构（HEIs）中的应用进行了伦理问题的讨论和相关研究的范围审查，结果表明，虽然存在对大型语言模型（LLMs）和GAI的潜在偏见的意识，但多数文章只在表面上接触到“偏见”问题，很少有人明确指出在什么情况下会发生何种偏见，并且也未对其对高等教育、教职员工或学生可能产生的影响进行讨论。因此，我们呼吁高等教育研究人员和人工智能专家在这个领域进行更多的研究。

    Nov, 2023

  • 构建科学研究中生成型人工智能的道德准则

    发展分析和缓解策略，提供了一个初始框架来理解模型限制、尊重隐私、保密和版权、避免抄袭和政策违规、确保应用程序提供整体利益，并透明可重现地使用人工智能，以保护研究的完整性。

    Jan, 2024

  • 生成式人工智能伦理的映射：一项全面的范围审查

    通过分析378个伦理问题的19个主题领域，本研究综述了生成人工智能伦理问题的分类和排名，主要关注大型语言模型和图像生成模型，为学者、从业人员和政策制定者提供了关于公平性、安全性、有害内容、幻觉、隐私、交互风险、安全性、社会影响等伦理争论的全面概述，并讨论了结果、评估了文献中的不平衡现象，并探讨了未经证实的风险场景。

    Feb, 2024

  • 生成型人工智能和大型语言模型的全球学术指南概览

    本研究通过系统调查、基于文本挖掘的全球和国家指南、独立研究以及八十所大学层面的指导，提供了对教育中生成式人工智能（GAI）和大型语言模型（LLMs）的机会和挑战进行细致的理解。研究强调了在这些技术的整合过程中平衡方法的重要性，以 harness 利用其技术优势的同时，考虑伦理问题，并确保公平的获取和教育结果。最后，本文提出了促进负责任创新和道德实践，指导将GAI和LLMs整合到学术中的建议。

    May, 2024