Jul, 2023

揭示 ChatGPT 的安全、隐私和道德关切

PDF
TL;DR该研究论述了 ChatGPT，这是一个利用主题建模和强化学习生成自然回复的人工智能聊天机器人。通过探索从 GPT-1 到 GPT-4 的升级路径，讨论模型的特点、局限性和潜在应用，该研究旨在揭示将 ChatGPT 融入我们日常生活中可能存在的安全、隐私和伦理问题，并分析这些领域的开放问题，呼吁共同努力确保安全和道德无可争议的大型语言模型的发展。
chatgpttopic modelingreinforcement learningsecurityprivacy
发现论文，激发创造
  • ChatGPT 的伦理：关注、挑战和规则

    本文探讨了人工智能语言模型 ChatGPT 的伦理问题，重点是偏见和隐私方面的考虑，并提出与 ChatGPT 相关的各方实践准则以促进其伦理使用。

    May, 2023

  • 探索 ChatGPT 的安全风险：超越安全措施

    本文旨在提供有关 ChatGPT 的安全风险的概述，包括恶意文本和代码生成、私人数据披露、诈骗服务、信息收集和生成不道德内容等。我们进行了一项实证研究，检验了 ChatGPT 内容过滤器的有效性，并探讨了绕过这些保护措施的潜在方式，展示了即使当有保护措施时，LLMs 仍存在的伦理和安全风险。基于对安全风险的定性分析，我们讨论了应对这些风险的潜在策略，并向研究人员、决策者和行业专业人员提供有关像 ChatGPT 这样的 LLMs 所面临的复杂安全挑战的信息。本研究对 LLMs 的伦理和安全影响的持续讨论做出了贡献，强调了在此领域需要继续进行研究的必要性。

    May, 2023

  • 聊天 GPT 和新学术现实：AI 撰写的研究论文及大型语言模型在学术出版中的伦理道德

    本文讨论 OpenAIs ChatGPT，一种用于文本型用户请求（即聊天机器人）的生成式预训练转换器。讨论了 ChatGPT 及类似模型背后的历史和原则，以及其对学术界和学术研究出版的潜在影响。ChatGPT 被认为是自动准备论文和其他类型学术手稿的潜在模型。此外，还讨论了可能出现的潜在伦理问题，并将其置于人工智能、机器学习和自然语言处理的更广泛进展的背景之下。

    Mar, 2023

  • 探索 ChatGPT 的人工智能伦理：一项诊断分析

    通过对 OpenAI 的 ChatGPT 进行定性研究，发现大规模语言模型的伦理风险主要包括偏见性和毒性，当前的基准测试无法解决这些问题，为了避免语言模型应用中出现伦理风险，需要制定可靠的基准测试和实施设计。

    Jan, 2023

  • 探索 ChatGPT 及其对社会的影响

    ChatGPT 是一种基于 Transformer 架构的大型语言模型，能够在对话环境中生成类似人类的回答。它具有广泛的应用领域，但也引发了伦理和社会等方面的担忧。本文概述了 ChatGPT 的架构和训练过程，并提出了一些技术、监管、教育和伦理等方面的建议，以最大化其益处并尽量减少负面影响。

    Feb, 2024

  • 从 ChatGPT 到 ThreatGPT：生成式人工智能在网络安全与隐私中的影响

    本论文研究了生成 AI 模型的漏洞与潜在威胁，并讨论了社会、法律和伦理方面的影响，提出了防御技术和道德准则，并探讨了未来的研究方向。

    Jul, 2023

  • ChatGPT 在教育、市场营销、软件工程和医疗保健中的应用综述：优点、缺点和研究方向

    本文探讨了深度学习算法生成人工响应的 ChatGPT 型艺术智能语言模型的可能应用、局限以及未来的研究方向。

    Apr, 2023

  • 与 ChatGPT 对话：技术，应用和限制

    本文探讨了一种人工智能聊天机器人 ChatGPT，它可以生成类似人类的句子并撰写连贯的文章，并强调了它在医疗、教育和研究等不同领域的潜在应用，同时指出了与 ChatGPT 相关的隐私和伦理问题、重要局限和 ChatGPT 的观点和回答。

    Feb, 2023

  • ChatGPT 公众关切的问题？一种新颖的自我监督神经主题模型告诉你

    通过自监督神经主题模型（SSTM）挖掘公众对 ChatGPT 的关注，实验证明该方法能提取质量更高、可解释性更好、多样性更强的公众关切，超越了现有方法的性能。

    Sep, 2023

  • ChatGPT 在高等教育中的伦理影响：一项范围审查

    这篇论文探讨了在高等教育领域使用 ChatGPT 所面临的伦理挑战，并使用 Arksey 和 O'Malley 的研究框架，结合 DeepMind 的伦理问题框架，通过分析相关研究，明确了 AI 在教育中的六个主要伦理问题，强调了信息错误和人机交互方面的危害，并呼吁教育工作者开展更多的实证研究以制定可靠的伦理政策。

    Nov, 2023