使用 ChatGPT 开发高级网络钓鱼攻击并自动化大规模部署的可能性。通过 ChatGPT 生成网络钓鱼攻击的各个部分，包括克隆目标网站、集成窃取凭证的代码、混淆代码、自动化网站部署、注册网络钓鱼域名并与反向代理集成。初步评估自动生成的网络钓鱼套件突出了其快速生成和部署过程，以及产生页面与目标网站的极高相似性。广泛来说，我们展示了人工智能的最新进展突显其在网络钓鱼攻击中被滥用的潜在风险，这可能导致网络钓鱼的普遍性和严重性不断增加。这凸显了在人工智能系统中加强对策的必要性。

Sep, 2023

本文发现可以利用 ChatGPT 生成的恶意提示来生成钓鱼网站，并发现这些钓鱼网站可以模仿流行品牌并模拟几种逃避反钓鱼实体检测的策略，而无需使用先前的对抗性操作（越狱）。

May, 2023

本研究的主要目的是提供 ChatGPT 检测的最新技术的全面评估，同时我们评估了其他 AI 生成的文本检测工具，以检测 ChatGPT 生成的内容。此外，我们还创建了一个基准数据集用于评估各种技术在检测 ChatGPT 生成内容方面的性能。研究结果表明，现有方法都不能有效地检测 ChatGPT 生成的内容。

Apr, 2023

本研究旨在探究智能 AI 写作机器人 ChatGPT 生成的学术论文内容的原创性，并使用两种常用的抄袭检测工具评估了 ChatGPT 生成的 50 篇论文的独创性。结果表明，ChatGPT 在许多主题上具有高度的原创性，并有潜力生成具有复杂文本输出能力的内容，而传统的抄袭检测工具不易检测到这些内容。同时，本文还讨论了 AI 技术对教育的影响和机构需要采取适当措施来缓解潜在的抄袭问题。

Feb, 2023

本论文通过提出 AbuseGPT 方法展示了现有生成式人工智能聊天机器人服务如何被攻击者利用在现实世界中创建短信网络钓鱼文本，最终导致更加狡猾的短信网络钓鱼活动，并探讨了一些未来的研究方向和指导方针来保护生成式人工智能服务的滥用以及保护用户免受短信网络钓鱼攻击。

Feb, 2024

生成人工智能，尤其是像 OpenAI 流行的 ChatGPT 这样的工具正在重塑计算机科学研究的领域。本文提供了对 ChatGPT 和其他生成人工智能技术在计算机科学学术研究中多样应用的探索，提出使用生成人工智能来提高计算机科学研究科学家的工作效率的建议，重点是撰写新的研究论文。我们强调了创新性应用，如头脑风暴研究想法，辅助学术论文的起草和格式化，以及协助综述文献。此外，我们深入探讨了在理解跨学科方法、简化复杂文本以及推荐适合学术期刊发表方面应用这些技术的可能性。我们还着重讨论了生成人工智能在合成数据创建、研究方法论和指导以及任务组织和文章质量评估方面的贡献。本文还讨论了人工智能在文章审查、适应文本长度限制、构建对立观点和调查开发方面的实用性。此外，我们探讨了这些工具在传播观念、生成图像和音频、文本转录和与编辑人员互动方面的能力。我们还描述了一些不推荐在计算机科学研究中使用生成人工智能的用途，主要是由于该技术的局限性。

Nov, 2023

该研究探讨了 ChatGPT 与加密货币欺诈之间的复杂相互作用，展示了通过操纵 ChatGPT 提示来影响结果、绕过道德条款并实现特定欺诈目标的方法，强调了对于初学者欺诈者来说 ChatGPT 可能是有价值的指导者，以及在密码货币欺诈的背景下理解、安全地使用复杂语言模型的重要性，同时指出在数字货币领域负责任和道德使用 LLMs 的重要性，以识别潜在风险并解决道德问题。

Jun, 2024

本文探讨了使用 ChatGPT 作为生成 AI 所引起的道德问题，并基于人性化的人工智能（HCAI）框架提出了应对方法。使用 HCAI 框架来确保可靠、安全、值得信赖的人工智能，以减轻 ChatGPT 的误用或滥用，并推荐最佳使用（创意写作，非创意写作，教学和学习）。同时，强调了个体和社会福利的重要性。

Apr, 2023

本文探讨了深度学习算法生成人工响应的 ChatGPT 型艺术智能语言模型的可能应用、局限以及未来的研究方向。

Apr, 2023

本文采用定量方法，展示 ChatGPT 在回答涉及本科计算机科学课程相关主题的不同类型的问题时高度不可靠，揭示学生盲目依赖 ChatGPT 完成作业和考试可能面临自我破坏。同时提出对学生和教师的建设性建议。

Apr, 2023