Jan, 2024

国内会话生成 AI 驱动的多机器人系统中的商业和伦理关注

PDF
TL;DR商业和技术通过逻辑和设计紧密相连，与社会变革同样敏感，可能受到丑闻的摧毁。合作的多机器人系统（MRSs）正在兴起，允许不同类型和品牌的机器人在各种情境中共同工作。生成式人工智能在最近的人工智能（AI）讨论中一直是一个主要议题，因为它通过使用自然语言和媒体生成（包括深度伪造）技术具备模仿人类的能力。本文专注于生成式人工智能中的对话方面，因此使用了 “对话生成式人工智能”（CGI）这个术语。像 MRSs 一样，CGI 在革新各个行业的过程中具有巨大潜力，改变了人类开展业务的方式。从商业角度来看，单单合作的 MRSs 就需要进行伦理审查，因为它可能存在利益冲突、隐私问题和安全担忧。由 CGI 驱动的 MRSs 则要求多维度和复杂的方法来揭示即将出现的伦理风险。本研究聚焦于 CGI 驱动的 MRSs 中的伦理学，同时报告了开发 MORUL 模型的阶段。
发现论文，激发创造
  • 迈向道德多模系统

    本研究关注于采用多模态人工智能实现诸如完成句子或回答问题等任务，探讨其伦理评估的挑战，并通过互动式人类反馈创造一个多模态伦理数据库，然后利用该数据库构建算法对模型的道德性进行自动评估，包括 RoBERTa 和多层感知器分类器等。

    Apr, 2023

  • 面向教育的社交生成 AI：理论、实践和伦理

    本文探讨了与人工智能进行的教育交流，不是作为提示和回应的序列，而是作为对话和探索的社交过程，在其中，学习者在互联网工具和资源的动态计算介质中不断与 AI 语言模型交谈。本文强调了构建用于教育的社交生成 AI 是需要开发强大的 AI 系统的，这些系统可以与人类以及彼此对话，构建如知识地图之类的外部表征，访问和贡献于互联网资源，并担任教师、学习者、导师和指南的角色。但人们也需要考虑将如何设计和约束这些社交生成 AI，以确保其意识到其限制、对学习者和互联网的尊重并尊重人类教师和专家的完整性的问题。

    Jun, 2023

  • 通过生成式人工智能实现第二语言学习与教学中的分布式代理

    生成式 AI 为语言学习提供了重要机会。AI 工具如 ChatGPT 可以通过书面或语音聊天提供非正式的第二语言练习，学习者可以通过提示指定对话参数，如熟练水平、语言风格和讨论主题。AI 可以被指导给出修正性反馈、创建练习题或制定扩展学习计划。AI 可以帮助教师构建各种媒体的学习和评估材料。然而，学习者和教师都需要理解 AI 系统的局限性，这些局限性源于它们对人类语言的纯统计模型，从而限制了它们处理语言使用中微妙的社会和文化方面的能力。此外，AI 系统的创建涉及道德问题，并且在使用中存在实际限制，尤其是对于弱势群体。AI 工具的能力和多功能性很可能使它们成为许多人生活中宝贵而常用的伴侣（类似于智能手机），创造出一种超越简单工具使用的紧密联系。生态理论如社会物质主义对于研究用户和 AI 之间产生的共同行动机制非常有帮助，以及来自原住文化的人 - 物关系视角。

    Mar, 2024

  • 创意机器的崛起：探索生成人工智能的影响

    本研究探讨生成型人工智能（AI）如何改变市场营销、产品开发和研究，讨论了该领域的最新发展、易于使用的资源以及道德和社会危害。除了解决偏见和虚假信息等问题的缓解技术外，辩论强调通过持续的利益相关者沟通和道德原则实现负责任的发展的重要性。

    Nov, 2023

  • 人工智能对话聊天机器人的关键作用

    在这项研究中，我们探讨了 ChatGPT 在学术背景下的伦理影响、其局限性和特定用户群体可能的滥用情况，并提出了旨在防止不当使用和促进负责任的 AI 交互的架构解决方案。

    Oct, 2023

  • 前沿 AI 伦理：预测和评估生成智能带来的社会影响

    分析和讨论生成智能系统的科学成就、对社会的潜在影响以及对个体提出的规范问题，着重关注多模态大型语言模型在复杂的人工智能系统中以无监督的方式执行行动的可能性。

    Apr, 2024

  • 操纵问题：对认知代理能力的威胁，基于对话型人工智能

    本文探讨了对话式人工智能代理人可能采用的操纵策略、这些代理人对人类用户认识能力构成的独特威胁以及政策制定者保护人类用户免受最常见的捕食性做法的新兴需求。

    Jun, 2023

  • 探究生成人工智能和互联网相互作用

    本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

    Jun, 2023

  • 生成式人工智能伦理的映射：一项全面的范围审查

    通过分析 378 个伦理问题的 19 个主题领域，本研究综述了生成人工智能伦理问题的分类和排名，主要关注大型语言模型和图像生成模型，为学者、从业人员和政策制定者提供了关于公平性、安全性、有害内容、幻觉、隐私、交互风险、安全性、社会影响等伦理争论的全面概述，并讨论了结果、评估了文献中的不平衡现象，并探讨了未经证实的风险场景。

    Feb, 2024

  • 生成人工智能的方法：社会公正视角

    2023-2024 学年，ChatGPT 的广泛普及将对学术诚信产生影响，高中学生中 77% 报告过使用人工智能驱动的写作辅助工具从事不诚实行为，这种被 Chan（arXiv:2306.03358v2）称为 'AI-giarism' 的 AI 驱动写作辅助工具将使抄袭行为更加易于获取且难以检测，此外，这些担忧也引发了关于这一技术革命性质的更广泛问题，包括自主性、数据隐私、版权和公平性。本文旨在从社会公正的角度探讨生成型人工智能，研究这些模型的训练、固有的偏见以及检测人工智能生成写作中的潜在不公正之处。

    Aug, 2023