泛人工智能与人类的互动达到了前所未有的规模，为巨大的积极影响提供了新途径，但也引发了广泛关注，担忧其对个体和社会可能造成的伤害。本文中，我们认为，对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推动交互走向不同结果来实现。为此，我们设想了从控制论到人类中心的人工智能安全的快速增长能力之间的高价值契机，为未来几十年的人类中心人工智能安全奠定了新基础。
May, 2024
使用神经生成模型构建 COGnitive Neural GENerative 系统，以优化变分自由能函数，并探讨其在认知科学中的应用。
Oct, 2023
生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。
Aug, 2023
基于强化学习方法和计算创造力的不同研究流派，本文提出了一个三重引导 - 响应 - 奖励工程框架，以提高生成人工智能（GenAI）的创造能力。该框架包括了引导模型、响应模型和奖励模型，通过开发创造性的引导、生成出令人惊喜和创新性的输出，并结合 AI、创作者 / 管理者和客户的反馈，逐步提高生成人工智能的创造力。
通过生成对抗网络和角色设计相结合的协同创作框架，本研究开发了一个标记数据集并使用不同的生成对抗网络进行评估，证实了该框架的价值，并阐明了生成的概念如何以多样的方式与设计师的能力相互作用，影响构思新角色的创造过程。
Nov, 2023
本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。
Jun, 2023
通过引入生成循环反馈，本文在卷积神经网络上实现了一种用于保证自我一致性的框架，并在标准基准测试中展示了 CNN-F 相对于传统前馈 CNN 的显着提高的对抗性鲁棒性。
Jul, 2020
本文探讨了与人工智能进行的教育交流，不是作为提示和回应的序列，而是作为对话和探索的社交过程，在其中，学习者在互联网工具和资源的动态计算介质中不断与 AI 语言模型交谈。本文强调了构建用于教育的社交生成 AI 是需要开发强大的 AI 系统的，这些系统可以与人类以及彼此对话，构建如知识地图之类的外部表征，访问和贡献于互联网资源，并担任教师、学习者、导师和指南的角色。但人们也需要考虑将如何设计和约束这些社交生成 AI，以确保其意识到其限制、对学习者和互联网的尊重并尊重人类教师和专家的完整性的问题。
本文通过人类创造力文献的启示，探索生成人工智能系统中新奇和实用之间的最佳平衡，提出了包括领域特定分析、数据和迁移学习、用户喜好和定制、自定义评估指标和协作机制在内的框架，旨在在特定领域内生成既新颖又有用的内容。
通过实施 Dual Governance 框架，我们认为可以促进创新和创造力，同时确保生成 AI 的安全和道德部署。