May, 2023

NormBank：一种关于情境社会规范的知识库

PDF
TL;DRNormBank 是一种包含 155k 个情境规范的知识库，旨在为交互式、辅助式和协作式 AI 系统提供灵活的规范推理基础，通过包含多价社会文化框架来激发推理，其中包括场景、角色和其他物理、社会和文化限制；NormBank 还包含 63k 个唯一约束，并通过不同的组合来构建社会规范，而这些规范是非单调的，可以通过微调其框架来取消推理。
发现论文，激发创造
  • 社交化学 101：学会理解社会与道德规范

    社交规范是了解人物行为背后动机的关键；Social Chemistry 是一种新的正式概念体系，能够研究人们日常社交规范和道德判断，Social-Chem-101 是一个大规模的数据集，包含 292k 个使用自然语言描述的生活情境中的粗略规则，Neural Norm Transformer 是一种新型神经网络模型，能够成功推理先前未见过的情况，生成相关的社交规则。

    Nov, 2020

  • 通过自然语言教学学习规范

    本文介绍和演示了一种从自然语言文本中学习社会规范的计算方法，包括什么是正常和什么是规范的区别，为普通人培训 AI 系统有关社会规范提供了基础。

    Jan, 2022

  • 道德故事：关于规范、意图、行动及其后果的情境推理

    探究自然语言生成模型作为行为先验条件用于社交环境中行为的假设生成，结合 Moral Stories 数据集研究并提出解码策略，通过综合专家模型实现优质行为生成、后果和规范生成。

    Dec, 2020

  • 数据视角统一和个性化：社会规范应用

    本文针对社交媒体上的冲突话题，研究了如何利用个性化方法对 13k 个标注者进行标注，比较了该方法在预测社交规范感知方面的有效性，并对不同关系下的社会情境的性能进行了分析。

    Oct, 2022

  • RENOVI: 一个解决社会文化对话中规范违反的基准

    推广 Norm 违规疗法，ReNoVi 是一个大规模对话语料库，包含 9258 个带有社会规范标注的多轮对话，以及定义了一系列任务，以逐步理解和纠正违规行为，从而使交互式 AI 系统具备疗法能力。

    Feb, 2024

  • 通过马尔可夫博弈中的贝叶斯规则归纳来学习和维持共享规范系统

    学习智能体可以通过假设存在共享的规范来推断现有人群的规范，进而实现学习与社会合作。该研究在马尔可夫博弈的环境中形式化了这一框架，并通过近似贝叶斯规则归纳来展示了多智能体环境中的操作，使智能体能够快速学习和维持各种合作制度，包括资源管理规范和对亲社会劳动的补偿，推动集体福利同时允许智能体保持自身利益。

    Feb, 2024

  • 学习机器人的归属关系与规范

    本文提出了一种机器人系统，它可以代表、学习和推理所有权关系和规范，通过一系列的模拟和现实世界的实验，展示了该系统在执行需要遵循各种规范的物品操纵任务时的能力和灵活性，并为将来研究社会规范的获取和应用奠定基础。

    Dec, 2018

  • 大型语言模型的社会规范测量

    我们提出了一个新的挑战，以检验大型语言模型是否理解社会规范。我们的数据集需要对社会规范有基本的理解才能解决，它包含了 402 种社会规范技能和 12,383 个问题，涵盖了从意见和争论到文化和法律的广泛社会规范。我们根据 K-12 课程设计了数据集，使得能够直接将大型语言模型的社会理解与人类，特别是小学生进行比较。尽管先前的研究在我们提出的基准测试上几乎随机准确，但最近的大型语言模型如 GPT3.5-Turbo 和 LLaMA2-Chat 能够显著提高性能，仅稍微低于人类的表现。然后，我们提出了一种基于大型语言模型的多智能体框架，以提高模型理解社会规范的能力。这种方法进一步改进了大型语言模型与人类的水平相当。考虑到大型语言模型在现实应用中的日益普及，我们的发现尤为重要，为未来的改进提供了独特的方向。

    Apr, 2024

  • 通过情境对齐和可解释的文本蕴涵比较社会文化规范的相似与不同

    基于环境学习的描述性社会规范模型构建方法，探索中美两国社会规范文化差异，构建对齐社会情境下 3,069 个高质量社会规范的数据集，并提出可检验社会规范蕴含的任务，从而证明现有模型在自动和人类评估方面均有提升空间。

    May, 2023

  • 利用循环神经网络进行社交规范对话中的多模式识别

    本研究探讨了自动识别社交规范违规现象的任务，提出了一种预测模型，使用循环神经网络和多模态信息实现社交规范违规现象的标识，从而达到了 0.705 的 F1 分数，同时讨论了开发社交感知代理的工作的影响。

    Oct, 2016