- 大型语言模型的社会规范测量
我们提出了一个新的挑战,以检验大型语言模型是否理解社会规范。我们的数据集需要对社会规范有基本的理解才能解决,它包含了 402 种社会规范技能和 12,383 个问题,涵盖了从意见和争论到文化和法律的广泛社会规范。我们根据 K-12 课程设计 - 基于大规模语言模型的代理社群中社会规范的出现
我们提出了一个名为 CRSEC 的建模代理架构,能够在大型基于语言模型的代理人群体中产生社会规范,通过 Creation&Representation、Spreading、Evaluation 和 Compliance 四个模块处理社会规范 - 社会规范的转变作为语言变革的驱动力:德国联邦议院中有关语言和性别的斗争
本文研究了基于社会规范转变而导致的语言变化,特别关注语言与性别的辩论。通过对德国联邦议院中的语言和性别问题进行分析,文章揭示了语言和性别在议院中是一个长期存在的议题,并讨论了此前的语言争端对当前有关性别包容性语言的激烈辩论的影响。
- 演化社会规范中的代理对齐
基于大型语言模型的代理人在人类生产和生活的各个领域中日益普及,本研究提出一种名为 EvolutionaryAgent 的代理人进化与对齐的演化框架,将代理人对齐转化为适者生存的进化选择过程,实验证明 EvolutionaryAgent 能在 - EMNLPNormDial: 用于建模社会规范遵守与违规的可比较双语合成对话数据集
社会规范对人际交往产生根本性的影响。本研究介绍了 NormDial,一个高质量的双向对话数据集,其中具有中美文化中社会规范的每个交互回合的注释。通过引入社会规范遵守检测任务,我们使用人机协同流程使用少量由专家注释的社会规范提示大型语言模型在 - 改进社交机器人导航的强化学习训练方式
自主移动机器人在人类空间中导航必须遵守社会规范。本研究提出了一种使用课程学习来改善强化学习社交导航方法的泛化性能的方法。通过使用多种环境类型和多种动力学模型对行人进行建模,逐步增加训练的多样性和难度。研究结果表明,与之前的训练方法相比,使用 - 值得信赖的 LLM:评估大型语言模型的对齐性的调查和指南
为了确保大型语言模型在实际应用中与人类意图保持一致,本研究介绍了对 LLM 值得信赖性进行评估时需要考虑的关键维度,包括对 LLM 的可靠性、安全性、公平性、抵抗滥用性、可解释性和推理性、遵守社会规范以及鲁棒性进行调查研究。通过对几个广泛使 - 朝着具有社交能力和文化适应能力的人工智能代理:表达顺序、交互干扰和恢复策略
通过分类功能和社交干扰以及探讨机器人架构的要求,本文旨在为人工智能代理提供处理不同类型交互干扰的能力,以实现在多方社交情境和用户个性化之外,对于为人工代理赋予社交能力的扩展。
- 通过情境对齐和可解释的文本蕴涵比较社会文化规范的相似与不同
基于环境学习的描述性社会规范模型构建方法,探索中美两国社会规范文化差异,构建对齐社会情境下 3,069 个高质量社会规范的数据集,并提出可检验社会规范蕴含的任务,从而证明现有模型在自动和人类评估方面均有提升空间。
- SIGIRSocialDial: 一个用于社交感知对话系统的基准测试
本文提出了第一个基于中国社会文化的社交感知对话语料库 - SocialDial,使用 ChatGPT 生成了 4,870 段数据,并评估了使用 BERT 和 RoBERTa 等预训练模型的数据集。
- 神经符号常识社会推理
本研究介绍了一种利用神经符号定理证明器将自然语言中的社交经验法则转换成一阶逻辑,从而进行逻辑推理,并通过一种新的算法生成抽象意义表示法(AMR)的替代简化版本,以增加对不同文本措辞和不正确 AMR 解析的稳健性。该系统在社交化学 101 个 - SG-LSTM: 社交群组 LSTM 用于机器人在密集人群中的导航
本研究开发了一个模型用于预测人群和人群之间的交互,在拥挤的环境下使用 SG-LSTM 模型以更准确地预测轨迹,同时提供一个标记了行人组的大型视频数据集。
- 数据视角统一和个性化:社会规范应用
本文针对社交媒体上的冲突话题,研究了如何利用个性化方法对 13k 个标注者进行标注,比较了该方法在预测社交规范感知方面的有效性,并对不同关系下的社会情境的性能进行了分析。
- 了解人际冲突类型及其对感知分类的影响
通过建立新的注释方案并发布新数据集,我们构建了一个分类器来预测个体在特定情境中对行为的观感是否正确,并研究了人与作者之间关系对冲突内容的影响,这对于理解冲突和社交规范具有重要意义。
- 分工的出现通过分散社会制裁实现
人类生态成功的关键在于我们特有的能力,即灵活自组织成协作社会群体,而社会规范的引入可以使个体通过分担某些关键角色并获得奖励,从而形成对分工的共同协作和理解。
- 通过自然语言教学学习规范
本文介绍和演示了一种从自然语言文本中学习社会规范的计算方法,包括什么是正常和什么是规范的区别,为普通人培训 AI 系统有关社会规范提供了基础。
- MORAL:通过多目标强化主动学习将人工智能与人类规范对齐
我们提出了多目标强化主动学习 (Multi-Objective Reinforced Active Learning, MORAL) 方法,通过维护标量化权重的分布,交互式地调整深度强化学习代理向各种偏好的方向发展,从而将社会规范的不同展示 - 在去中心化多智能体环境中,通过公共制裁获取社会规范的学习代理
基于社会规范的存在及其制约效应,本文提出构建一种社会学习动态系统,利用所有规范事件以培训代理人,并包含分类器和惩罚动机等模块,从而实现多代理人系统中的集体行动和实现对于社会利益有益的结果。
- EMNLP社交化学 101:学会理解社会与道德规范
社交规范是了解人物行为背后动机的关键;Social Chemistry 是一种新的正式概念体系,能够研究人们日常社交规范和道德判断,Social-Chem-101 是一个大规模的数据集,包含 292k 个使用自然语言描述的生活情境中的粗略规 - MMDeepMoTIon: 学习像人类一样导航
该研究介绍了一种新的人类感知式导航方法,其中机器人通过学习模仿人类在人群中安全导航。通过使用 DeepMoTIon 模型,该系统通过 LiDAR 扫描处理并预测人类行为,实现导航目标的达成,同时保证了系统遵循社交规范,且无一异常情况。