协同过滤捕捉 AI 用户的偏好作为规范

Aug, 2023

协同过滤捕捉 AI 用户的偏好作为规范

Collaborative filtering to capture AI user's preferences as norms

Serramia Marc, Criado Natalia, Luck Michael

TL;DR个性化 AI 技术的定制对其良好运行至关重要，当前的方法需要太多用户参与，无法真正捕捉其偏好。我们认为需要一种新的视角来构建规范，利用整个用户系统中大量可用的偏好信息，启发于推荐系统，我们相信协同过滤可以提供一种适合的方法来识别用户的规范偏好，避免过多用户参与。

Abstract

Customising ai technologies to each user's preferences is fundamental to them functioning well. Unfortunately, current methods require too much user involvement and fail to capture their true preferences. In fact, to avoid the nuisance of manually setting preferences, users usually acc

ai technologies user preferences norms collaborative filtering user involvement

发现论文，激发创造

智能设备隐私偏好的规范预测

本研究提出了一种基于协同过滤的方法来预测用户隐私偏好，以此帮助智能设备更好地遵守用户的隐私政策，并通过测试智能助手用户的隐私偏好数据集来验证该方法的准确性。

Feb, 2023

利用隐私配置授权数字社会用户

通过收集健身数据集，进行相关的实证研究，并基于研究结果实现了建议系统，从而帮助用户更好地理解他们的隐私设置，从而更好地保护个人身份信息和表达个人伦理偏好，并实现了较高的准确性。

Apr, 2022

社会契约 AI：将 AI 助理与隐含的团体规范进行一致化

模拟框架中，研究通过反转模型来对齐 AI 助手与用户的偏好，并发现 AI 助手在经济最终决策游戏中能够准确对齐行为，但其学习的策略在未包含的情况下缺乏稳健性和普适性，并且发现语言使用与未知策略之间存在不一致时，学习策略的速度会减慢。

Oct, 2023

通过自然语言教学学习规范

本文介绍和演示了一种从自然语言文本中学习社会规范的计算方法，包括什么是正常和什么是规范的区别，为普通人培训 AI 系统有关社会规范提供了基础。

Jan, 2022

塑造 AI 的新规范

人工智能的快速发展对新规范形成过程构成了前所未有的挑战，本文探讨了围绕人工智能形成新规范的可能关键问题，研究中央集权或分散化规范形成过程的不同情景，并报告了与 ChatGPT 的对话中观察到的一些新兴规范，旨在提供解读工具以了解社会对人工智能不断渗透的反应，并强调了开放社会在形成未来社会规范时将其正式论述过程锚定在开放、包容和透明的公众讨论中的重要性。

Jul, 2023

数据视角统一和个性化：社会规范应用

本文针对社交媒体上的冲突话题，研究了如何利用个性化方法对 13k 个标注者进行标注，比较了该方法在预测社交规范感知方面的有效性，并对不同关系下的社会情境的性能进行了分析。

Oct, 2022

认识到偏好变化的重要性：呼吁在人工智能时代进行协调的跨学科研究努力

本文提出成立跨学科组织，聚焦于理解 AI 系统对个体决策偏好的影响，运用各学科概念对偏好进行操作化，提出偏好变化的框架，并明确了可接受的和不可接受的变化。

Mar, 2022

用户建模与用户画像：综述

这篇综述论文详细论述了用户建模和个人资料研究领域的现状、发展趋势和未来发展方向，并提出了一个包含最新动态的新颖分类系统。研究表明，用户建模方法正在向更复杂的个人资料建立方法转变，强调隐式数据收集、多行为建模以及图数据结构的整合。此外，研究还探讨了用户建模在假新闻检测、网络安全和个性化教育等领域的应用。该综述为研究人员和实践者提供了全面的资源，旨在对用户建模和个人资料的发展提供深入洞察，指导更加个性化、道德和有效的人工智能系统的发展。

Feb, 2024

推荐系统中解决偏好操纵问题需要了解元偏好

该论文提出，针对推荐系统中的偏好操纵问题，必须考虑到某些元偏好（对另一个偏好的偏好），以尊重用户的自治权并避免操纵。

Sep, 2022

使用核范数正则化的个性化排名聚合

本文研究了机器学习中的排名聚合问题及其变种 —— 协同排名问题，提出了一种核范数正则化的优化方法用于估算用户偏好。实验结果表明，随着观测次数的增加，评估用户偏好的误差也相应减小。

Oct, 2014