本研究调查神经网络表示与人类认知表示之间对齐的因素，发现模型规模和架构对齐性没有实质性影响，而训练数据集和目标函数对齐性有更大的影响。研究发现，神经网络表示的线性转换有助于提高与人类相似性判断的一致性，但规模和多样性更大的数据集训练的模型也不能满足人类认知表示的需求。

Nov, 2022

本文介绍了一种新的形式化方法来量化人工智能系统与人类价值观的一致性，使用马尔可夫决策过程作为基础模型，强调价值观作为行动的可取目标和规范行为准则与 AI 决策之间的联系，为评估规范与价值观之间一致程度提供了一种机制，以在规范世界中评估状态转换中的偏好变化。利用这种形式化方法，AI 开发者和伦理学家可以更好地设计和评估 AI 系统，以确保其与人类价值观和谐共处，该方法还适用于许多应用领域，例如强调幸福的推荐系统和强调安全的自动驾驶车辆。

Dec, 2023

通过整合个体感知信号来提高个体用户与机器学习系统之间的相互适应对个体预测性能具有宝贵的启示，不仅可以提高个体用户的整体预测性能，还可以推动人工智能系统朝着每个人的个性化期望和价值导向发展。

May, 2024

通过信息理论分析和计算机视觉模型的实验，我们发现 AI 系统的世界表示与人类的相似度呈现 U 形关系，并表明高度相似的模型在少量数据、对抗攻击和领域转换方面更具鲁棒性和泛化能力，表明人类对齐通常是模型充分利用有限数据、鲁棒性和良好泛化的足够但不必要的条件。

Jan, 2023

利用大型语言模型 (LLM) 的推理能力和美学模型，在一个检索系统中，提出了一种基于偏好的强化学习方法，用于调整视觉模型以更好地与人类美学对齐并提升视觉模型的美学行为。通过使用大型多模型 (LMM) 评估美学表现，并引入名为 HPIR 的新数据集来验证 LMM 的鲁棒性，实验证明了该方法在多个指标下显著提高了视觉模型的美学行为。我们相信该算法可以成为与人类价值观对齐的视觉模型的一种通用方法。

Jun, 2024

本文探讨了人工智能、对齐、大型语言模型、总结模型和人类反馈等方面的方法论挑战，特别是针对训练总结文本的 LLMs。具体地，我们关注的是收集可靠人类反馈的方法，以训练奖励模型并进一步改进总结模型。结论是建议有关 LLMs 总结能力对齐研究的实验设计方面进行特定的改进。

Dec, 2022

通过应用争论模型分析不同领域的案例研究，本研究旨在解决 AI 对齐问题中复杂的利益冲突，为 AI 工程师确保系统最大程度地与多样化的人类利益对齐提供了有代表性的价值数据。

Jun, 2024

本研究提出了一种新的通过行为分类进行计算机视觉算法性能提高的方法，并且通过消除数据集的混杂因素来比较人类和计算机视觉性能，表明当前计算机视觉算法的性能还有待提高。

Mar, 2020

本文介绍了一种使用视线信息作为人类关注的代理来指导视觉 - 语言模型（VLMs）的方法，提出了一种名为 Voila-A 的新方法，通过目光对齐增强了这些模型在现实应用中的可解释性和效果，实验结果表明 Voila-A 显著优于几个基准模型，为更直观、以用户为中心的 VLMs 以及广泛的人工智能人机交互铺平了道路。

Dec, 2023

提出了一种交互式注意力对齐（IAA）框架，旨在实现可操纵的深度神经网络（DNNs），其中利用 DNN 模型解释方法作为交互媒介，直接调整注意力以改善 DNN 的准确性和公正性，并提出了一个计算流程，即 GRADIA，可以同时最大化注意力质量和预测准确性。通过两项研究，发现这种框架可以显著提高模型准确性和公正性，为未来交互式用户界面设计提供了启示。

Feb, 2022