我们在语言模型的训练中发现了数据透明性和道德风险的问题，因此我们进行了一项多学科工作，对 1800 多个文本数据集进行了系统审计和追踪。我们发展了工具和标准，以跟踪这些数据集的来源、创作者、许可条件、属性和使用情况。我们的分析突出了商业开放数据集与封闭数据集在构成和重点方面的差异，封闭数据集垄断了重要的类别。此外，我们的研究还发现了广泛使用的数据集托管网站上许可证的错误和遗漏。为了促进数据集的透明性和负责任使用，我们发布了我们的审计结果，并提供了一个交互式界面，数据溯源浏览器，让从业者可以追踪和筛选最流行的开源调整数据集的数据溯源信息：www.dataprovenance.org。

Oct, 2023

AI 基础模型的兴起，具有广泛数据训练和可适应下游任务的特点，其机制、应用和社会影响需要更多的跨学科合作来研究。

Aug, 2021

提出了 “数据肖像” 的概念，以记录训练数据，以增加模型训练的透明度并解决模型抄袭、数据泄漏等问题。作者采用数据草图技术实现了该方案，仅增加 3% 的额外开销，在大规模语言模型数据集上证明了该方案的有效性。

Mar, 2023

深度学习模型信任度评估及保证，基于应用特定的风险评估方法，结合基础模型的特定风险，验证与确保基于基础模型开发的 AI 应用的信任度要求。

May, 2024

研究旨在提高人工智能系统的可信度和信任度，开发能够适应实际应用场景的人工智能系统，并将人类放在其中心地位，使其能够有效地使用系统，理解输出和解释结果以满足监管委员会的要求。

Jan, 2020

本文介绍了基础模型，深度学习中通过模型大小和训练数据广度和大小的扩展可以对未来的 AI 开发造成破坏。基础模型在各种任务领域（如自然语言处理和计算机视觉）中实现了最先进的性能，并且通过进一步的改进常常得到更好的表现。此外，模型的单一化可能会将众多特定任务的模型替换为由少数公司控制的更少数量的大型模型，从而导致对 AI 的权力和控制的转移，并出现新兴的行为方式：上下文学习。

Dec, 2022

本文系统化地分析了当前基础模型学习问题的关键特征和对应的低准确性下隐私保护和拜占庭容错异构学习的下界，阐述了设计一个高安全性和隐私保护基础模型的不可能性，并呼吁采取措施优先考虑安全和隐私，并减缓追求更大模型的竞赛。

Sep, 2022

基于基础模型的数据导向人工智能在改进医疗工作流程方面具有巨大潜力，涉及基础模型、计算医疗、数据记录、临床数据分析等关键领域。

Jan, 2024

发展分析和缓解策略，提供了一个初始框架来理解模型限制、尊重隐私、保密和版权、避免抄袭和政策违规、确保应用程序提供整体利益，并透明可重现地使用人工智能，以保护研究的完整性。

Jan, 2024

本文介绍了 GeoAI 基础模型的潜在隐私和安全风险，并提出了全面的预防和控制策略，旨在引起地理空间领域的研究人员和决策者对 GeoAI 基础模型固有的隐私和安全风险的重视，并倡导隐私保护和安全的 GeoAI 基础模型的发展。

Sep, 2023