关键词responsible ai development
搜索结果 - 6
- 通用黑盒破解大型语言模型
介绍了一种使用遗传算法来操纵无法访问模型结构和参数的大型语言模型的新方法，通过优化通用对抗提示，发现模型的限制和漏洞，从而破坏模型的对齐性，提供诊断工具以评估和增强大型语言模型与人类意图的一致性。
- 轻量级数据集成：多工作流可信度与数据可观测性导向
现代大规模科学发现需要跨多个计算设施进行多学科合作，其中包括高性能计算（HPC）机器和边缘到云的连续体。综合数据分析在科学发现中起着至关重要的作用，特别是在当前人工智能时代，通过支持负责任的 AI 开发、FAIR、可重复性和用户调节。然而， - 地面真相还是挑战：影响医学数据集用于 AI 训练的因素
负责任的 AI 发展的核心目标之一是确保高质量的训练数据集。本文描述了医学数据集创建过程中的五个外部和内部因素，包括监管限制、创建和使用的上下文、商业和运营压力、认识差异和标记的限制。这些因素对医学数据收集和地面真值模式的设计产生影响，并且 - 数据测量
本文旨在通过测量数据来量化机器学习数据和数据集的组成部分，以促进机器学习的系统构建和分析，使现代机器学习系统更加准确和可控，同时讨论了未来工作的许多途径、数据测量的局限性，以及如何在研究和实践中利用这些测量方法。
- 数据卡片：负责任人工智能的有目的和透明的数据集文档
本文提出了数据卡片 (Data Cards) 的概念以促进人性化的大规模模型开发过程中透明、有目的性和人性化的数据记录方法，数据卡片是必要的用户文档，提供关于机器学习数据各个方面的基本事实的结构化总结。本文描述了将数据卡片落实到实际应用的多 - 走向可信的 AI 开发：支持可验证声明的机制
本报告探讨了不同利益相关者所能采取的各种措施，以改善人工智能系统及其相关开发过程的安全性、公正性、隐私保护等方面的证明，分析了十种机制，并提出了旨在实施、探索或改进这些机制的建议。