- ACL基于大型语言模型的 ESG 指标表格的通用信息提取
通过将表格转化为语句,我们提出了一种新颖的无特定领域数据结构,用于提取定量事实和相关信息,通过研究基于 T5 的语句提取模型,我们的最佳模型与基准模型相比,生成的语句与实际数据相似度达到了 82%,通过将模型应用于 ESG 报告中的超过 2 - 参与 - AI:一个民主调查框架,用于预测未来人工智能的应用、危害和益处
以非专家的公众参与为基础,通过收集使用案例、评估风险、揭示 AI 发展的张力等方式,引入了 Particip-AI 框架以实现对 AI 的民主治理和风险评估,研究发现参与者的回应强调了个人生活和社会应用,显示了多样化的危害与专家评估的互补价 - AI 伦理与治理实践简介
AI 系统可能对个人和社会产生深远而长期的影响。为了负责地管理这些影响,并将 AI 系统的发展引向最优的公共利益,AI 伦理和治理必须成为首要考虑的问题。
- AI - 增强的合成生物领域下的打地鼠治理挑战:文献综述与新兴框架
AI 启用的合成生物学具有巨大潜力但也显著增加了生物风险并带来了一系列新的双重使用关切。这篇论文通过文献综述并描述了政策与实践的新框架,旨在超越命令与控制、管理、自下而上和自由放任等治理选择,以实现预防和缓解 AI 启用的生物危害所需的预警 - 大代码项目治理卡
该研究论文概述了 BigCode 项目中不同机制和治理领域,旨在支持透明度,向公众提供有关项目中所做选择的相关信息,并作为一个有意识的治理开放研究项目的示例,未来的努力可以利用该示例来塑造自己的方法。一部分介绍了项目结构,包括项目组织、目标 - 与 LLMS 的谈判:迅速入门、技能差距与推理缺陷
通过观察人类与大型语言模型(LLMs)的对话,本研究基于数据驱动的方法,对 LLMs 的治理和调节进行了归纳性分析,并探讨了非合作性、竞争性情境下的人机交互对人类可能构成的严重威胁以及利用 LLMs 的推理能力存在的不足和可操纵性。此外,研 - 推进 AI 审计以加强 AI 治理
人工智能服务和系统的审计问题及其促进良好人工智能治理的三项建议。
- 联邦学习中的贡献评估:现有方法的考察
联邦学习 (Federated Learning) 中的 Contribution Evaluation (CE) 问题对于计算每个客户端的公平价值的评估至关重要。本研究回顾了当前 CE 方法的数学框架,并对一些最有前景的方法进行了基准测试 - 人工智能对齐与社会选择:基本限制与政策影响
RLHF 使用于 LLMs 中,本文探讨了 RLHF 的限制和关注民主规范方面的政策挑战,同时提出了建立透明投票规则和聚焦特定用户群体的 AI 代理的需求。
- 社会责任投资组合优化的机器学习
该研究基于改进的均值 - 方差模型实现了面向社会责任投资者的投资组合优化,考虑了环境、社会和治理等方面的因素,并在收益率和投资组合的平均 ESG 得分之间做出了权衡。
- 利用大型语言模型有效扩展鱼叉式网络钓鱼攻击
通过对大规模语言模型在网络钓鱼领域的应用研究,发现现有的大规模语言模型对于网络罪犯在网络钓鱼攻击中的情报收集和信息生成阶段提高了效率,在此基础上,通过 600 个英国议员的案例研究发现应用于网络钓鱼的语言模型不仅效果逼真,且花费非常低;在此 - AI 的治理、由 AI 治理、为 AI 治理
人工智能技术快速发展,已经在艺术创作、文字生成和编程等多个领域带来深刻变革,然而,智能技术的出现也在挑战人类的治理能力以及智能技术自身的治理问题。本文基于机器学习算法,通过分析人类治理人工智能的方式,探讨了人工智能接管人类的可能性,提出了人 - 算法供应链中的责任认定
算法账户和算法供应链的治理和问责问题迫切需要关注和解决,分散的责任可能产生责任分配的挑战,而使用和责任的服务模式、监管套利等也值得关注。
- 适用于真实世界医疗应用的开放、透明和可信的联邦学习 Fed-BioMed
该论文介绍了 Fed-BioMed 的设计空间、目标用户、领域限制以及这些因素如何影响当前和未来的软件架构,从而将联邦学习(FL)应用于医学研究领域。
- 物理人工智能的治理
物理人工智能是人工智能面临的最重要的挑战之一,其治理将定义其在社会中负责任的智能应用。
- BigScience ROOTS Corpus:一个 1.6TB 的复合多语言数据集
BigScience 团队创建了 Responsible Open-science Open-collaboration Text Sources (ROOTS) 语料库,这是一个包含 59 种语言和 1.6TB 数据的语料库,用于训练 1 - 机器学习预测的局部和全局可解释度度量
本文提供了一种新颖的量化指标框架,用于解释分类器和回归模型的预测结果,旨在提高人工智能系统的透明度和可信度。应用公开数据集,展示了这些指标如何更全面地理解模型预测,并在决策者和利益相关者之间促进更好的沟通,从而增加人工智能系统的整体透明度和 - 数据中心治理
本文通过数据集和算法评估的方式,探讨了以数据为中心的 AI 治理的系统化,降低了部署时间,提高了解决方案的质量,降低了部署风险,并将系统置于持续的遵守治理要求的状态。
- 伦理道德作为人工智能治理工具的效率
本文对人工智能伦理学的现状进行了批判性分析,并认为基于原则性伦理准则的这种治理形式不足以规范人工智能行业及其开发者。建议通过对人工智能相关专业人员的培训过程和增加对其行业的监管来实现根本性变革。为此,建议法律应从生物伦理学中获益,并将人工智 - 智能能源系统中的 AI 可解释性和治理:一项综述
通过收集 Scopus 数据库中的 3,568 篇相关论文,自动发现了 AI 治理能源的 15 个参数或主题,这篇论文深化了我们对能源中 AI 治理的知识,并有望帮助政府、工业、学术界、能源生产者和其他利益相关者了解 AI 在能源部门的应用