灰色卫衣项目:大烟草公司、大科技公司对学术诚信的威胁
本文旨在拓宽和深化我们对大型科技公司对人工智能研究领域的主导地位和影响力的理解。通过网络和迷因分析,我们揭示了大型科技公司对人工智能研究的具体影响之细微差别,并得出结果表明大型科技公司的主导地位在学术影响力方面被过度简化。这种更细致的理解有助于建立大型科技公司和学术界之间更为协调的联盟,以更好地服务社会福祉和人工智能研究的科学完整性。
Dec, 2023
人工智能(AI)在工业和学术界取得了巨大的发展。然而,工业界最近取得的令人瞩目的进展震撼了世界,这使得我们对学术研究在这一领域中的作用有了新的认识。我们通过对过去 25 年间工业界和学术界在 AI 领域产生的影响和类型进行了界定,并建立了一些模式。我们发现,由纯粹由工业研究人员组成的团队发表的论文往往会受到更多的关注,更有可能被高度引用和具有颠覆性引用,而且是几倍于产生最先进模型的可能性。相比之下,我们发现纯粹由学术研究团队发表的论文占了 AI 研究的大部分,并且往往产生更高的创新性工作,其单篇论文成为非传统和非典型论文的可能性是几倍于其他。工业界和学术界在影响力和创新性方面的优势对于子领域、团队规模、资深度和声誉的控制都是稳健的。我们发现学术界和工业界的合作很难复制学术团队的创新性,并且往往与工业团队相似。综上所述,我们的研究结果确定了学术界和工业界在人工智能健康进展中所作出的独特和几乎是无可替代的贡献。
Jan, 2024
通过对最近的跨学科文献进行综述,本文考察了人工智能技术(例如 ChatGPT)对学术写作和出版产生的重大影响,着重讨论了人工智能被用于学术不端行为时的伦理考虑以及在学术论文的写作、编辑和审查中使用人工智能时所需的监督。研究结果强调了出版商、编辑、审稿人和作者之间合作使用人工智能的需要,以确保该技术在道德和生产力方面的合理使用。
Jun, 2024
人工智能是我们时代最重要的技术之一,本文通过比较学术界和企业界合作的科研出版物,利用科学计量学数据来衡量企业对人工智能研究的影响,并发现由企业合著的出版物获得更高的引用次数和在线关注度,最终提出了保持学术界与工业界在人工智能研究领域和谐平衡的建议。
Oct, 2023
本研究通过对包含 78187 篇自然语言处理出版物和 701 份作者简历的语料库进行分析,研究显示自 90 年代以来业内的存在一直保持稳定,在过去五年中却急剧上升,其中少数公司贡献了大部分的出版物和通过赠款和实习提供了学术研究的资金,研究表明业内对自然语言处理研究的存在和影响非常重要,且发展迅速,这项工作呼吁增加业内在该领域的透明度。
May, 2023
人工智能创新主要关注 “what” 和 “how” 问题,忽视可能的危害与社会背景,导致了潜在的社会技术问题,因此我们需要计算机科学和社会学科之间更紧密的联系。
Dec, 2020
本文系统综述了国际上共 73 篇针对人工智能 (AI) 监管的学术论文,重点关注社会风险、监管责任和可能的政策框架,包括基于风险和基于原则的方法。研究发现 AI 领域的复杂性,以及其尚未成熟和缺乏明确性。通过与欧洲 AI 监管建议的比较,本文展示了该监管的具体方法、优点和缺点,有助于更好的理解 AI 和监管之间的关系及其中的规范决策。
Sep, 2022
工业与学术人工智能实验室在使用计算资源方面存在显著差异,我们通过数据调查探讨了计算资源差距在塑造机器学习研究中的作用。我们发现,计算资源差距与在计算密集型研究主题,尤其是基础模型方面仅限于学术研究团队的减少相关。我们认为,学术界在推动相关技术、提供批判性评估和审查以及在这些模型的传播方面可能扮演的角色会更小。随着研究重点的变化,学术研究明显向接纳工业内部开发的开源、预训练模型方面转变。为了应对这一趋势带来的挑战,尤其是对有影响力模型的减少审查,我们建议采取一些方法,致力于有序扩展学术洞见。国家赞助的计算基础设施结合开放科学倡议可以合理地增加学术计算资源的获取,重点关注可解释性、安全性和保密性方面的研究。结构化的资源获取计划和第三方审计机制也可以允许对工业系统进行有限的外部评估。
Jan, 2024