Dec, 2021

是时候采取行动了：通过改变同行评审过程缓解计算带来的负面影响

PDF
TL;DR计算机研究领域需要更加努力地解决我们的创新带来的负面影响问题，通过改变同行评审过程可以实现更好的社会利益。
发现论文，激发创造
  • 避免同行评审过程中的公地悲剧

    介绍科学出版物的同行评审制度，讨论机器学习对此的影响，提出对标准和质量的强调以及提供适当的激励措施，如按照每次评审给予的财务补偿。

    Dec, 2018

  • 计算在社会变革中的角色

    计算研究在面对社会问题方面可以担任四种不同的角色，它可以作为诊断工具，帮助我们精确地了解和度量社会问题；作为规范制定者，计算有助于明确定义社会问题的边界和可能的应对措施；作为反驳工具，计算技术可以揭示技术手段能够解决的范围；作为提醒者，计算技术可以让长期存在的社会问题引起公众的关注。这些方向利用计算研究的特殊优势提供了服务，用于社会变革，但不会过度声称计算技术能够单独解决社会问题。

    Dec, 2019

  • AI 研究在更广泛的影响陈述中的表现与后果分析

    本文通过对 2020 年 NeurIPS 会议发表的关于算法系统负面影响的声明进行定性主题分析，归纳提取出如何表达影响、影响领域和如何减轻负面影响等主题，旨在对 NeurIPS 会议更好地考虑潜在影响提出建议。

    May, 2021

  • 克服 AI 集成系统开发和部署中的想象力失败

    介绍了计算系统杂交网络可能造成的几种潜在的伤害形式，探讨了这些潜在的伤害对不同利益相关方的影响，并提出了有效的伤害预防框架应该考虑包括计算系统特征、利益相关方和潜在伤害的广泛范围等在内的因素。

    Nov, 2020

  • 加强子社区：实现人工智能研究的可持续增长

    提出将同行评审和出版流程重新分散的建议，以促进每个子领域解决与学术出版和激励机制有关的问题。

    Apr, 2022

  • 分享与关心：在计算法律研究中创建建设性批评文化

    介绍了七个创建计算法律研究构建性批评文化的基本原则，建议以更全面的方式解释出版物，使这些出版物在所有阶段都接受建设性的批评，并提出了实现出版物的计算重现性以及创建现代旗舰出版物的想法。

    Apr, 2022

  • 面向计算社区的隐私研究路线图

    该报告旨在通过在未来十年内进行隐私研究，使社会在享受信息技术和数据科学带来的好处的同时，适当控制对隐私的威胁。

    Apr, 2016

  • 调查（不）平衡和计算机密集型自然语言处理研究的问题

    本文通过一项针对 312 名 NLP 群体成员的调查，对当前自然语言处理中在环境影响、公平性等三个方面所引起问题的现状与成因进行了分析，并提出了一些缓解措施。

    Jun, 2023

  • 机器学习中的计算分化：对学术贡献与审查的威胁？

    工业与学术人工智能实验室在使用计算资源方面存在显著差异，我们通过数据调查探讨了计算资源差距在塑造机器学习研究中的作用。我们发现，计算资源差距与在计算密集型研究主题，尤其是基础模型方面仅限于学术研究团队的减少相关。我们认为，学术界在推动相关技术、提供批判性评估和审查以及在这些模型的传播方面可能扮演的角色会更小。随着研究重点的变化，学术研究明显向接纳工业内部开发的开源、预训练模型方面转变。为了应对这一趋势带来的挑战，尤其是对有影响力模型的减少审查，我们建议采取一些方法，致力于有序扩展学术洞见。国家赞助的计算基础设施结合开放科学倡议可以合理地增加学术计算资源的获取，重点关注可解释性、安全性和保密性方面的研究。结构化的资源获取计划和第三方审计机制也可以允许对工业系统进行有限的外部评估。

    Jan, 2024

  • 论纸质文献的重要性

    机器学习的出版流程存在缺陷，新的出版方式虽有助于提高包容性和教育性，但仅仅更换格式不能解决现有问题。该论文认为，影响机器学习研究可达性的根本原因不在于论文流程，而是出版和研究过程中的问题。本论文探讨了这些问题，并提出了一些潜在的解决方案。

    Apr, 2021