ACLOct, 2020

演绎伦理在自然语言处理中的案例研究

PDF
TL;DR本文从自然语言处理的角度，研究了康德的义务论伦理学中的普遍化原则和知情同意的尊重，提供了四个案例研究，以说明这些原则如何与自然语言处理系统结合。同时提出了避免这些系统中的道德问题的建议。
natural language processingethical challengesdeontological ethicsgeneralization principleinformed consent
发现论文，激发创造
  • 价值观、伦理、道德？自然语言处理研究中道德概念的应用探讨

    我们通过概述一些重要的与哲学相关的伦理概念并系统调查现有的有关道德自然语言处理的文献，回应这一研究空白，因为大多数论文对术语的定义不清晰且不符合哲学定义，希望我们的工作能引导到更加明晰、谨慎和严谨的语言技术道德讨论。

    Oct, 2023

  • 自然语言处理在法律文本上的道德限制

    本文讨论自然语言处理技术在法律领域的应用，重点关注学术自由、法律伦理规范的多样性以及道德主义对这些技术的研究可能带来的威胁，并提出了一些具体建议。

    May, 2021

  • 关于机器道德的一词：对蒋等人（2021）的回应

    本文探讨了 AI 和 NLP 领域中的伦理学问题，重点关注了自动化伦理判断的 Delphi 模型，并提出了批判性的观点和如何通过透明度、民主价值观和简单明了的问责机制来推动机器伦理学的发展。

    Nov, 2021

  • 临床自然语言处理中伦理挑战的简要回顾

    本文讨论临床自然语言处理技术在临床实践中的潜力和现有的隐私保护问题，并提出了一些满足隐私保护的数据来源，同时注意到可能导致社会有害应用的偏见和实证研究的局限性。

    Mar, 2017

  • 给我方便，给她死亡：谁应该决定 NLP 的适当用途，以及基于什么？

    本文讨论伦理学问题如何限制 NLP 研究，重点关注数据声明在伦理评估研究中的作用，同时讨论其他科学领域中类似辩论的结果。

    May, 2020

  • 自然语言处理文献中正式伦理审查的使用：历史趋势和当前实践

    本文分析了先前的和当前的 NLP 研究中所考虑的伦理方面，通过比较其他学科的研究，比较了 ACL 文集的趋势，发现 NLP 研究中的规范伦理审查正在迅速上升。

    Jun, 2021

  • NLP 众包的伦理学意义超越公平薪酬

    该论文讨论了众包工人在 NLP 研究中的伦理问题，提出了应考虑 Belmont 报告中的三个伦理原则评估这些风险，并澄清了有关 Institutional Review Board（IRB）申请的一些常见误解。

    Apr, 2021

  • 为医疗自然语言处理设计指导原则：以孕产妇保健为案例研究

    使用大型语言模型 (Large Language Models，LLMs) 的伦理框架迫切需要，以指导自然语言处理工具在医疗应用中的使用。根据受影响人群的声音，我们提出了一套在医疗中使用自然语言处理的指导原则，以产科健康应用为例。

    Dec, 2023

  • 探索 ChatGPT 的人工智能伦理：一项诊断分析

    通过对 OpenAI 的 ChatGPT 进行定性研究，发现大规模语言模型的伦理风险主要包括偏见性和毒性，当前的基准测试无法解决这些问题，为了避免语言模型应用中出现伦理风险，需要制定可靠的基准测试和实施设计。

    Jan, 2023

  • 自然语言处理中偏差和公平性调查

    本次调查分析了 NLP 模型的社会影响，探讨了 NLP 算法中存在性别、种族和文化偏见的根源，定义了公平性，并说明了 NLP 各个子领域如何减少系统存在的偏见，最终讨论了未来研究如何消除 NLP 算法中的有害偏见。

    Mar, 2022