Feb, 2022

可信自主系统（TAS）：吸引 TAS 专家参与课程设计

PDF
TL;DR机器学习对自主系统行业的提高、引入的社会、技术、法律和伦理挑战以及针对课程设计和潜在技能方面的问题被多个学科所讨论，本研究总结了多位领先专家的洞见，为 TAS 教育社区提供了关于课程设计和潜在 TAS 相关技能的重要挑战。
发现论文，激发创造
  • 评估自主系统的可信度

    研究探讨了自主系统的信任度和相关标准，并提出了一个可用于自主系统的信任度评估框架的大纲。

    May, 2023

  • 负责任的自主

    讨论了人工智能伦理学的研究方向，提出了确保人工智能系统行为符合道德和社会价值的替代方法，并介绍了设计和利益相关者价值观提取方法。

    Jun, 2017

  • 软件工程教育中的 AI 辅导

    利用 GPT-3.5-Turbo 模型作为 AI 导师的自动化编程评估系统中，利用经验数据和探索性调查发现了不同用户类型以及与 AI 导师的交互模式，总结了实时反馈和可扩展性等优势，但也指出了一些挑战，例如通用回答和学生对使用 AI 导师时学习进展受限的担忧。这项研究为教育中人工智能的作用增加了有益的话题。

    Apr, 2024

  • 国防伦理人工智能方法：可信自主系统开发案例研究

    本研究介绍了在一个行业主导、政府资助的项目中建立受信任的自主系统 - Athena AI - 的案例研究，探讨了在技术开发中嵌入负责任的研究与创新对齐的伦理设计方法和原则的价值和影响。

    Jun, 2022

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 确信自治：与我们可以信任的自治系统共存之路

    针对自主性中确保保障的挑战，召开了三场研讨会，旨在促进对学术界、产业界和政府利益相关者之间的理解和战略规划，以推动自主性的持续进步。

    Oct, 2020

  • 可信 AI 之旅 - 第一部分：实用框架的追求

    本研究综述了值得信赖的人工智能（TAI）及其各种定义，提出了离开支配和工程语境中的责任或伦理人工智能等术语以明确任何混淆的建议，并强调了公平性、偏见、风险、安全性、可解释性和可靠性等关键属性和特性以发展一个普遍框架来处理这些问题，同时考虑了欧盟、中国和美国在 AI 领域的政策和法规以及跨国公司面临的调整挑战，提出了一个新的框架 SFMA 来执行 TAI 和规范化措施，同时警示过度规制对 TAI 和技术创新可能造成的危害。

    Mar, 2024

  • 值得信赖的人工智能的调查、分类和未来方向：战略决策的元决策

    提出信任 AI 系统是一个元决策的过程，针对不透明的 AI “黑匣子” 提出了 TAI 的新的分类法，涵盖了解释性，权威性和基础三个关键领域，并建立了十个维度来度量信任。旨在通过这个分类法，从战略决策的角度探索不同的 TAI 方法。

    Jun, 2023

  • TASRA：人工智能对社会规模风险的分类与分析

    本文旨在通过建立基于问责制的分类法，探讨由人工智能产生的可能导致人类社会范围内灭绝的风险类型，其中包括许多未被预见的风险，并提供技术和政策上的解决方案。

    Jun, 2023

  • 面向高等教育的跨平台和课程导向的智能助手

    通过提供弹性的教育模式建议，基于 GPT-3 的智能教育辅助框架被研发，能够自动生成课程助手，可以回答与教学相关的问题，降低教师和助教的工作量同时提高学生获得课程相关信息的机会。

    Feb, 2023