Jun, 2024

使人工智能可理解：哲学基础

PDF
TL;DR人类和人工智能是否能共享概念并进行交流？《使人工智能变得可理解》展示了意义形而上学的哲学研究如何回答这些问题，Cappelen 和 Dever 利用哲学中的外在主义传统构建了人工智能和人类相互理解的模型，从而改进了哲学传统，给出了有关理论和实践的重要答案，为实现可解释的人工智能迈出了重要的第一步。
humanartificial intelligencecommunicatemetaphysicsinterpretable ai
发现论文，激发创造
  • 打造可理解的人工智能的挑战

    本文旨在探讨人工智能在关键任务中的应用，提出了增强人工智能可解释性的重要性，并总结了当前构建可解释模型及说明方法的研究进展和关键方向。

    Mar, 2018

  • 有帮助、误导或使人困惑：人类如何感知人工智能解释的基本构建块

    这篇论文探讨了可解释的人工智能技术和其评估方法之间的差距，介绍了使用简单的数学模型来评估不同模型表述的易理解程度，以及如何设置和执行相关用户研究的概念和实践框架。

    Mar, 2023

  • 可解释的人工智能与人类互动：一种规划视角

    AI 系统与人类的相互作用中，理解计算机中的心智模型和说明性交流对于实现合作场景和操纵人类期望至关重要。

    May, 2024

  • 关于意义计算、语言模型与难以理解的恐怖

    本文将意义基础理论与 AGI 的数学形式结合起来，旨在提供一种全面的有关意义、交流和符号出现的机制性解释。此次综合研究在 AGI 和关于语言本质的更广泛辩论中具有重要意义，它将语用学、逻辑真值条件语义学、Peircean 符号学和赋能认知的可计算模型统一起来，涉及传统上难以进行机制性解释的现象。通过考察一台机器生成有意义话语或理解人类意义的条件，我们确定了目前的语言模型并不具有与人类相同的意义理解，也不打算表达任何我们可以归于它们响应的意义。为了解决这个问题，我们提出了模拟人类情感和优化模型以构建弱表示的解决方案。我们的发现揭示了意义和智能之间的关系，并探讨了如何构建能够理解和表达意义的机器。

    Apr, 2023

  • 人工智能模型语义可解释性

    本研究从广阔的角度观察模型可解释性，超越了机器学习的范畴，涵盖了分布语义学和模糊逻辑等不同的人工智能领域。我们根据模型的性质和它们引入可解释性方面的方法进行分类，并分析每种方法如何影响最终用户。同时指出还需要解决的问题，以提供更以人为本的解释性解决方案。

    Jul, 2019

  • 人工智能中的解释性：来自社会科学的见解

    该论文提出，可从解释生成、选择、评估和呈现的人类认知偏见和社会期望中借鉴人类解释行为，以推进可解释的人工智能领域，并回顾了哲学、认知心理学、社会心理学等相关领域的研究成果。

    Jun, 2017

  • 构建类人交际智能：一个基于现实经验的视角

    该论文旨在提出一种 “基础” 的视角，启发人工智能的进步，包括 “基于感知 - 动作循环的体现、嵌入、延伸和实践认知” 的研究方向，以及运用逐步发展的技能促进逐步的语言发展、逐渐适应物理和社会环境的智能代理等几个具体的组成部分，以建立人类一样的语言能力。

    Jan, 2022

  • 人工智能系统是否具有理解能力？

    本文旨在探讨 “智能机器” 是否有能力理解人类语言，其中涉及了语法和语义之间的关系，指出了语义对于讨论建立 “有意识的机器” 这一问题的不可避免性，并得出结论：在当前技术发展的状态下，将智能视为一种任务解决工具，无需将理解归于机器。

    Jul, 2022

  • 感性人工智能：运用意义建构理论重新构想可解释性

    本文提出了一种基于 Weick 的理解框架，强调解释面向的对象，并提供了具体特征如身份背景、社交环境、环境线索等指导 Sensible AI 设计的设计准则，以理解人类认知的细微差别为前提构建 AI 的解释性。

    May, 2022

  • 弥合明确人工智能与卢曼交际功能理论之间的鸿沟

    本文利用 Luhmann 和 Esposito 的社会系统理论，探讨了可解释的 AI 在人工智能交互中需要面对的挑战以及应对之道，旨在通过系统论方法的应用，提供一个新的视角来理解可解释的人工智能的问题和限制。

    Feb, 2023