Jul, 2024

机器能学习真实概率吗?

HTML
PDF
TL;DR当存在不确定性时，AI机器被设计成做出决策，以达到最佳预期结果。预期基于机器与之交互的客观环境的真实事实，并且这些事实可以以真实客观概率函数的形式编码到AI模型中。相应地，AI模型涉及概率机器学习，其中概率应该以客观方式解释。我们在一些基本假设下证明了当机器可以学习真实的客观概率（如果有的话），以及何时机器无法学习它们。
发现论文，激发创造
  • 自动决策中人工解释的何为、何故、何如

    介绍了解释在人工智能和机器学习决策系统中所扮演的角色，提供了解释的替代概念，并评估了现有解释方法和所需的特点。

    Aug, 2018

  • 不确定性感知的人工智能和机器学习：原因和方法

    本文阐述了实现基于不确定性意识的人工智能和机器学习系统在决策支持中的必要性及其面临的挑战，并介绍了当前令人看好的研究方向。通过理论模拟，展示了两种新兴的不确定性意识机器学习和人工智能技术的集成对路径规划操作的价值。

    Sep, 2018

  • 评估强化学习场景中机器人行动的类人解释

    本文探讨了透明度逐渐成为自主智能系统的必要品质，提供了人性化的基于成功概率的解释方法，并通过用户调查证明该种解释对于非专业人士更易理解和接受。

    Jul, 2022

  • 机器学习中基于逻辑的可解释性

    本文概述了现有关于计算机生成机器学习模型正式解释的研究，旨在与之前基于非正式解释的方案进行比较，并讨论了各种问题，包括基于不同机器学习模型的最佳逻辑编码以及如何使解释具有可解释性。

    Oct, 2022

  • 人工智能系统的演绎模型若无良好解释则不足

    基于机器学习和深度神经网络的研究，讨论了其对逼近复杂函数的有效性，但常常缺乏透明度和解释力这些局限性。文章强调归纳问题：过去的观察未必能够准确预测未来事件，这是机器学习模型在遇到新的未知数据时所面临的挑战。文章主张不仅要进行预测，还要提供良好的解释，这是当前模型常常难以提供的特性。它建议为了人工智能的进展，我们必须寻找能提供洞察和解释而不仅仅是预测的模型。

    Jan, 2024

  • 概率逻辑编程中的解释解释

    基于可解释的概率逻辑编程和查询驱动的推理机制，本研究提出一种解释解释的方法，以使黑盒人工智能系统的解释更易理解。

    Jan, 2024

  • 机器学习和信息论概念对人工智能数学家的贡献

    当前人工智能的最新技术在语言方面非常出色，但在数学推理方面则相对不足。本文以数学家的思维方式为参考，建立在当前深度学习在直觉和习惯性行为等方面取得成功的基础上，指出其在推理和稳健性不确定性估计等方面仍存在重要缺陷。文中以信息论的观点探讨了什么样的数学陈述是有趣的，这可能为塑造高级数学家人工智能的未来工作提供指导。重点不是证明给定的定理，而是发现新奇的猜想。核心假设是，一个有用的定理组应更好地总结所有可证陈述的集合，例如通过具有较小的描述长度，同时在推导步骤的数量上接近许多可证陈述。

    Mar, 2024

  • 机器学习理论

    批判性地回顾了机器学习的三个主要理论，并提出了一种新的理论，根据该理论，当机器成功计算时，机器学习一种函数。我们展示了这个理论挑战了统计学和计算学习理论中的常见假设，因为它意味着学习真实概率既不等同于获得真实概率的正确计算，也不等同于对其几乎肯定的收敛。我们还从新理论的角度简要讨论了自然语言处理和宏观经济学的一些案例研究。

    Jul, 2024

  • 人工智能中的总不确定性推广：理论研究

    本研究探讨了人工智能中不确定性的本质，旨在解决小数据集或数据集变异带来的决策和预测挑战。通过整合已有理论与最新进展，本文提出了一种新的总不确定性定义，为不同领域中的人工智能提供了更清晰的理解和应用价值。

    Aug, 2024

  • 贝叶斯预言者能否防止智能体造成的伤害？

    本研究解决了如何设计能够满足概率安全保障的机器学习基础的AI系统这一问题。通过评估基于真实但未知假设的安全违反概率边界，我们提出了一种创新的方法，通过最大化贝叶斯后验来寻找谨慎而合理的假设，从而拒绝潜在的危险行动。研究的主要发现为AI系统提供了理论基础，以实现实用的安全防护措施。

    Aug, 2024