Oct, 2023

多元人工智能监督原则的探索

PDF
TL;DR使用下一个令牌预测训练大型 Transformer 在人工智能方面取得了突破性进展，但这种生成式人工智能方法严重依赖人类监督，我们提出了一种新的自主生成高质量训练数据的范式 —— 探索型人工智能 (EAI)，通过利用大型语言模型在自然语言空间内进行探索达到这一目的。实证评估表明，EAI 显著提升了模型在复杂推理任务上的性能，解决了人类密集监督的局限。
transformersgenerative aiexploratory aiunsupervised reinforcement learningcomplex reasoning tasks
发现论文，激发创造
  • 通用智能需要重新思考探索

    通过将探索驱动的学习概念性地统一监督学习和强化学习之间的探索驱动学习，我们提出了广义探索问题，以突出不同学习设置之间的关键相似之处和开放研究挑战，广义探索是用于维护开放式学习过程的必要目标。

    Nov, 2022

  • 基于生成模型的自然语言推理解释的交互式可解释人工智能框架

    INTERACTION 是一个生成性 XAI 框架，提供两个步骤的术语解释生成方法，具有 better performance 和多样性。

    Sep, 2022

  • 面向 AI 支持的知识发展环境的思想生成和测试

    通过使用机器学习和大型语言模型，本论文介绍了一种知识工作者系统 Generate And Search Test，该系统能够高效地创建以前需要专家合作才能完成的解决方案。同时探讨了生成型人工智能和搜索引擎如何提供创意和验证事实、逻辑和语境，以消除人为偏见。

    Jul, 2023

  • 解开人工智能错误之谜：探索大型语言模型的人工和机器解释的有效性

    本研究通过与最新方法（集成渐变、保守 LRP 和 ChatGPT）进行对比实证调查，收集和分析了 156 个人生成的文本和基于显著性的解释，并发现与机器显著性图相比，人工显著性图尤其在解释人工智能结果时更具说明性，但其性能与对人工智能模型和解释的信任负相关，揭示了人工智能解释中的困境：当有助于理解错误的人工智能预测时，会降低任务表现。

    Apr, 2024

  • 超越可解释人工智能 (XAI)：一项面向解释引导学习的系统性调查

    本文综述了指导解释学习（EGL）领域，一种通过在模型解释上添加正则化、监督或干预来引导 DNN 推理过程的技术，并讨论了 EGL 潜在的应用领域和方向，在计算机视觉和自然语言处理等领域提供了全面的比较研究。

    Dec, 2022

  • 自主驱动的语言模型从零开始的最小人工监督自我对齐

    研究提出了 SELF-ALIGN 方法，利用少量人工监督和结合原理驱动推理和 LLM 的生成能力，实现 AI 助手的自我对齐，减少人工监督的依赖，获得更好的性能，开发了 Dromedary AI 助手。

    May, 2023

  • 利用人工智能与人工智能了解人类加速科学

    该研究表明，将人类专业知识的分布纳入考虑，并以此训练无监督的人工智能模型，能够显著提高 AI 对未来发现的预测能力，特别是在相关文献稀缺的情况下，这些模型成功预测出人类预测和可能做出预测的科学家，为科学进步开创新的前沿。

    Jun, 2023

  • 基于 Transformer 的大型语言模型的 AI 内容自检测

    本文介绍了直接来源检测的概念，并评估了生成型 AI 系统是否能够识别其输出并将其与人工编写的文本加以区分。结果表明，Google 的 Bard 模型表现出最大的自检测能力，准确率达到 94％，其次是 OpenAI 的 ChatGPT，准确率为 83％。而 Anthropic 的 Claude 模型似乎无法自检测。

    Dec, 2023

  • 通过生成式人工智能实现第二语言学习与教学中的分布式代理

    生成式 AI 为语言学习提供了重要机会。AI 工具如 ChatGPT 可以通过书面或语音聊天提供非正式的第二语言练习，学习者可以通过提示指定对话参数，如熟练水平、语言风格和讨论主题。AI 可以被指导给出修正性反馈、创建练习题或制定扩展学习计划。AI 可以帮助教师构建各种媒体的学习和评估材料。然而，学习者和教师都需要理解 AI 系统的局限性，这些局限性源于它们对人类语言的纯统计模型，从而限制了它们处理语言使用中微妙的社会和文化方面的能力。此外，AI 系统的创建涉及道德问题，并且在使用中存在实际限制，尤其是对于弱势群体。AI 工具的能力和多功能性很可能使它们成为许多人生活中宝贵而常用的伴侣（类似于智能手机），创造出一种超越简单工具使用的紧密联系。生态理论如社会物质主义对于研究用户和 AI 之间产生的共同行动机制非常有帮助，以及来自原住文化的人 - 物关系视角。

    Mar, 2024

  • 智能空间导航的 AI 实现

    人工智能作为探索工具，创造和研究能够揭示与人类和动物智能形式不同的候选智能构件的系统，以探索智能的可能空间。通过研究人类和大型语言模型在组合新概念和虚构概念能力方面的最近工作，证明后者在解决此任务时可能与人类假设的方式完全不同，但对智能研究同样具有重要意义。

    Jan, 2024