- ICLR基于注意力的迭代分解方法用于张量乘积表示
通过加强 Tensor Product Representation 编码的结构化表示的分解操作,我们提出了一种基于注意力的迭代分解模块 (AID),该模块可以应用于任何基于 TPR 的模型,并通过输入特征和结构化表示之间的竞争注意机制提供 - 全面神经符号视觉强化学习与语言解释
该研究介绍了一种神经符号强化学习(Neuro-symbolic reinforcement learning,NS-RL)的框架,通过将视觉基础模型精简为可扩展的感知模块,可以同时学习结构化状态和符号策略,并使用大型语言模型生成简明易读的策 - 用于快速文本理解的结构化摘要生成
使用大型语言模型(LLMs)生成文本的结构化表示,通过提出有效的提示策略来解决当前模型在生成结构化输出方面的困难,并且通过使用表格和思维导图作为代表模态进行实证评估,结果表明与纯文本相比,使用表格和思维导图可以显著减少阅读理解时间而不会导致 - DocXChain:一个强大的开源工具链,用于文档解析及其之后的工作
DocXChain 是一个强大的开源工具链,用于将非结构化文档(如文本、表格和图表)中的丰富信息自动转换为可读取和可操纵的结构化表示,提供了基本功能如文本检测、文本识别、表结构识别和布局分析,并且可以与现有的工具、库或模型轻松集成,以构建更 - ICML通过解耦环境和代理的表示实现高效强化学习
提出了一种利用机器代理的视觉知识学习结构化表示的强化学习算法,并通过辅助损失函数将其融入强化学习目标,在包括 5 种不同机器人的 18 个具有挑战性的可视化仿真环境中,我们的方法比现有的无模型方法表现更好。
- 使用语言模型起草事件模式
本研究使用大型语言模型通过自然语言来起草事件模式,之后通过人工技术进行进一步的修订并将事件知识萃取到模式中。通过实验证明,大型语言模型在两个数据集中取得了适当的关键事件回调,并且我们的方法为更轻松地从大型语言模型中提取事件知识提供了可能性。
- 保持问题对话式:使用结构化表示解决对话问答中的依赖性
本文提出了一种名为 CONVSR 的新型框架,用于捕获并生成中间表示作为会话提示,以增强 QA 模型的能力以更好地解释不完整的问题,并讨论了如何利用该任务的优势设计更具吸引力和雄辩的对话代理程序。
- 理解 Grokking:表示学习有效理论的探究
通过微观分析和宏观相图描述学习性能,本研究发现,泛化是由结构化表示产生的,这些表示的训练动态和对训练集大小的依赖性可以在玩具环境中通过有效理论进行预测。同时,我们观察到四个学习阶段:理解、深度理解、记忆和混淆。此外,本研究还发现,表示学习仅 - 视觉类比:深度学习与组合模型
本论文比较了人类视觉类比问题解决能力和三种不同的计算模型的性能,包括成分模型、连体网络和关系网络,结果显示成分模型的定性表现与人类推理者相似,而深度学习模型的表现则不如人类。
- EMNLP利用主动学习和弱监督学习实现实体名称的结构化表示学习
本文介绍了一种新的学习框架,该框架结合了主动学习和弱监督的方法,用于学习实体名称的隐式结构化表示,并展示此方法仅通过几个标记示例就能学习出高质量的模型。
- EMNLP基于自然语言指令的场景图修改
本研究探讨了场景图修改的新问题,利用基于图形的稀疏变压器和跨注意信息融合等新型模型优于以前从机器翻译和图形生成文献中适应的系统,从而使得多轮用户界面的进展需要掌握和更新这些结构化表示。
- ICLR人类和机器中结构化任务分布的元学习
通过构建基于组合语法的结构化任务分布和相同统计复杂度但没有明确的基于规则的结构的 “空任务分布”,比较人类表现与标准元学习代理在两个任务分布中的表现,发现虽然统计复杂度相当,但人类在结构化任务分布中表现更好,而代理在空任务分布中表现更好,这 - ICML通过对抗最大化互信息来学习离散结构表示
本研究提出使用互信息优化结构化潜变量和目标变量之间的关联,通过对抗目标函数可在二进制编码上估算互信息,应用于文件哈希上表现卓越且高度压缩。
- 结构数据的距离和相似性函数概述
本文主要综述了结构化表示形式下的距离函数 (或相似度函数) 在机器学习和人工智能中的应用,旨在为不同领域的研究提供参考和指明未来方向。
- 基于文档图网络的多跳问答支持事实识别
本文提出了文档图网络(DGN),一种用于识别文本的支持事实的消息传递架构,该架构基于图形式表达的文本结构表示。在 HotpotQA 的评估中,DGN 在多跳推理任务中获得了与基于阅读理解的基线模型相当的结果,证实了结构化表示对于支持多跳推理 - ICML知识增强列网络:与建议一起指导深度学习
本篇论文提出了基于人工引导学习的知识增强列网络(Knowledge-augmented Column Networks),这是一个关系性深度学习框架,可以在数据稀疏和受到系统噪声的情况下利用人类的知识来学习更好的模型。
- ICML物理建设的结构代理
本文介绍的一系列具有挑战性的物理结构任务,探究了在这些任务上如何采用一系列深度强化学习代理的处理方式,并引入了多种新方法以提高性能。结果表明,使用结构化表示和结构化策略的代理比使用较少结构的代理表现更好,并且更具有推广性。同时本文还表明,将 - ICML再生核 Krein 空间中的可扩展学习
本文首次提供了 Nyström 方法用于求解不定核的低秩矩阵逼近的数学完整证明,并提出了一种高效的方法来寻找这种核矩阵的近似特征分解,以此构建可在再现核 Krein 空间中学习的高度可扩展方法。这些方法提供了一种有原则的并且理论基础良好的方 - 关系归纳偏置、深度学习和图网络
本文提出结构化表示法和计算方法是实现人工智能与人类智能相似的能力的关键,通过使用深度学习体系结构内的关系感应偏差,介绍一种新的人工智能工具箱构建模块 -- 图形网络,它支持关系推理和组合推广,为推理提供更复杂、可解释和灵活的模式。
- 深度注意力结构化表示学习用于视觉识别
本文介绍了一个关注机制的结构化表示学习框架,可以预测图像类别标签和注意力映射,并在没有其他监督的情况下以端到端的方式进行学习,改进了性能,并在标准场景识别和细粒度分类基准测试中取得了最新成果。