model understanding | BriefGPT

关键词model understanding

搜索结果 - 9

再探在上下文学习中的示范选择策略
大型语言模型通过上下文学习（ICL）展示出了在各种任务中都具备惊人的能力，本研究探讨了影响 ICL 性能的因素，并提出了一种基于数据和模型的演示选择方法，该方法通过性能与模型对测试样本的理解相关联来进行演示选择，从而在语言理解和生成任务中实
PDF5 months ago
InterVLS：用视觉语言替代模型的交互式理解和改进
通过发现与文本对齐的概念、用模型无关的线性替代物来度量它们的影响，InterVLS 系统促进了模型的理解，通过视觉分析提供基于概念的解释和性能洞察，使用户能够调整概念的影响来更新模型，可实现无编码模型的改进。
PDF8 months ago
固定步长单时钟仿真的人口代理基于模型的形式化规范术语
在人口学领域中，该论文提出了一套数学规范的适用于 Agent Based Models (ABMs) 的子集的适当术语。该论文的提出的术语进一步改进了模型理解，并可作为一种独立的方法论，用于规范和可能的记录大量 (人口) ABMs。然而，可
PDF10 months ago
AttentionViz: Transformer 注意力的全局视图
本文介绍了一种新的可视化技术，旨在帮助研究人员理解转换器中的自我注意机制，并演示了基于 query-key 嵌入的交互式可视化工具 AttentionViz，以改进模型的理解和提供关于查询 - 键交互的新见解。
PDFa year ago
使用特征归因减少神经机器翻译中的幻觉
通过特征归因和正则化等方法，提出一种新的损失函数，可以有效降低神经机器翻译中的幻觉错误。
PDF2 years ago
亲和力基础强化学习代理的马尔科夫模型符号解释
为了改善现有强化学习算法的透明度不足，研究人员开发了一种策略正则化方法，使用离散化马尔可夫模型的全局代理来复现基于个人消费行为的投资策略，并提出了一种针对这些策略全局内在亲和性的解释方法，以实现对策略行为的推理，从而提高其可解释性。
PDF2 years ago
ACL从本地解释到模型理解
本论文提出了一种可以量化模型理解的数学框架 Explanation summary（ExSum），并提出了其质量评估的指标，从而使人们更容易、可靠地理解黑盒模型的工作机制。
PDF2 years ago
ACL自然语言模型理解中的本地聚合特征归因
本文提出了用于自然语言处理模型的新型基于梯度的特征暗示方法（Locally Aggregated Feature Attribution，LAFA），通过汇集从语言模型嵌入推导出的类似参考文本来平滑梯度，以实现对模型的解释性。该方法在公共数
PDF2 years ago
ICLR全局反事实解释：调查、实现、和改进
该研究探讨了全局因果解释框架的现有方法，特别聚焦于实施和改进可操作补救摘要（AReS），这是唯一已知的适用于补救的全局因果解释框架。
PDF2 years ago