transparency | BriefGPT - AI 论文速递

关键词transparency

搜索结果 - 246

初心：1.6B 技术报告
我们提出了 ChuXin，这是一个完全开源的语言模型，具有 1.6 亿个参数。通过轻量级的持续预训练，我们将上下文长度扩展到 1M 个标记，并展示了强大的针对大数据检索性能。
PDF12 days ago
可解释的网络可视化：基于人机协同的 CNN 图像分类后续解释方法
通过引入一种后置方法，我们解释了卷积神经网络的整个特征提取过程，并包含了一组通过众包活动和自然语言处理技术提取并处理的文本标签，在多幅图像中聚合标签以生成全局解释。
PDF14 days ago
Rad4XCNN: 基于放射计算的全局解释 CNN 派生特征的新型不可知方法
通过结合放射学特征与基于卷积神经网络的特征，本文提出了一种名为 Rad4XCNN 的新方法来提高医学图像分类的预测能力，同时保持解释性，强调了在临床实践中将解释性整合到人工智能模型中的重要性。
PDF24 days ago
T-Explainer: 基於梯度的模型无关解释性框架
可解释人工智能（Explainable Artificial Intelligence）通过提供准确、一致且稳定的解释，解决机器学习中黑盒模型的透明度问题，其中基于泰勒展开的 T-Explainer 成为了一种有效的特征归因方法。
PDF25 days ago
基于自治型 LLM 的从数据到可人工验证的研究论文
AI 驱动的科学研究中的透明度、可追溯性和可核实性对加速科学发现具有潜力。
PDFa month ago
OpenELM: 一种高效的开源训练和推理框架的语言模型家族
OpenELM 是一种最新的开放语言模型，通过使用层内参数分配策略，在拥有约十亿参数的情况下，在比 OLMo 少两倍的预训练标记情况下，提高了 2.36% 的准确性，进而促进了开放研究社区的发展。
PDFa month ago
AI 数据的真实性、同意和来源都存在问题：修复它们需要什么？
基于对基础模型训练数据的大规模分析和现有解决方案，我们确定了促进负责任的基础模型开发实践所需的缺失基础设施，并概述了政策制定者、开发者和数据创造者如何通过采用通用数据溯源标准来促进负责任的基础模型开发。
PDFa month ago
透明人工智能：为预测术后并发症开发可解释界面
鉴于手术操作的规模庞大和术后死亡率的显著高位，评估和管理手术并发症已成为一个重要的公共卫生问题。为了解决现有人工智能工具在风险监测和诊断方面缺乏适当的可解释性、公平性和可复现性的问题，我们提出了一个解释性人工智能（XAI）框架，旨在回答为什
PDFa month ago
形状算术表达式：推动科学发现超越闭合形式方程
通过融合广义可加模型和数学表达式中复杂的特征交互，我们提出了一种新型模型类别：形状算术表达式（SHAREs）。SHAREs 不仅将 GAM 的灵活形状函数与数学表达式中的复杂特征交互结合起来，还为这两种方法提供了一个统一的框架，并通过一组构
PDFa month ago
Alljoined -- 一份用于脑电图到图像解码的数据集
我们提供了一个专门用于脑电图到图像解码的数据集，其中包括了从 8 名参与者观看了每个 10000 个自然图像的神经反应的数据。该数据集共收集了 46080 个脑电图回应记录，旨在提高信号质量，并提供数据质量得分以保证透明度。
PDFa month ago
X-VARS: 使用多模态大型语言模型在足球裁判中引入解释性
我们研究了大型语言模型在解释决策方面的能力，并以足球裁判作为测试领域。我们介绍了可解释的视频助理裁判系统（X-VARS），它是一个多模态的大型语言模型，旨在理解足球视频。我们验证了 X-VARS 在足球裁判领域的能力，并展示了它在解释复杂足
PDFa month ago
LeGrad：通过特征形成敏感度的视觉 Transformer 可解释性方法
针对 Vision Transformers（ViTs）这一计算机视觉领域的标准架构在可解释性方面的挑战，提出了一种名为 LeGrad 的特定于 ViTs 的解释性方法。该方法使用自我注意机制计算与 ViT 层的注意力图相关的梯度，将梯度作
PDF2 months ago
AI 安全：必要，但不足且可能存在问题
人工智能安全性的炒作对于推进社会公益的其他人工智能研究途径产生冲突，因为 AI 安全性与透明度等社会公益相关概念存在微妙而棘手的关系。此外，AI 安全性辩论也可能使一些监管工作朝着不太理想的方向发展，同时给会造成结构性伤害的 AI 提供一种
PDF2 months ago
COLINGChatGPT 对自然语言解释质量的评级如人类一样：但在哪些尺度上？
AI 的透明度和责任感的需求增加了，因为对 AI 决策背后的推理进行自然语言解释（NLE）对于澄清重要，但通过人的判断进行评估复杂且资源密集，由于主观性和对细粒度评分的需求。本研究探索了 ChatGPT 与人类评估之间的一致性，涵盖了二元、
PDF2 months ago
感知的限度：分析解释型人工智能中显著性地图的不一致性
解释性人工智能在解密人工智能决策过程中，特别是在医疗行业中起着不可或缺的作用，医生在诊断时倚赖详尽的推理，传统方法无法达到的进步。然而，这些模型的复杂性和不透明性既是优势也是劣势，他们作为 “黑匣子” 运作，其推理方式被遮蔽不可访问，增加了
PDF2 months ago
模型开放性框架：推动人工智能的可复制性、透明度和可用性的完整性与开放性
生成人工智能（GAI）提供了前所未有的可能性，但其商业化引发了关于透明性、可重复性、偏见和安全性的担忧。我们提出了模型开放性框架（MOF），它是一个按照开放科学、开放源代码、开放数据和开放获取原则对机器学习模型进行评级分类的系统。MOF 要
PDF2 months ago
概率自解释神经网络中的不确定性感知解释
通过概率重构，Prob-PSENN 提供了更灵活的原型学习框架，能够捕捉模型的解释不确定性，提供比非概率模型更有意义和可靠的解释，从而增强模型的可解释性和可靠性。
PDF2 months ago
可解释 AI 中基于梯度的特征归因：技术综述
对基于梯度的解释方法进行了系统的探索和分类，并介绍了技术细节的实质和算法的演化，同时提出了使用人工和定量评估来衡量算法性能的挑战，为研究人员提供了对最新进展和相关缺点的了解，并激发了未来解决这些问题的兴趣。
PDF2 months ago
词重要性解释了提示如何影响语言模型的输出
通过改变提示中的单词以揭示其对模型输出的统计影响来改善大型语言模型的可解释性，检验结果显示单词重要性得分与多个评分函数的预期后缀重要性密切相关。
PDF3 months ago
Birbal: 使用精选数据集进行高效的 7B 指令模型微调
LLMOps 成本高、透明度低、模型训练方法和数据缺乏一致性，为解决这些问题，LMM Efficieny Challenge 提出了在有限时间内利用单一 GPU 对基础模型进行微调的任务，研究介绍了 Birbal，该模型经过精心设计的指导说
PDF3 months ago