geometric perspective | BriefGPT

关键词geometric perspective

搜索结果 - 8

揭示和减缓 DNNs 的一般偏差通过感知流形的内在维度
构建公平的深度神经网络是实现可信的人工智能的关键步骤。深入研究影响深度神经网络公平性的因素是减轻模型偏见的基础，但目前的方法在准确预测深度神经网络偏见方面存在局限性，仅依赖于训练样本数量并缺乏更精确的测量工具。在这里，我们建立了一个几何学视
PDF2 months ago
大型语言模型几何特征解决有害内容检测与生成
大型语言模型的几何视角下，从内在维度和可解释的样条特征的角度探索其内部表示，并证明这些理论结果可以回答实际问题，如毒性检测。
PDF7 months ago
通过局部曲率剖面实现有效的结构编码
基于几何学角度从 Ricci 曲率的离散化编码出发，通过结构编码和位置编码的组合，以及曲率信息的利用，能够显著提高图神经网络的性能。
PDF7 months ago
为什么通用对抗攻击可以对大型语言模型起作用？几何可能是答案
通过对包含 117M 个参数的 GPT-2 模型的攻击，我们发现这些通用对抗触发器可能仅仅是嵌入向量，它们近似于对抗训练区域中的语义信息，从而为大型语言模型的通用对抗攻击提供了一个新的几何学视角。
PDF10 months ago
IJCAI曲率空间中的对比图聚类
提出了一个新的端到端的对比式图聚类模型 CONGREGATE，通过构建一个理论上的异质曲率空间，并利用基于 Ricci 曲率的几何学图聚类方法，通过对比训练方法，成功地解决了图形聚类中的几何难点，并在真实世界中的图形上取得了最先进的成果。
PDFa year ago
基于得分的生成模型的几何学
该研究从几何角度探讨了基于得分模型的扩散生成模型，证明了加噪声和从噪声生成的正向和反向过程在概率测度空间中是 Wasserstein 梯度流。同时给出了附加传统得分模型的投影步骤的直观几何解决方案，提出了减少采样时间的方法。
PDFa year ago
ICLR几何学方法下的聚类驱动下的 Voronoi 图进行小样本学习
本文从几何角度研究了少样本学习的问题，并提出了一个基于 Cluster-induced Voronoi Diagram 的方法，用于集成参数和非参数，进行特征表示和代理表示的组合，以及利用几何层次的异质性进行改进。该方法在 mini-Ima
PDF2 years ago
通过子集平滑，在 O (k . nnz (data)) 时间内找到一个潜在的 k - 单形体
本文利用几何视角将混合成分随机块、主题模型和敌对聚类等多种潜变量模型进行了统一，并针对潜变量进行了解析，提出了一种高效算法和子集平滑多面体的概念。
PDF5 years ago