BriefGPT.xyz
Ask
alpha
关键词
symbolic rules
搜索结果 - 5
跨图像上下文对于邦加德问题至关重要
现有的机器学习方法在解决博加德问题方面存在困难,不仅是因为神经网络缺乏人类化的符号规则找寻能力,更因为许多方法仅仅依靠从个体支持集中提取的信息而未整合整个支持集所包含的信息,而我们探索了多种简单的方法来考虑这种跨图像的上下文,并展示了相较之
→
PDF
10 months ago
关于标签约束的正则化和推理
在机器学习中,先验知识和符号规则通常以标签约束的形式表达,本文比较了两种常见的将标签约束编码到机器学习流程中的策略,即带约束的正则化和约束推断,并通过量化它们对模型性能的影响。通过正则化,作者表明它通过排除与约束不一致的模型来缩小泛化差距,
→
PDF
a year ago
使用 Transformers 进行数学推理系统评估的符号框架
使用数据生成方法和符号代数,对变换器编码器的数学推理和泛化进行了 200,000 个例子的超大规模实验,并回答了变换器是否可以学习应用符号规则并推广到超出分布范围的例子。结果表明,扰动严重影响性能,并且可以将 F1 分数降至低于 17%,这
→
PDF
a year ago
EMNLP
可解释半监督学习的自动规则归纳
本文提出了自动规则归纳(ARI)框架,该框架可从小型标签数据的机器学习模型中提取符号规则,并使用注意力机制将这些规则整合到高容量的预训练变压器模型中,从而提高弱监督和半监督 NLP 算法的性能和可解释性,并通过对 9 个序列分类和关系提取任
→
PDF
2 years ago
Transformer 是否知道符号规则,我们是否能知晓?
本文提出了两个标准评估 transformer 网络在 NLP 中的 symbolic capacities,并指出当前关于其 symbolic 特性的研究结果基于实验设计的固有缺陷,进而在 T5 Transformer 上进行了四项序列建
→
PDF
2 years ago
Prev
Next