基于感知器的线性分离的精细逼近技术

Sep, 2023

基于感知器的线性分离的精细逼近技术

A Perceptron-based Fine Approximation Technique for Linear Separation

Ákos Hajnal

TL;DR该文章提出了一种新颖的在线学习方法，旨在找到将数据点标记为正或负之间的分割超平面。该方法基于感知器算法，通过调整神经元权重来搜索分割超平面，使其更加高效。通过适当的数据集转换，该方法将数据的分离性问题减少为一类分类问题。实证结果表明在数据集大小超过数据维度时，该方法比感知器算法更有效。

Abstract

This paper presents a novel online learning method that aims at finding a separator hyperplane between data points labelled as either positive or negative. Since weights and biases of artificial neurons can direc

online learning separator hyperplane perceptron-based binary classifiers heuristics one-class classification problem

发现论文，激发创造

受限噪音下线性分隔器的高效学习

研究了线性分离器在 Massart 噪声下的可学习性，提供了第一个在此噪声模型下可以多项式时间学习线性分离器的算法，并证明了传统算法不能达到理想误差。我们的算法是基于活动学习的，并且具有对数标签复杂度。

Mar, 2015

使用线性教师研究神经网络中的学习

本文证明了，通过 SGD 训练具有 Leaky ReLU 激活函数的两层神经网络，可以在全局最小化交叉熵的同时学习线性可分数据，且学习的网络具有较为简单的近似线性决策边界。同时，本文提出了一种可以发现权重聚类的优化条件，并通过实验证明了理论分析的正确性。

Jan, 2021

利用本地化能力高效学习受到噪声影响的线性分离器

本研究提出了一种新的方法来设计计算效率高、能够容忍噪声的学习算法，并通过设计具有改善噪声容忍度的线性分离器学习算法来证明其有效性。在恶意噪声模型和对抗标签噪声模型方面展开讨论，并为这些模型提供了多项式时间算法，以在各自的噪声下学习线性分类器。在主动学习模型下，算法实现标签复杂度对于误差参数的对数对数依赖。

Jul, 2013

基于神经网络的成对约束聚类

本文介绍了一种基于神经网络的端到端聚类框架，该框架可从原始数据中推动形成聚类，且无需提前定义聚类中心，具有较好的性能且对聚类数量不敏感。

Nov, 2015

二元神经元学习的计算难度来源

通过分析权重空间结构得到 Franz-Parisi 势能解决二元感知器问题，发现权重空间由孤立解构成，而不是非常接近的集群，这些点状集群在权重空间中相距很远，解释了以前观察到的随机局部搜索启发式算法的玻璃态行为。

Aug, 2014

稀疏线性分类的可证明准确性相似度学习

本文介绍一种基于非半正定线性相似性的学习算法，用于分类，该算法能够通过最优化距离和相似度函数来在非线性特征空间中学习，该方法得到应用后，在各种数据集上比起现有方法具有更好的效果，而且速度快、防止过拟合和产生非常稀疏的分类器。

Jun, 2012

神经网络中的高维解流形：基于统计物理的见解

论文概述了统计力学方法在神经网络中的应用，重点讨论了感知器结构、训练误差配置和解空间的平均形状等主题。