机器学习-感知机模型

一、引言

  单层感知机是神经网络的一个基本单元,类似于人类的神经网络的一个神经元,神经网络是由具有适应性的简单单元(感知机)组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。感知机可以理解为对输入进行处理,并得到输出结果的机器。我们似乎明白了很多,但是不明白到底为什么明白,就和人的大脑一样神秘。

  感知机1957年由Rosenblatt提出,是神经网络与支持向量机的基础。是二类分类的线性分类模型,属于判别模型,旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。

  • 训练数据集:线性可分(必存在超平面将训练集正负实例分开)
  • 学习目标:找到一个将训练集正、负实例点完全正确分开的超平面
  • 具体学习对象: [公式]
  • 学习策略:误分类点到超平面S的总距离最小
  • 算法形式:原始形式+对偶形式

二、从机器学习的角度认识感知机

1.感知机模型

  • 输入空间(特征空间)是 [公式] ,输入 [公式] 表示实例的特征向量
  • 输出空间是 [公式] ,输出 [公式] 表示实例的类别。
  • 输入空间 —> 输出空间:

    [公式]

  其中, [公式]  [公式] 为感知机模型参数,也就是我们机器学习最终要学习的参数

  sign是符号函数,

[公式]0\\ -1,x

  常用的经典形式,由于只有一层,又被称为单层感知机。如下:

            

  从几何角度分析

  由于:


  相当于n维空间的一个超平面。ω为超平面的法向量,b为超平面的截距,x为空间中的点。

  当x位于超平面的正侧时:


  感知机被激活。

  当x位于超平面的负侧时:


  感知机被抑制。

  所以,从几何的角度来看,感知机就是n维空间的一个超平面,它把特征空间分成两部分。

2.分类与学习策略

确定学习策略就是定义(经验)损失函数并将损失函数最小化。(注意这里提到了经验,所以学习是base在训练数据集上的操作)

关于损失函数的选择问题?

我们对损失函数的要求就是参数[公式] 的连续可导函数,这样才易优化(后面随机梯度来优化,不可导何谈梯度)。为此,感知机的损失函数选择了:误分类点到超平面 [公式] 的总距离,而不是误分类点的总数。

数学形式:

[公式]

其中 [公式] 是误分类点的集合,给定训练数据集 [公式] ,损失函数 [公式] 是 [公式] 和 [公式] 的连续可导函数

3.原始算法

  下面我们来看感知机的学习算法。给定一个训练数据集T={(x1,y1),(x2,y2),…,(xN,yN)}T={(x1,y1),(x2,y2),…,(xN,yN)}
感知机的算法是误分类驱动的,具体采用 随机梯度下降法(stochastic gradient descent). 在极小化目标函数的过程中,并不是一次使 M 中所有误分类的点梯度下降,而是每次随机一个误分类的点使其梯度下降。
具体步骤为:
  1.假设误分类点的集合为 M,那么损失函数L(w, b)的梯度为:
                        

  2.随机选取一个误分类的点 (xi,yi),对 w, b 更新:

                         

式中 η(0<η≤1)是步长,又称为 学习率(learning_rate),这样,通过迭代可以使损失函数不断减小,直到为 0.
当训练数据集线性可分的时候,感知机学习算法是收敛的,并且存在无穷多个解,解会由于不同的初值或不同的迭代顺序不同而有所不同。

4、算法——对偶形式

对偶形式的基本思想是将 [公式] 和 [公式] 表示为实例 [公式] 和标记 [公式] 的线性组合的形式,通过求解其系数而求得 [公式] 和 [公式] 。

原始形式中对误分类点 [公式] 通过:

[公式]

来修正。假设对于某误分类点 [公式] ,一共修正了 [公式] 次,那么:

[公式]

那么,对于所有数据点 [公式] 的变化就是:

[公式]

如果令初始 [公式] ,则有:

[公式]

在原始形式中,我们是要学习 [公式] ,现在可以转化为 [公式]

对偶形式:

  • 输入:

    <img src="https://www.zhihu.com/equation?tex=+T%3D%7B%28x_1%2Cy_1%29%2C%28x_2%2Cy_2%29%2C%5Cdots%2C%28x_N%2Cy_N%29%7D%5C%5C+x_i%5Cin+%7BX%7D%3D%5Cbf%7BR%7D%5En+%2C+y_i%5Cin+%7BY%7D+%3D%7B-1%2C%2B1%7D%2C+i%3D1%2C2%2C%5Cdots%2C+N%3B+0%3C+%5Ceta+%5Cleqslant+1" alt="[公式]" data-formula=" T={(x_1,y_1),(x_2,y_2),\dots,(x_N,y_N)}\\ x_i\in {X}=\bf{R}^n , y_i\in {Y} ={-1,+1}, i=1,2,\dots, N; 0

  • 输出:

    [公式]

  • 步骤:
  1. [公式]
  2. 训练集中选取数据 [公式]
  3. 如果 [公式]

    [公式]

  4. 转至(2),直至训练集中没有误分类点
  5. 步骤解释:
  6. 步骤1:和前面一样,初始值取0
  7. 步骤2:每次也是选取一个数据
  8. 步骤3:
    • 如果数据点是误判点的话,开始修正
    • 这里关注一下梯度的计算:对于每一个数据 [公式] 每一次修正来说, [公式] 的变化量是: [公式] , [公式] 还是 [公式] 不变
  • 步骤4:与原始形式一样,感知机学习算法的对偶形式迭代是收敛的,存在多个解

Gram matrix

对偶形式中,训练实例仅以内积的形式出现。

为了方便可预先将训练集中的实例间的内积计算出来并以矩阵的形式存储,这个矩阵就是所谓的Gram矩阵

[公式]

三、代码实现

import pandas as pd
import numpy as np
from sklearn.datasets import load_iris
import matplotlib.pyplot as plt

#加载数据
iris = load_iris()
df = pd.DataFrame(iris.data, columns=iris.feature_names)
df['label'] = iris.target

df.columns = [
    'sepal length', 'sepal width', 'petal length', 'petal width', 'label'
]
print(df.label.value_counts())

#画出原始数据离散图
plt.scatter(df[:50]['sepal length'], df[:50]['sepal width'], label='0')
plt.scatter(df[50:100]['sepal length'], df[50:100]['sepal width'], label='1')
plt.xlabel('sepal length')
plt.ylabel('sepal width')
plt.title('original data')
plt.legend()
plt.show()

data = np.array(df.iloc[:100, [0, 1, -1]])
X, y = data[:,:-1], data[:,-1]
print("X: ",X)
print("y: ",y)
y = np.array([1 if i == 1 else -1 for i in y])

#感知机模型
# 数据线性可分,二分类数据
# 此处为一元一次线性方程
class Model:
    def __init__(self):
        self.w = np.ones(len(data[0]) - 1, dtype=np.float32)
        self.b = 0
        self.l_rate = 0.1
        # self.data = data

    def sign(self, x, w, b):
        y = np.dot(x, w) + b
        return y

    # 随机梯度下降法
    def fit(self, X_train, y_train):
        is_wrong = False
        while not is_wrong:
            wrong_count = 0
            for d in range(len(X_train)):
                X = X_train[d]
                y = y_train[d]
                if y * self.sign(X, self.w, self.b) <= 0:
                    self.w = self.w + self.l_rate * np.dot(y, X)
                    self.b = self.b + self.l_rate * y
                    wrong_count += 1
            if wrong_count == 0:
                is_wrong = True
        return 'Perceptron Model!'

    def score(self):
        pass

perceptron = Model()
perceptron.fit(X, y)

#画出训练结果
x_points = np.linspace(4, 7, 10)
y_ = -(perceptron.w[0] * x_points + perceptron.b) / perceptron.w[1]
plt.plot(x_points, y_)
plt.plot(data[:50, 0], data[:50, 1], 'bo', color='blue', label='0')
plt.plot(data[50:100, 0], data[50:100, 1], 'bo', color='orange', label='1')
plt.xlabel('sepal length')
plt.ylabel('sepal width')
plt.title('result')
plt.legend()
plt.show()

输出结果:

以上部分内容来自于网络,如有侵权,联系删除

张贴在2