Press "Enter" to skip to content

机器学习【线性回归算法1】

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

文章目录

 

一 简介

 

1 应用场景

 

房价预测、销售额度预测、贷款额度预测

 

2 什幺是线性回归

 

2.1 定义与公式

 

线性回归(Linear regression)是利用 回归方程(函数) 对 一个或多个自变量(特征值)和因变量(目标值)之间 关系进行建模的一种分析方式。

 

特点:只有一个自变量的情况称为单变量回归,多于一个自变量情况的叫做多元回归

 

 

特征值与目标值之间建立了一个关系,这个关系可以理解为线性模型。

 

2.2 特征与目标的关系分析

 

线性回归当中主要有两种模型,**一种是线性关系,另一种是非线性关系。**在这里只能画一个平面更好去理解,所以都用单个特征或两个特征举例子。

 

线性关系

单变量线性关系:

 

多变量线性关系

 

单特征与目标值的关系呈直线关系,或者两个特征与目标值呈现平面的关系

 

更高维度的不用自己去想,记住这种关系即可

 

非线性关系

 

如果是非线性关系,那幺回归方程可以理解为:w1x1+w2x2 2+w3x3 2

 

二 API初步使用

 

sklearn.linear_model.LinearRegression()
LinearRegression.coef_:回归系数,查看各项对应的系数值

 

需求:已知学生平时成绩、期末成绩、最终成绩,计算出平时成绩和期末成绩的权重值

 

# 导入模块
from sklearn.linear_model import LinearRegression
# 构造数据集
x = [[80, 86],
[82, 80],
[85, 78],
[90, 90],
[86, 82],
[82, 90],
[78, 80],
[92, 94]]
y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]
# 机器学习-- 模型训练
# 实例化API
estimator = LinearRegression()
# 使用fit方法进行训练
estimator.fit(x,y)
# 查看对应的系数值
coef = estimator.coef_
print("系数是:
",coef)
# 预测
print("预测值是:
",estimator.predict([[100, 80]]))

 

三 数学:求导

 

1 常见函数的导数

 

 

2 导数的四则运算

 

 

3 矩阵(向量)求导

 

 

四 线性回归的损失和优化

 

假设房价真实的数据之间存在这样的关系

 

真实关系:真实房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率

 

之后自己构建一个模型

 

随机指定关系:预测房子价格 = 0.25×中心区域的距离 + 0.14×城市一氧化氮浓度 + 0.42×自住房平均房价 + 0.34×城镇犯罪率

 

 

如何衡量这两个算法,哪个个更加符合实际情况

 

1 损失函数

 

总损失定义为:

 

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-bqcFhBr7-1659618106430)(03线性回归/09线性回归损失函数.png)]

 

yi为第i个训练样本的真实值
h(xi)为第i个训练样本特征值组合预测函数
又称最小二乘法

 

如何去减少这个损失,使预测的更加准确些?既然存在了这个损失,一直说机器学习有自动学习的功能,在线性回归这里更是能够体现。这里可以通过一些优化方法去优化(其实是数学当中的求导功能)回归的总损失!!!

 

2 优化算法

 

如何去求模型当中的W,使得损失最小?(目的是找到最小损失对应的W值)

 

线性回归经常使用的两种优化算法

 

2.1 正规方程

 

2.1.1 什幺是正规方程

 

 

X为特征值矩阵,y为目标值矩阵。直接求到最好的结果

 

缺点:当特征过多过复杂时,求解速度太慢并且得不到结果

 

 

2.1.2 正规方程求解举例

 

以下表示数据为例:

 

 

即:

 

 

运用正规方程方法求解参数:

 

 

时间复杂度O(n 3 )

 

2.1.3 正规方程的推导

推导方式一:

把该损失函数转换成矩阵写法:

 

其中y是真实值矩阵,X是特征值矩阵,w是权重矩阵

 

对其求解关于w的最小值,起止y,X 均已知二次函数直接求导,导数为零的位置,即为最小值。

 

求导:

 

 

注:式(1)到式(2)推导过程中, X是一个m行n列的矩阵,并不能保证其有逆矩阵,但是右乘XT把其变成一个方阵,保证其有逆矩阵。

 

式(5)到式(6)推导过程中,和上类似。

推导方式二【拓展】:

https://www.jianshu.com/p/2b6633bd4d47

 

2.2 梯度下降(Gradient Descent)

 

2.2.1 什幺是梯度下降

 

梯度下降法的基本思想可以类比为一个下山的过程。

 

假设这样一个场景:一个人被困在山上,需要从山上下来(i.e. 找到山的最低点,也就是山谷)。但此时山上的浓雾很大,导致可视度很低。因此,下山的路径就无法确定,他必须利用自己周围的信息去找到下山的路径。这个时候,他就可以利用梯度下降算法来帮助自己下山。具体来说就是,以他当前的所处的位置为基准, 寻找这个位置最陡峭的地方,然后朝着山的高度下降的地方走 ,(同理,如目标是上山,也就是爬到山顶,那幺此时应该是朝着最陡峭的方向往上走)。然后每走一段距离,都反复采用同一个方法,最后就能成功的抵达山谷。

 

 

梯度下降的基本过程就和下山的场景很类似。

 

首先,有一个 可微分的函数 。这个函数就代表着一座山。

 

目标就是找到 这个函数的最小值 ,也就是山底。

 

根据之前的场景假设,最快的下山的方式就是找到当前位置最陡峭的方向,然后沿着此方向向下走,对应到函数中,就是 找到给定点的梯度 ,然后朝着梯度相反的方向,就能让函数值下降的最快!因为梯度的方向就是函数之变化最快的方向。 所以,重复利用这个方法,反复求取梯度,最后就能到达局部的最小值,这就类似于下山的过程。而求取梯度就确定了最陡峭的方向,也就是场景中测量方向的手段。

 

2.2.2 梯度的概念

 

梯度是微积分中一个很重要的概念

 

在单变量的函数中,梯度其实就是函数的微分,代表着函数在某个给定点的切线的斜率

 

在多变量函数中,梯度是一个向量,向量有方向,梯度的方向就指出了函数在给定点的上升最快的方向

 

这也就说明了为什幺需要千方百计的求取梯度!需要到达山底,就需要在每一步观测到此时最陡峭的地方,梯度就恰巧告诉了这个方向。梯度的方向是函数在给定点上升最快的方向,那幺梯度的反方向就是函数在给定点下降最快的方向,这正是所需要的。所以只要沿着梯度的反方向一直走,就能走到局部的最低点!

 

2.2.3 梯度下降举例

 

单变量函数的梯度下降

 

假设有一个单变量的函数 :J(θ) = θ 2

 

函数的微分:J`(θ) = 2θ

 

初始化,起点为: θ 0 = 1

 

学习率:α = 0.4

 

开始进行梯度下降的迭代计算过程:

 

 

如图,经过四次的运算,也就是走了四步,基本就抵达了函数的最低点,也就是山底

 

 

多变量函数的梯度下降

 

假设有一个目标函数 ::J(θ) = θ 12 + θ 22

 

现在要通过梯度下降法计算这个函数的最小值。通过观察就能发现最小值其实就是 (0,0)点。但是接下 来,会从梯度下降算法开始一步步计算到这个最小值! 假设初始的起点为: θ0 = (1, 3)

 

初始的学习率为:α = 0.1

 

函数的梯度为:▽:J(θ) =< 2θ 1 ,2θ 2 >

 

进行多次迭代:

 

已经基本靠近函数的最小值点

 

 

2.2.4 梯度下降(Gradient Descent)公式

 

 

α在梯度下降算法中被称作为 学习率 或者 步长 ,意味着可以通过α来控制每一步走的距离,不要走太快,错过了最低点。同时也要保证不要走的太慢。所以α的选择在梯度下降法中往往是很重要的!α不能太大也不能太小,太小的话,可能导致迟迟走不到最低点,太大的话,会导致错过最低点!

 

 

梯度前加一个负号,就意味着朝着梯度相反的方向前进!在前文提到,梯度的方向实际就是函数在此点上升最快的方向!而需要朝着下降最快的方向走,自然就是负的梯度的方向,所以此处需要加上负号

 

有了梯度下降优化算法,回归就有了”自动学习”的能力

优化动态图演示

梯度下降和正规方程的对比

 

梯度下降正规方程
需要选择学习率不需要
需要迭代求解一次运算得出
特征数量较大可以使用需要计算方程,时间复杂度高O(n3)

 

选择:
小规模数据:
LinearRegression(不能解决拟合问题)
岭回归
大规模数据:SGDRegressor

 

五 梯度下降法介绍

 

常见的梯度下降算法有:

全梯度下降算法(Full gradient descent),
随机梯度下降算法(Stochastic gradient descent),
随机平均梯度下降算法(Stochastic average gradient descent)
小批量梯度下降算法(Mini-batch gradient descent),

它们都是为了正确地调节权重向量,通过为每个权重计算一个梯度,从而更新权值,使目标函数尽可能最小化。其差别在于样本的使用方式不同。

 

1 全梯度下降算法(FG)

 

计算所有样本的误差平均值作为目标函数

 

计算训练集所有样本误差,对其求和再取平均值作为目标函数。

 

权重向量沿其梯度相反的方向移动,从而使当前目标函数减少得最多。

 

因为在执行每次更新时,需要在整个数据集上计算所有的梯度,所以批梯度下降法的速度会很慢,同时,批梯度下降法无法处理超出内存容量限制的数据集。

 

批梯度下降法同样也不能在线更新模型,即在运行的过程中,不能增加新的样本。

 

其是在整个训练数据集上计算损失函数关于参数θ的梯度:

 

2 随机梯度下降算法(SG)

 

每次只选择一个样本进行计算

 

由于FG每迭代更新一次权重都需要计算所有样本误差,而实际问题中经常有上亿的训练样本,故效率偏低,且容易陷入局部最优解,因此提出了随机梯度下降算法。

 

其每轮计算的目标函数不再是全体样本误差,而仅是单个样本误差,即每次只代入计算一个样本目标函数的梯度来更新权重,再取下一个样本重复此过程,直到损失函数值停止下降或损失函数值小于某个可以接受的阈值。

 

此过程简单,高效,通常可以较好地避免更新迭代收敛到局部最优解。其迭代形式为

 

 

每次只使用一个样本迭代,若遇上噪声则容易陷入局部最优解。

 

其中,x (i) 表示一条训练样本的特征值,y (i) 表示一条训练样本的标签值

 

但是由于,SG每次只使用一个样本迭代,若遇上噪声则容易陷入局部最优解。

 

3 小批量梯度下降算法(mini-batch)

 

选择一部分样本进行计算

 

小批量梯度下降算法是FG和SG的折中方案,在一定程度上兼顾了以上两种方法的优点。

 

每次从训练样本集上随机抽取一个小样本集,在抽出来的小样本集上采用FG迭代更新权重。

 

被抽出的小样本集所含样本点的个数称为batch_size,通常设置为2的幂次方,更有利于GPU加速处理。

 

特别的,若batch_size=1,则变成了SG;若batch_size=n,则变成了FG.其迭代形式为

 

 

4 随机平均梯度下降算法(SAG)

 

给每个样本都维持一个平均值,等到计算时,参考平均值

 

在SG方法中,虽然避开了运算成本大的问题,但对于大数据训练而言,SG效果常不尽如人意,因为每一轮梯度更新都完全与上一轮的数据和梯度无关。

 

随机平均梯度算法克服了这个问题,在内存中为每一个样本都维护一个旧的梯度,随机选择第i个样本来更新此样本的梯度,其他样本的梯度保持不变,然后求得所有梯度的平均值,进而更新了参数。

 

如此,每一轮更新仅需计算一个样本的梯度,计算成本等同于SG,但收敛速度快得多。

 

5 算法比较

 

为了比对四种基本梯度下降算法的性能,通过一个逻辑二分类实验来说明。本文所用的Adult数据集来自UCI公共数据库( http://archive.ics.uci.edu/ml/datasets/Adult)。 数据集共有15081条记录,包括“性别”“年龄”“受教育情况”“每周工作时常”等14个特征,数据标记列显示“年薪是否大于50000美元”。将数据集的80%作为训练集,剩下的20%作为测试集,使用逻辑回归建立预测模型,根据数据点的14个特征预测其数据标记(收入情况)。

 

以下6幅图反映了模型优化过程中四种梯度算法的性能差异。

 

 

在图1和图2中,横坐标代表有效迭代次数,纵坐标代表平均损失函数值。图1反映了前25次有效迭代过程中平均损失函数值的变化情况,为了便于观察,图2放大了第10次到25次的迭代情况。

 

从图1中可以看到, 四种梯度算法下,平均损失函数值随迭代次数的增加而减少 。 FG的迭代效率始终领先 ,能在较少的迭代次数下取得较低的平均损失函数值。 FG与SAG的图像较平滑 ,这是因为这两种算法在进行梯度更新时都结合了之前的梯度; SG与mini-batch的图像曲折明显 ,这是因为这两种算法在每轮更新梯度时都随机抽取一个或若干样本进行计算,并没有考虑到之前的梯度。

 

从图2中可以看到**虽然四条折现的纵坐标虽然都趋近于0,但SG和FG较早,mini-batch最晚。**这说明如果想使用mini-batch获得最优参数,必须对其进行较其他三种梯度算法更多频次的迭代。

 

在图3,4,5,6中,横坐标表示时间,纵坐标表示平均损失函数值。

 

从图3中可以看出使用四种算法将平均损失函数值从0.7降到0.1最多只需要2.5s,由于本文程序在初始化梯度时将梯度设为了零,故前期的优化效果格外明显。其中SG在前期的表现最好,仅1.75s便将损失函值降到了0.1,虽然SG无法像FG那样达到线性收敛,但在处理大规模机器学习问题时, 为了节约时间成本和存储成本,可在训练的一开始先使用SG,后期考虑到收敛性和精度可改用其他算法。

 

从图4,5,6可以看出,随着平均损失函数值的不断减小,SG的性能逐渐反超FG,FG的优化效率最慢,即达到相同平均损失函数值时FG所需要的时间最久。

 

综合分析六幅图得出以下结论:

 

(1)FG方法由于它每轮更新都要使用全体数据集,故花费的时间成本最多,内存存储最大。

 

(2)SAG在训练初期表现不佳,优化速度较慢。这是因为常将初始梯度设为0,而SAG每轮梯度更新都结合了上一轮梯度值。

 

(3)综合考虑迭代次数和运行时间,SG表现性能都很好,能在训练初期快速摆脱初始梯度值,快速将平均损失函数降到很低。但要注意,在使用SG方法时要慎重选择步长,否则容易错过最优解。

 

(4)mini-batch结合了SG的“胆大”和FG的“心细”,从6幅图像来看,它的表现也正好居于SG和FG二者之间。在目前的机器学习领域,mini-batch是使用最多的梯度下降算法,正是因为它避开了FG运算效率低成本大和SG收敛效果不稳定的缺点。

 

6 梯度下降优化算法

 

以下这些算法主要用于深度学习优化

动量法

其实动量法(SGD with monentum)就是SAG的姐妹版
SAG是对过去K次的梯度求平均值
SGD with monentum 是对过去所有的梯度求加权平均

Nesterov加速梯度下降法

类似于一个智能球,在重新遇到斜率上升时候,能够知道减速

Adagrad

让学习率使用参数
对于出现次数较少的特征,对其采用更大的学习率,对于出现次数较多的特征,对其采用较小的学习率。

Adadelta

Adadelta是Adagrad的一种扩展算法,以处理Adagrad学习速率单调递减的问题。

RMSProp

其结合了梯度平方的指数移动平均数来调节学习率的变化。
能够在不稳定(Non-Stationary)的目标函数情况下进行很好地收敛。

Adam

结合AdaGrad和RMSProp两种优化算法的优点。
是一种自适应的学习率算法

参考链接: https://blog.csdn.net/google19890102/article/details/69942970

Be First to Comment

发表回复

您的电子邮箱地址不会被公开。