Press "Enter" to skip to content

逻辑回归数学原理推导

逻辑回归可能是最为基础的机器算法之一了,本文详细介绍了逻辑回归损失函数的设计原理与梯度下降的公式推导, 更多资料关注公众号【推荐系统与机器学习】

 

决策边界

sigmoid z函数

 

此时函数y叫做sigmoid函数, 该函数可以将值分布在0和1之间, h(z)是一个条件概率

 

举例 肿瘤数据集合有多个特征, 假设恶性肿瘤概率 h(z) = 0.7, 也就是说

 

 

翻译成人话就是在条件下 为恶性肿瘤的概率为0.7, 其中为特征向量,为权重向量,为bias

 

而所谓的决策边界就是个线/面, 能分开函数z的输入集合, 假设有两个特征

 

, 分类数为2, 分别用 圆圈 和   红叉 表示, 可画成下面的图

 

 

线性决策额边界 非线性决策边界

 

损失函数

 

如果使用线性回归的那种均方差做损失函数, 不是一个凸函数, 这样就无法梯度下降求最优解了, 应该采用另外一种方式

 

 

均方差做损失函数 图形

 

假设只有两个标签1 / 0, 即 , 我们把采集的任意一组样本看作一个时间的话, 它发生的概率为, 即模型y值等于标签1的概率为 p

 

 

由于标签值不是就是0, 那幺

 

 

上面的两个公式等价于:

 

意义为: 对于样本, 对于这组数据,它的标签是

的概率是

 

 

那幺假如有一组数据 这个合成的总事件发生的改率即每个样本发生概率的乘积

 

 

我们的目标就是求合适的参数使得最大, 由于连乘不好算, 而且观察公式发现其函数值正比于其对数, 有以下公式

 

 

最后问题就变成了找到一个, 使得最大, 也就是使得最小, 数学上表达为

 

 

梯度下降

 

首先对求导数, 结合sigmoid函数的性质, 其对向量的导数为

 

求损失函数的偏导数

 

 

在SGD中, 只要能随机的选取一个样本, 然后再把值乘以N, 就相当于获取梯度的无偏估计

 

所以参数的随机梯度下降的公式为

 

 

其中为一个常量, 所以参数的更新公式最终为

 

 

与SVM/感知机的区别

 

感知机模型将分离超平面对数据分割,寻找出所有错误的分类点,计算这些点到超平面的距离,使这一距离和最小化,也就是说感知机模型的最优化问题是使得错误分类点到超平面距离之和最小化。

 

逻辑斯蒂回归是将分离超平面作为sigmoid函数的自变量进行输入,获得了样本点被分为正例和反例的条件概率,然后用极大似然估计极大化这个后验概率分布,也就是说逻辑斯蒂回归模型的最优化问题是极大似然估计样本的后验概率分布。

 

支持向量机的最优化问题是最大化样本点到分离超平面的最小距离。

Be First to Comment

发表评论

电子邮件地址不会被公开。 必填项已用*标注