TensorFlow笔记(2)——利用TensorFlow训练一个最简单的一元线性模型

这是一次使用 《TensorFlow笔记(1)——TensorFlow中的相关基本概念》 中学习到的知识进行机器学习的实验,一来是为了理解机器学习大概是什幺样的,另一方面也算是将之前学习到的一些知识活学活用。 本次实现的环境为:

macOS Mojave 10.14.1
python 3.7.0(pyenv)
Tensorflow 1.12.0
numpy 1.15.4

简单介绍下机器学习是什幺

 

机器学习和人类学习的过程:

如果觉得上图不好理解的话就再举一个栗子:

 

假设你有个女朋友,她特别爱美。为了互相了解,你们每周末都会一起约会吃饭;已经约会有8周了,每周吃饭你女朋友都会比约定时间晚到10分钟-30分钟,所以你每次约会也会比约定时间晚10-30分钟,并且你总结了一个规律(如果约会前打电话她说从家走了,那幺基本都是晚到30分钟左右,如果她说就快到了,那幺基本会晚到10分钟),不过你女朋友后来迟到的时间从10、30分钟变成了15、45分钟,你也自己调整了约定时间后到达的时间。

 

根据上述栗子:chestnut:我们来类比下:

 

机器学习方法是计算机利用已有的数据(8次约会的经验),得出了某种模型(迟到的规律),并利用此模型预测未来(是否迟到)的一种方法。

 

Tensorflow的基础知识

 

基础知识在这里我就不多说了,详见 《TensorFlow笔记(1)——TensorFlow中的相关基本概念》

 

构建一个线性模型

 

先来说明下我们需要构建的这个简单的线性模型是什幺东西:

 

假设我们有个线性模型(一元一次函数): y=0.1x+0.2 ,我们知道这个线性模型长啥样,就是一条直线嘛,但是我现在想让机器也知道这条直线,该怎幺做?还记得上面说的那个栗子吗,我们可以提供一系列类似 (x,y) 的数据,然后带入 y=k*x_data+b ,求出k和b的值之后,机器也就知道了这个线性模型长啥样了。

 

下面来更数学化一点的介绍:

 

给定一个大小为n的点集 ={( 1, 1),( 2, 2),…( , )} ,

 

线性模型的目标就是寻找一组 K 和 构成的直线 = K + ,

 

使得所有点的损失值 = 越小越好,因为 越小就表明预测值与真实值的差距越小。

 

因为如果我们找到了这幺一组 K 和 ,我们就可以预测某一个 的 值。

 

这里我想多说几句,线性模型在实际应用中不一定能很好的预测 的值,这是因为实际的数据分布也许不是线性的,可能是二次、三次、圆形甚至无规则,所以判断什幺时候能用线性模型很重要。只是因为我们在这里知道了这是线性模型才这幺做的,真正构建模型的时候是需要相应的方法的。

 

代码解读

 

话不多少,分段来看代码:

 

 

    1. 导入相应的python包,这里我们使用了tensorflow和numpy

 

 

# tensorflow简单示例
import tensorflow as tf
import numpy as np

 

 

    1. 使用numpy生成1000个随机点,关于numpy的使用,可以查看我的numpy系列笔记

 

 

# 使用numpy生成1000个随机点
x_data = np.random.rand(1000)
y_data = x_data*0.1+0.2         # 真实值

 

 

    1. 构造一个线性模型

 

 

# 构造一个线性模型
b = tf.Variable(0.)
k = tf.Variable(0.)
y = k*x_data+b                  # 预测值

 

 

    1. 定义损失函数,用于判断y  真实值 和y  预测值 之间的差距

 

 

# 二次代价函数(损失函数)
loss = tf.reduce_mean(tf.square(y_data-y))

 

依次来解释下每个部分的含义:

 

y_data-y
tf.square
tf.reduce_mean

 

所以上面这三个函数合在一起就是计算loss值。

 

 

    1. 使用

GradientDescentOptimizer

    1. 类创建一个优化器来优化模型,减少

loss

    1. 值,这个类的原理是梯度下降,至于什幺是梯度下降,可以参考其他教程,日后会介绍,目前只要知道这幺写就好了。

 

 

# 定义一个梯度下降法来进行训练的优化器
optimizer = tf.train.GradientDescentOptimizer(0.2)

 

 

    1. 使用优化器来减少

loss

    1. 值,

minimize

    1. 是优化器的一个方法

 

 

# 定义一个最小化代价函数
train = optimizer.minimize(loss)

 

 

    1. 初始化上面的所有变量

 

 

# 初始化变量
init = tf.global_variables_initializer()

 

 

    1. 利用

Session

    1. 训练我们的模型

 

 

with tf.Session() as sess:	# 定义会话上下文
    sess.run(init)	# 执行初始化操作
    for step in range(3000):  # 训练3000次
        sess.run(train)	# 执行训练操作
        if step % 20 == 0:	# 每隔20步
            print(step, sess.run([k, b]))	# 打印出k和b的值

 

至此,一个最简单的线性模型也就完成了。下面是所有代码:

 

# tensorflow简单示例
import tensorflow as tf
import numpy as np
# 使用numpy生成1000个随机点
x_data = np.random.rand(1000)
y_data = x_data*0.1+0.2         # 真实值
# 构造一个线性模型
b = tf.Variable(0.)
k = tf.Variable(0.)
y = k*x_data+b                  # 预测值
# 二次代价函数(损失函数)
loss = tf.reduce_mean(tf.square(y_data-y))
# 定义一个梯度下降法来进行训练的优化器
optimizer = tf.train.GradientDescentOptimizer(0.2)
# 定义一个最小化代价函数
train = optimizer.minimize(loss)
# 初始化变量
init = tf.global_variables_initializer()
with tf.Session() as sess:
    sess.run(init)
    for step in range(3000):
        sess.run(train)
        if step % 20 == 0:
            print(step, sess.run([k, b]))

 

运行结果的部分截图:

从上面两张图我们可以明显的看出来,在训练到第2980次的时候,k的结果已经非常非常接近0.1,b也非常非常接近0.2了,由此可以看出,这个模型还是较为正确的。

发表评论

电子邮件地址不会被公开。 必填项已用*标注