介绍
线性回归是入门机器学习必学的算法,其也是最基础的算法之一。
接下来,我们以线性回归为例,使用 TensorFlow 2 提供的 API 和 Eager Execution 机制对其进行实现。
线性回归是一种较为简单,但十分重要的机器学习方法,它也是神经网络的基础。
如下所示,线性回归要解决的问题就是如何找到最理想的直线去拟合散点样本。
- 最小二乘法
- 代数求解
- 矩阵求解
- 梯度下降法。
Keras 方式实现
配合 TensorFlow 提供的高阶 API,我们省去了定义线性函数,定义损失函数,以及定义优化算法等 3 个步骤。
不过,高阶 API 实现过程实际上还不够精简,我们可以完全使用 TensorFlow Keras API 来实现线性回归。
Keras 本来是一个用 Python 编写的独立高阶神经网络 API,它能够以 TensorFlow, cntk,或者 Theano 作为后端运行。
目前,TensorFlow 已经吸纳 Keras,并组成了 tf.keras
模块。官方介绍,tf.keras
和单独安装的 Keras 略有不同,但考虑到未来的发展趋势,主要以学习 tf.keras
为主。
初始化
我们这里使用 Keras 提供的 Sequential 顺序模型结构。向其中添加一个线性层。不同的地方在于,Keras 顺序模型第一层为线性层时,规定需指定输入维度,这里为 input_dim=1
。
接下来,直接使用 .compile
编译模型,指定损失函数为 MSE 平方损失函数,优化器选择 SGD 随机梯度下降。然后,就可以使用 .fit
传入数据开始迭代了。
batch_size
是采用小批次训练的参数,主要用于解决一次性传入数据过多无法训练的问题。当然,由于示例数据本身较少,这里意义不大,但还是按照常规使用方法进行设置。
你会发现,完全使用 Keras 高阶 API 实际上只需要 4 行核心代码即可完成,相比于低阶 API 简化了很多。
完整代码:
import tensorflow as tf
TRUE_W = 3.0
TRUE_b = 2.0
NUM_SAMPLES = 100
X = tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
noise = tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
y = X * TRUE_W + TRUE_b + noise
# 模型训练
model = tf.keras.Sequential()
model.add(tf.keras.layers.Dense(units=1,input_dim=1))
model.compile(optimizer='sgd',loss='mse')
model.fit(X,y,epochs=10,batch_size=32)