乐趣区

关于机器学习:吴恩达机器学习训练神经网络08

1. 逻辑回归训练模型的三个步骤:

(1). 第一步:建设逻辑回归模型,指定在给定输出特色 X, 参数 w 和 b 的状况下,计算输入。
(2). 指定损失函数(loss function)或代价函数 (cost function)。给定损失函数的定义,而后咱们定义代价函数,代价函数是参数 W 和 B 的函数,这是 M 个训练样本,计算的损失函数的平均值(x1,y1)到(xm,ym)。
留神:
·损失函数(loss function)是对一个训练样本(x,y)的掂量,输入预测和实在标签的计算值
· 代价函数 (cost function) 是在整个训练集上计算的损失函数的平均值。
(3)用一个具体的梯度降落算法来最小化代价函数 J, 作为参数 w 和 b 的函数.

2.TensorFlow 中训练神经网络的三个步骤:

同样上边的三个步骤也是咱们在 TensorFlow 中训练神经网络的三个步骤
(1)确定在给定输出 x 和参数 b 的状况下如何计算输入
(2)编译这个模型,通知它你想用的损失函数,而这里是你用来指定损失函数的代码,这个损失函数也就是你模型的代价函数(cost function)
例:分类数字 0,1
这里应用的损失函数是和逻辑回归一样的损失函数,其中 y 是实在标签,有时也被成为目标标签,f(x)当初是神经网络的输入,在神经网络中这个函数被称为二元穿插熵(this loss function is called binary cross entropy.),在 Tensorflow 的术语中,这个函数被称为二元穿插熵,这个语法是要求 TensorFlow 利用该损失函数编译神经网络

(3)调用函数去最小化神经网络函数的代价

TensorFlow 晓得你想最小化的代价是平均值,即取训练集上所有训练样本损失的平均值,优化这个代价函数,使得神经网络和你的二分类数据相拟合,如果你想解决回归问题,而不是分类问题,你也能够通知 TensorFlow 用不同的损失函数去编译模型

·神经网络的损失和代价函数

·参数的拟合
在之前的学习中,利用梯度降落进行参数的调整。而在 TensorFlow 中, 我在规范的神经网络训练中,咱们应用的是反向流传算法,咱们只须要调用 model.fit(X,y)函数,通知它要迭代多少次或者多少个 epoch

退出移动版