原文链接:http://tecdat.cn/?p=19936 

原文出处:拓端数据部落公众号

在本教程中,您将学习如何在R中创立神经网络模型。

神经网络(或人工神经网络)具备通过样本进行学习的能力。人工神经网络是一种受生物神经元零碎启发的信息处理模型。它由大量高度互连的解决元件(称为神经元)组成,以解决问题。它遵循非线性门路,并在整个节点中并行处理信息。神经网络是一个简单的自适应零碎。自适应意味着它能够通过调整输出权重来更改其内部结构。

该神经网络旨在解决人类容易遇到的问题和机器难以解决的问题,例如辨认猫和狗的图片,辨认编号的图片。这些问题通常称为模式识别。它的利用范畴从光学字符识别到指标检测。

本教程将涵盖以下主题:

  • 神经网络概论
  • 正向流传和反向流传
  • 激活函数
  • R中神经网络的实现
  • 案例
  • 利弊
  • 论断

神经网络概论

神经网络是受人脑启发执行特定工作的算法。是一组连贯的输出/输入单元,其中每个连贯都具备与之关联的权重。在学习阶段,网络通过调整权重进行学习,来预测给定输出的正确类别标签。

人脑由数十亿个解决信息的神经细胞组成。每个神经细胞都认为是一个简略的解决零碎。被称为生物神经网络的神经元通过电信号传输信息。这种并行的交互零碎使大脑可能思考和解决信息。一个神经元的树突接管来自另一个神经元的输出信号,并依据这些输出将输入响应到某个其余神经元的轴突。

树突接管来自其余神经元的信号。单元体将所有输出信号求和以生成输入。当总和达到阈值时通过轴突输入。突触是神经元相互作用的一个点。它将电化学信号传输到另一个神经元。

x1,x2 .... xn是输出变量。w1,w2 .... wn是各个输出的权重。b是偏差,将其与加权输出相加即可造成输出。偏差和权重都是神经元的可调整参数。应用一些学习规定来调整参数。神经元的输入范畴能够从-inf到+ inf。神经元不晓得边界。因而,咱们须要神经元的输出和输入之间的映射机制。将输出映射到输入的这种机制称为激活函数。

前馈和反馈人工神经网络

人工神经网络次要有两种类型:前馈和反馈人工神经网络。前馈神经网络是非递归网络。该层中的神经元仅与下一层中的神经元相连,并且它们不造成循环。在前馈中,信号仅在一个方向上流向输入层。

反馈神经网络蕴含循环。通过在网络中引入环路,信号能够双向流传。反馈周期会导致网络行为依据其输出随工夫变动。反馈神经网络也称为递归神经网络。

激活函数

激活函数定义神经元的输入。激活函数使神经网络具备非线性和可表白性。有许多激活函数:

  • 辨认函数 通过激活函数 Identity,节点的输出等于输入。它完满拟合于潜在行为是线性(与线性回归类似)的工作。当存在非线性,独自应用该激活函数是不够的,但它仍然能够在最终输入节点上作为激活函数用于回归工作。。
  • 在 二元阶梯函数(Binary Step Function)中,如果Y的值高于某个特定值(称为阈值),则输入为True(或已激活),如果小于阈值,则输入为false(或未激活)。这在分类器中十分有用。
  • S形函数 称为S形函数。逻辑和双曲正切函数是罕用的S型函数。有两种:
  • Sigmoid函数 是一种逻辑函数,其中输入值为二进制或从0到1变动。
  • tanh函数 是一种逻辑函数,其输入值在-1到1之间变动。也称为双曲正切函数或tanh。
  • ReLU函数又称为修改线性单元(Rectified Linear Unit),是一种分段线性函数,其补救了sigmoid函数以及tanh函数的梯度隐没问题。它是最罕用的激活函数。对于x的负值,它输入0。

在R中实现神经网络

创立训练数据集

咱们创立数据集。在这里,您须要数据中的两种属性或列:特色和标签。在下面显示的表格中,您能够查看学生的专业知识,沟通技能得分和学生问题。因而,前两列(专业知识得分和沟通技能得分)是特色,第三列(学生问题)是二进制标签。

#创立训练数据集# 在这里,把多个列或特色组合成一组数据test=data.frame(专业知识,沟通技能得分)让咱们构建神经网络分类器模型。首先,导入神经网络库,并通过传递标签和特色的参数集,数据集,暗藏层中神经元的数量以及误差计算来创立神经网络分类器模型。``````# 拟合神经网络nn(问题~专业知识+沟通技能得分, hidden=3,act.fct = "logistic",                linear.output = FALSE)

这里失去模型的因变量、自变量、损失_函数、_激活函数、权重、后果矩阵(蕴含达到的阈值,误差,AIC和BIC以及每次反复的权重的矩阵)等信息:

$model.list$model.list$response\[1\] "问题"$model.list$variables\[1\] "专业知识"     "沟通技能得分"$err.fctfunction (x, y) {    1/2 * (y - x)^2}$act.fctfunction (x) {    1/(1 + exp(-x))}$net.result$net.result\[\[1\]\]            \[,1\]\[1,\] 0.980052980\[2,\] 0.001292503\[3,\] 0.032268860\[4,\] 0.032437961\[5,\] 0.963346989\[6,\] 0.977629865$weights$weights\[\[1\]\]$weights\[\[1\]\]\[\[1\]\]           \[,1\]        \[,2\]       \[,3\]\[1,\]  3.0583343  3.80801996 -0.9962571\[2,\]  1.2436662 -0.05886708  1.7870905\[3,\] -0.5240347 -0.03676600  1.8098647$weights\[\[1\]\]\[\[2\]\]           \[,1\]\[1,\]   4.084756\[2,\]  -3.807969\[3,\] -11.531322\[4,\]   3.691784$generalized.weights$generalized.weights\[\[1\]\]            \[,1\]       \[,2\]\[1,\]  0.15159066 0.09467744\[2,\]  0.01719274 0.04320642\[3,\]  0.15657354 0.09778953\[4,\] -0.46017408 0.34621212\[5,\]  0.03868753 0.02416267\[6,\] -0.54248384 0.37453006$startweights$startweights\[\[1\]\]$startweights\[\[1\]\]\[\[1\]\]           \[,1\]        \[,2\]       \[,3\]\[1,\]  0.1013318 -1.11757311 -0.9962571\[2,\]  0.8583704 -0.15529112  1.7870905\[3,\] -0.8789741  0.05536849  1.8098647$startweights\[\[1\]\]\[\[2\]\]           \[,1\]\[1,\] -0.1283200\[2,\] -1.0932526\[3,\] -1.0077311\[4,\] -0.5212917$result.matrix                                  \[,1\]error                      0.002168460reached.threshold          0.007872764steps                    145.000000000Intercept.to.1layhid1      3.058334288专业知识.to.1layhid1       1.243666180沟通技能得分.to.1layhid1  -0.524034687Intercept.to.1layhid2      3.808019964专业知识.to.1layhid2      -0.058867076沟通技能得分.to.1layhid2  -0.036766001Intercept.to.1layhid3     -0.996257068专业知识.to.1layhid3       1.787090472沟通技能得分.to.1layhid3   1.809864672Intercept.to.问题          4.0847555221layhid1.to.问题          -3.8079690871layhid2.to.问题         -11.5313215341layhid3.to.问题           3.691783805

绘制神经网络

让咱们绘制您的神经网络模型。

# 绘图神经网络plot(nn)

创立测试数据集

创立测试数据集:专业知识得分和沟通技能得分

# 创立测试集test=data.frame(专业知识,沟通技能得分)

预测测试集的后果

应用计算函数预测测试数据的概率得分。

## 应用神经网络进行预测Pred$result
0.99282020800.33355439250.9775153014

当初,将概率转换为二进制类。

# 将概率转换为设置阈值0.5的二进制类别pred <- ifelse(prob>0.5, 1, 0)pred
101

预测后果为1,0和1。

利弊

神经网络更灵便,能够用于回归和分类问题。神经网络非常适合具备大量输出(例如图像)的非线性数据集,能够应用任意数量的输出和层,能够并行执行工作。

还有更多可供选择的算法,例如SVM,决策树和回归算法,这些算法简略,疾速,易于训练并提供更好的性能。神经网络更多的是黑盒子,须要更多的开发工夫和更多的计算能力。与其余机器学习算法相比,神经网络须要更多的数据。NN仅可用于数字输出和非缺失值数据集。一位驰名的神经网络钻研人员说:  “神经网络是解决任何问题的第二好的办法。最好的办法是真正了解问题。”

神经网络的用处

神经网络的个性提供了许多利用方面,例如:

  • 模式识别: 神经网络非常适合模式识别问题,例如面部辨认,物体检测,指纹识别等。
  • 异样检测: 神经网络善于异样检测,它们能够轻松检测出不适宜惯例模式的异样模式。
  • 工夫序列预测: 神经网络可用于预测工夫序列问题,例如股票价格,天气预报。
  • 自然语言解决: 神经网络在自然语言解决工作中提供了宽泛的利用,例如文本分类,命名实体辨认(NER),词性标记,语音辨认和拼写查看。

最受欢迎的见解

1.r语言用神经网络改良nelson-siegel模型拟合收益率曲线剖析

2.r语言实现拟合神经网络预测和后果可视化

3.python用遗传算法-神经网络-含糊逻辑控制算法对乐透剖析

4.用于nlp的python:应用keras的多标签文本lstm神经网络分类

5.用r语言实现神经网络预测股票实例

6.R语言基于Keras的小数据集深度学习图像分类

7.用于NLP的seq2seq模型实例用Keras实现神经机器翻译

8.python中基于网格搜索算法优化的深度学习模型剖析糖

9.matlab应用贝叶斯优化的深度学习