乐趣区

关于数据挖掘:R语言实现拟合神经网络预测和结果可视化附代码数据

原文链接:http://tecdat.cn/?p=6691

最近咱们被客户要求撰写对于神经网络的钻研报告,包含一些图形和统计输入。

神经网络始终是迷人的机器学习模型之一,不仅因为花哨的反向流传算法,而且还因为它们的复杂性(思考到许多暗藏层的深度学习)和受大脑启发的构造

神经网络并不总是风行,局部起因是它们在某些状况下依然计算成本昂扬,局部起因是与反对向量机(SVM)等简略办法相比,它们仿佛没有产生更好的后果。然而,最近神经网络变得流行起来。

在这篇文章中,咱们将拟合神经网络,并将线性模型作为比拟。

数据集

数据集是市区屋宇价格数据的汇合。咱们的指标是应用所有其余可用的连续变量来预测自住屋宇(medv)的中位数。

首先,咱们须要查看是否短少数据点,否则咱们须要填充数据集。

apply(data,2,function(x)sum(is.na(x)))

而后咱们拟合线性回归模型并在测试集上进行测试。

index < -  sample(1:nrow(data),round(0.75 * nrow(data)))MSE.lm < -  sum((pr.lm  -  test $ medv)^ 2)/ nrow(test)

sample(x,size)函数简略地从向量输入指定大小的随机抉择样本的向量x

筹备拟合神经网络

在拟合神经网络之前,须要做一些筹备工作。神经网络不容易训练和调整。

作为_第一步_,咱们将解决数据预处理问题。
因而,咱们先划分数据:

maxs < -  apply(data,2,max)scaled < -  as.data.frame(scale(data,center = mins,scale = maxs  -  mins))train_ < -  scaled [index,]
test_ < -  scaled [-index,]

请留神,scale须要转换为 data.frame 的矩阵。

参数

尽管有几个或多或少可承受的教训法令,但没有固定的规定能够应用多少层和神经元。个别一个暗藏层足以满足大量应用程序的须要。就神经元的数量而言,它应该在输出层大小和输入层大小之间,通常是输出大小的 2 /3

  • hidden参数承受一个蕴含每个暗藏层的神经元数量的向量,而参数 linear.output 用于指定咱们要进行回归 linear.output=TRUE 或分类linear.output=FALSE

绘制模型:

plot(nn)

这是模型的图形示意,每个连贯都有权重:

彩色线条显示每个层与每个连贯上的权重之间的连贯,而蓝线显示每个步骤中增加的偏差项。偏差能够被认为是线性模型的截距。

应用神经网络预测 medv

当初咱们能够尝试预测测试集的值并计算 MSE。

pr.nn < -  compute(nn,test _ [,1:13])

而后咱们比拟两个 MSE。

显然,在预测 medv 时,网络比线性模型做得更好。然而,这个后果取决于下面执行的训练测试集划分。上面,咱们将进行疾速穿插验证。
上面绘制了测试集上神经网络和线性模型性能的可视化后果

输入图:

通过查看图,咱们能够看到神经网络的预测(通常)在直线四周更加集中(与线完满对齐将表明 MSE 为 0,因而是现实的完满预测)。

上面绘制了模型比拟:

穿插验证

穿插验证是构建预测模型的另一个十分重要的步骤。有不同类型的穿插验证办法。

而后通过计算平均误差,咱们能够把握模型。

咱们将应用神经网络的 for 循环和线性模型 cv.glm()boot包中的函数来实现疾速穿插验证。
据我所知,R 中没有内置函数在这种神经网络上进行穿插验证。以下是线性模型的 10 折穿插验证 MSE:

 lm.fit < -  glm(medv~.,data = data)

我以这种形式划分数据:90%的训练集和 10%的测试集,随机形式进行 10 次。我应用 plyr 库初始化进度条,因为神经网络的拟合可能须要一段时间。

过了一会儿,过程实现,咱们计算均匀 MSE 并将后果绘制成箱线图:

 cv.error
10.32697995
17.640652805 6.310575067 15.769518577 5.730130820 10.520947119 6.121160840
6.389967211 8.004786424 17.369282494 9.412778105

下面的代码输入以下 boxplot:

神经网络的均匀 MSE(10.33)低于线性模型的 MSE,只管穿插验证的 MSE 仿佛存在肯定水平的变动。这可能取决于数据的划分或网络中权重的随机初始化。


点击题目查阅往期内容

用 R 语言实现神经网络预测股票实例

左右滑动查看更多

01

02

03

04

模型可解释性的阐明

神经网络很像黑盒子:解释它们的后果要比解释简略模型(如线性模型)的后果要艰难得多。因而,依据您须要解决的利用问题的类型,也要思考这个因素。此外,须要小心拟合神经网络,小的变动可能导致不同的后果。

十分感谢您浏览本文,有任何问题请在上面留言!

本文摘选 R 语言实现拟合神经网络预测和后果可视化 ,点击“ 浏览原文”获取全文残缺材料。


点击题目查阅往期内容

RNN 循环神经网络、LSTM 长短期记忆网络实现工夫序列长期利率预测
联合新冠疫情 COVID-19 股票价格预测:ARIMA,KNN 和神经网络工夫序列剖析
深度学习:Keras 应用神经网络进行简略文本分类剖析新闻组数据
用 PyTorch 机器学习神经网络分类预测银行客户散失模型
PYTHON 用 LSTM 长短期记忆神经网络的参数优化办法预测工夫序列洗发水销售数据
Python 用 Keras 神经网络序列模型回归拟合预测、准确度检查和后果可视化
Python 用 LSTM 长短期记忆神经网络对不稳固降雨量工夫序列进行预测剖析
R 语言中的神经网络预测工夫序列:多层感知器(MLP)和极限学习机(ELM)数据分析报告
R 语言深度学习:用 keras 神经网络回归模型预测工夫序列数据
Matlab 用深度学习长短期记忆(LSTM)神经网络对文本数据进行分类
R 语言 KERAS 深度学习 CNN 卷积神经网络分类辨认手写数字图像数据(MNIST)
MATLAB 中用 BP 神经网络预测人体脂肪百分比数据
Python 中用 PyTorch 机器学习神经网络分类预测银行客户散失模型
R 语言实现 CNN(卷积神经网络)模型进行回归数据分析
SAS 应用鸢尾花 (iris) 数据集训练人工神经网络 (ANN) 模型
【视频】R 语言实现 CNN(卷积神经网络)模型进行回归数据分析
Python 应用神经网络进行简略文本分类
R 语言用神经网络改良 Nelson-Siegel 模型拟合收益率曲线剖析
R 语言基于递归神经网络 RNN 的温度工夫序列预测
R 语言神经网络模型预测车辆数量工夫序列
R 语言中的 BP 神经网络模型剖析学生问题
matlab 应用长短期记忆(LSTM)神经网络对序列数据进行分类
R 语言实现拟合神经网络预测和后果可视化
用 R 语言实现神经网络预测股票实例
应用 PYTHON 中 KERAS 的 LSTM 递归神经网络进行工夫序列预测
python 用于 NLP 的 seq2seq 模型实例: 用 Keras 实现神经网络机器翻译
用于 NLP 的 Python:应用 Keras 的多标签文本 LSTM 神经网络分类

退出移动版