关于数据挖掘:视频R语言LDA线性判别QDA二次判别分析分类葡萄酒品质数据

全文链接：https://tecdat.cn/?p=33031

原文出处：拓端数据部落公众号

分析师：Donglei Niu

判别分析 (Discriminant analysis）是一种统计分析办法，旨在通过将一组对象（例如察看数据）分类到已知类别的组中，来发现不同组之间的差别。

什么是判别分析

判别分析有两种次要模式: 线性判别分析（LDA）和二次判别分析（QDA）。LDA 假如每个类别的协方差矩阵雷同，并寻找最优的判断方向来最大化类别之间的间隔。QDA 假如每个类别的协方差矩阵都不同，并寻找最优的判断方向来最大化类别之间的间隔，同时也思考了每个类别的协方差矩阵。

线性判别分析 (LDA)

当咱们有一个由 n 个样本和 p 个特色组成的数据集时，LDA 的指标是找到一个线性变换，将数据从 p 维空间映射到 k 维空间 (k <p），使得在新的空间中，同一类别内的数据点尽可能类似，不同类别之间的数据点尽可能拆散。

线性判别分析的数学原理

指标函数

将下面的公式化简，失去:

咱们最终能够指标函数为

二次判别分析 (QDA)

QDA (Quadratic Discriminant Analysis）是一种有监督的机器学习算法，用于分类问题。它是 LDA (Linear Discriminant Analysis，线性判别分析）的一种扩大模式，与 LDA 相似，QDA 也是一种基于贝叶斯决策实践的分类器。与 LDA 不同的是，QDA 假如每个类别的协方差矩阵不雷同，因而在分类时应用的决策边界是二次曲线。

介绍

数据蕴含无关葡萄牙“Vinho Verde”葡萄酒的信息。该数据集有 1599 个观测值和 12 个变量，别离是固定酸度、挥发性酸度、柠檬酸、残糖、氯化物、游离二氧化硫、总二氧化硫、密度、pH 值、硫酸盐、酒精和品质。固定酸度、挥发性酸度、柠檬酸、残糖、氯化物、游离二氧化硫、总二氧化硫、密度、pH、硫酸盐和酒精是自变量并且是间断的。品质是因变量，依据 0 到 10 的分数来掂量。

探索性剖析

总共有 855 款葡萄酒被归类为“好”品质，744 款葡萄酒被归类为“差”品质。固定酸度、挥发性酸度、柠檬酸、氯化物、游离二氧化硫、总二氧化硫、密度、硫酸盐和酒精度与葡萄酒品质显着相干（t 测验的 P 值 < 0.05），这表明了重要的预测因子。咱们还构建了密度图来摸索 11 个连续变量在“差”和“好”葡萄酒品质上的散布。从图中能够看出，品质低劣的葡萄酒在 PH 方面没有差别，而不同类型的葡萄酒在其余变量上存在差别，这与 t 测验后果统一。

na.oit() %>
muate(qal= ase_hen(ality>5 ~good", quaity <=5 ~"poor")) %>%
muate(qua= s.fatrqual)) %>%
dpeme1 <- rsparentTme(trans = .4)

plot = "density", pch = "|",
auto.key = list(columns = 2))

图 1. 葡萄酒品质和预测特色之间的形容图。\
表 1. 优质和劣质葡萄酒的基本特征。

# 在表 1 中创立一个咱们想要的变量
b1 <- CeatTableOe(vars  litars, straa =’qual’da wine
tab

模型

咱们随机抉择 70% 的观测值作为训练数据，其余的作为测试数据。所有 11 个预测变量都被纳入剖析。咱们应用线性办法、非线性办法、树办法和反对向量机来预测葡萄酒品质的分类。对于线性办法，咱们训练（惩办）逻辑回归模型和线性判别分析（LDA）。逻辑回归的假如包含互相独立的察看后果以及自变量和对数几率的线性关系。LDA 和 QDA 假如具备正态分布的特色，即预测变量对于“好”和“差”的葡萄酒品质都是正态分布的。对于非线性模型，咱们进行了狭义加性模型（GAM）、多元自适应回归样条（MARS）、KNN 模型和二次判别分析（QDA）。对于树模型，咱们进行了分类树和随机森林模型。还执行了具备线性和径向内核的 SVM。咱们计算了模型抉择的 ROC 和准确度，并考察了变量的重要性。10 折穿插验证 (CV) 用于所有模型。

inTrai <- cateatPariti(y  winequal, p = 0.7, lit =FASE)
traiData <- wine[inexTr, 
teDt <wi[-idxTrain,]

线性模型 多元逻辑回归显示，在 11 个预测因子中，挥发性酸度、柠檬酸、游离二氧化硫、总二氧化硫、硫酸盐和酒精与葡萄酒品质显着相干（P 值 < 0.05），解释了总方差的 25.1%。酒质。将该模型利用于测试数据时，准确度为 0.75（95%CI：0.71-0.79），ROC 为 0.818，表明数据拟合较好。在进行惩罚性逻辑回归时，咱们发现最大化 ROC 时，最佳调优参数为 alpha= 1 和 lambda=0.00086，准确度为 0.75（95%CI：0.71-0.79），ROC 也为 0.818。因为 lambda 接近于零且 ROC 与逻辑回归模型雷同，因而惩办绝对较小，

然而，因为逻辑回归要求自变量之间存在很少或没有多重共线性，因而模型可能会受到 11 个预测变量之间的共线性（如果有的话）的烦扰。至于 LDA，将模型利用于测试数据时，ROC 为 0.819，准确率为 0.762（95%CI：0.72-0.80）。预测葡萄酒品质的最重要变量是酒精度、挥发性酸度和硫酸盐。与逻辑回归模型相比，LDA 在满足失常假如的状况下，在样本量较小或类别拆散良好的状况下更有帮忙。

### 逻辑回归
cl - tranControlmehod =cv" number  10,
summayFunio = TRUE)
set.seed(1)
moel.gl<- train(x = tainDaa %>% dpyr::selct(-ual),
y = trainDaa$qual
metod "glm",
metic = OC",
tContrl = crl
# 查看预测因素的重要性
summary(odel.m)

# 建设混同矩阵
tetred.prb <- rdct(mod.gl, newdat = tstDat
tye = "rob
test.ped <- rep("good", length(pred.pr
confusionMatrix(data = as.factor(test.pred),

# 绘制测试 ROC 图
oc.l <- roc(testa$al, es.pr.rob$god)

## 测试误差和训练误差
er.st. <- mean(tett$qul!= tt.pred)
tranped.obgl <-pric(moel.lmnewda= taiDaa,
type = "rob
moe.ln <-tai(xtraDa %>% dlyr:seec-qal),
y = traD
methd = "met",
tueGid = lGrid,
mtc = "RO",
trontrol  ctl)
plotodel.gl, xTras =uction() lg(x)

# 抉择最佳参数
mol.mn$bestune

# 混同矩阵

tes.red2 <- rp"good" ngth(test.ed.prob2$good))
tst.red2[tespre.prob2$good < 0.5] <- "poor
conuionMatridata = as.fcto(test.prd2),

非线性模型 在 GAM 模型中，只有挥发性酸度的自由度等于 1，表明线性关联，而对所有其余 10 个变量利用平滑样条。

结果表明，酒精、柠檬酸、残糖、硫酸盐、固定酸度、挥发性酸度、氯化物和总二氧化硫是显着的预测因子（P 值 <0.05）。

总的来说，这些变量解释了葡萄酒品质总变动的 39.1%。应用测试数据的混同矩阵显示，GAM 的准确度为 0.76（95%CI：0.72-0.80），ROC 为 0.829。

MARS 模型表明，在最大化 ROC 时，咱们在 11 个预测变量中蕴含了 5 个项，其中 nprune 等于 5，度数为 2。这些预测变量和铰链函数总共解释了总方差的 32.2%。依据 MA​​RS 输入，三个最重要的预测因子是总二氧化硫、酒精和硫酸盐。

将 MARS 模型利用于测试数据时，准确度为 0.75（95%CI：0.72，0.80），ROC 为 0.823。咱们还执行了 KNN 模型进行分类。当 k 等于 22 时，ROC 最大化。KNNmodel 的准确度为 0.63（95%CI：0.59-0.68），ROC 为 0.672。

QDA 模型显示 ROC 为 0.784，准确率为 0.71（95%CI：0.66-0.75）。预测葡萄酒品质的最重要变量是酒精、挥发性酸度和硫酸盐。59-0.68)，ROC 为 0.672。QDA 模型显示 ROC 为 0.784，准确率为 0.71（95%CI：0.66-0.75）。

预测葡萄酒品质的最重要变量是酒精、挥发性酸度和硫酸盐。59-0.68)，ROC 为 0.672。QDA 模型显示 ROC 为 0.784，准确率为 0.71（95%CI：0.66-0.75）。预测葡萄酒品质的最重要变量是酒精、挥发性酸度和硫酸盐。

GAM 和 MARS 的长处是这两个模型都是非参数模型，并且可能解决高度简单的非线性关系。具体来说，MARS 模型能够在模型中蕴含潜在的交互作用。然而，因为模型的复杂性、耗时的计算和高度的过拟合偏向是这两种模型的局限性。对于 KNN 模型，当 k 很大时，预测可能不精确。

### GAM
se.see(1)
md.gam<- ran(x =trainDta %%dplr::slect(-qal),
y = traiat$ual,
thod = "am",
metri = "RO",
trCotrol = ctrl)
moel.gm$finlMdel

summary(mel.gam)

# 建设混同矩阵
test.pr.pob3 - prdict(mod.ga nwdata =tstData,
tye = "prb")
testped3 - rep"good" legt(test.predpob3$goo))
testprd3[test.predprob3good < 0.5] <- "poo
referetv = "good")

model.mars$finalModel

vpmodl.rs$inlodel)

# 绘制测试 ROC 图
ocmas <- roctestataqua, tes.pred.rob4god)
## Stting level: conrol = god, case= poor
## Settig diectio: cntrols> case
plot(ro.mars legac.axes = TRE, prin.auc= RUE)
plot(soothroc.mars), co = 4, ad =TRUE)

errr.tria.mas <-man(tainat$qul ! trai.red.ars)
### KNN
Grid < epa.gri(k seq(from = 1, to = 40, by = 1))
seted(1
fknnrainqual ~.,
dta = trnData,
mthd ="knn"
metrrid = kid)
ggplot(fitkn

# 建设混同矩阵
ts.re.po7 < prdi(ft.kn, ewdt = estDaa
type = "prb"

### QDA
seteed1)%>% pyr:c-ual),
y= trataq
ethod "d"
mric = "OC",
tContol =ctl)
# 建设混同矩阵
tet.pprob <-pedct(mol.da,nedaa = teDta,
te = "pb")
testred6<- rep(o", leng(est.ped.pob6$goo))

树办法

\
基于分类树，最大化 AUC 时最终的树大小为 41。测试错误率为 0.24，ROC 为 0.809。此分类树的准确度为 0.76（95%CI：0.72-0.80）。咱们还进行了随机森林办法来钻研变量的重要性。因而，酒精是最重要的变量，其次是硫酸盐、挥发性酸度、总二氧化硫、密度、氯化物、固定酸度、柠檬酸、游离二氧化硫和残糖。pH 是最不重要的变量。对于随机森林模型，测试错误率为 0.163，准确率为 0.84（95%CI：0.80-0.87），ROC 为 0.900。树办法的一个潜在限度是它们对数据的变动很敏感，即数据的渺小变动可能引起分类树的较大变动。

# 分类
ctr <- tintol(meod ="cv", number = 10,
smmryFuton= twoClassSma
et.se(1
rart_grid = a.fra(cp = exp(eq(10,-, len =0)))
clsste = traqua~., rainDta,
metho ="rprt
tueGrid = patid,
trCtrl  cr)
ggt(class.tee,highight =TRE)

## 计算测试误差
rpartpred = icla.te edta =testata, ye = "aw)
te.ero.sree = mean(testa$a !=rartpre)
rprred_trin  reic(ss.tre,newdta = raiata, tye  "raw")

# 建设混同矩阵
teste.pob8 <-rdic(cste, edata =tstData,pe = "po"
tet.pd8 - rpgod" legthtetred.rb8d))

\
 

# 绘制测试 ROC 图
ro.r <-oc(testaual, tstedrob$od)
pot(rc.ctreegy.axes  TU pit.a = TRE)
plo(ooth(c.tre, col= 4, ad = TRE

# 随机森林和变量重要性
ctl <traontr(mthod= "cv, numbr = 10,
clasPos = RUEoClssSummry)
rf.grid - xpa.gr(mt = 1:10,
spltrule "gini"
min.nd.sie =seq(from = 1,to  12, by = 2))
se.sed(1)
rf.fit <- inqual
mthd= "ranger",
meric = "ROC",
 = ctrl
gglt(rf.it,hiliht  TRE)

scle.ermutatin.iportace  TRU)
barplt(sort(rangr::imoranc(random

反对向量机

咱们应用带有线性核的 SVM，并调整了老本函数。咱们发现具备最大化 ROChad 老本的模型 = 0.59078。该模型的 ROC 为 0.816，准确度为 0.75（测试误差为 0.25）（95%CI：0.71-0.79）。品质预测最重要的变量是酒精；挥发性酸度和总二氧化硫也是比拟重要的变量。如果实在边界是非线性的，则具备径向核的 SVM 性能更好。

st.seed(
svl.fi <- tain(qual~ . ,
data = trainData
mehod= "mLar2",
tueGri = data.frae(cos = ep(seq(-25,ln = 0))

## 带径向核的 SVM
svmr.grid  epand.gid(C = epseq(1,4,le=10)),
iga = expsq(8,len=10)))
svmr.it<- tan(qual ~ .,
da = taiDataRialSigma",
preProcess= c("cer" "scale"),
tunnrol = c)

模型比拟  

模型建设后，咱们依据所有模型的训练和测试性能进行模型比拟。下表显示了所有模型的穿插验证分类错误率和 ROC。后果中，随机森林模型的 AUC 值最大，而 KNN 最小。因而，咱们抉择随机森林模型作为咱们数据的最佳预测分类模型。基于随机森林模型，酒精、硫酸盐、挥发性酸度、总二氧化硫和密度是帮忙咱们预测葡萄酒品质分类的前 5 个重要预测因子。因为酒精、硫酸盐和挥发性酸度等因素可能决定葡萄酒的风味和口感，所以这样的发现合乎咱们的预期。在查看每个模型的总结时，咱们意识到 KNN 模型的 AUC 值最低，测试分类错误率最大，为 0.367。其余九个模型的 AUC 值靠近，约为 82%。

rsam = rsmes(list(summary(resamp)

comrin = sumaryes)$satitics$RO
r_quare  smary(rsamp)saisis$sqre
kntr::ableomris[,1:6])

bpot(remp meic = "ROC")

f<- datafram(dl_Name, TainError,Test_Eror, Tes_RC)
knir::abe(df)

论断

模型构建过程表明，在训练数据集中，酒精、硫酸盐、挥发性酸度、总二氧化硫和密度是葡萄酒品质分类的前 5 个重要预测因子。咱们抉择了随机森林模型，因为它的 AUC 值最大，分类错误率最低。该模型在测试数据集中也体现良好。因而，这种随机森林模型是葡萄酒品质分类的无效办法。

对于作者

在此对 Donglei Niu** 对本文所作的奉献示意诚挚感激，他在上海大学实现了运筹学与最优控制的硕士学位，专一机器学习算法、数学建模畛域。善于 Python、R 语言、Matlab。

最受欢迎的见解

1.PYTHON 用户散失数据挖掘：建设逻辑回归、XGBOOST、随机森林、决策树、反对向量机、奢侈贝叶斯模型和 KMEANS 聚类用户画像

2. R 语言基于树的办法：决策树，随机森林

3.python 中应用 scikit-learn 和 pandas 决策树

4. 机器学习：在 SAS 中运行随机森林数据分析报告

5. R 语言用随机森林和文本开掘进步航空公司客户满意度

6. 机器学习助推快时尚精准销售工夫序列

7. 用机器学习辨认一直变动的股市情况——隐马尔可夫模型的利用

8.python 机器学习：举荐零碎实现（以矩阵合成来协同过滤）

9.python 中用 pytorch 机器学习分类预测银行客户散失