共计 1234 个字符,预计需要花费 4 分钟才能阅读完成。
咱们晓得,数据挖掘的根本流程包含:(1)业务了解、(2)数据了解、(3)数据筹备、(4)数据预处理和建模、(5)模型评估、(6)模型部署利用。其中第 4 步,数据预处理和建模是整个流程的外围局部,其余的步骤都是围绕的该步骤进行的。建模高手和初学者的差距也往往在这里,建出一个模型很容易,疾速高效的建出一个好的模型却不容易。
机器学习倒退到明天曾经有泛滥优良前辈给咱们奉献了各种各种现成的算法包,例如在 Scikit-learn 里就提供括回归 (Regression)、降维 (Dimensionality Reduction)、分类 (Classfication)、聚类 (Clustering) 等办法的算法库,使用者只须要轻松的调包操作就能跑出一个模型。然而要建出高质量的模型,这是远远不够的。数据挖掘算法和数据库运算中用到的排序、分组算法有很大不同,后者是确定的算法,同样的数据进来就会出同样的后果,也没多少参数可调。而数据挖掘算法有许多教训因素,同样的数据进去,设置不同的参数来训练模型,后果很可能是不一样,甚至可能差异很大。以罕用的 GBDT 算法为例,须要的参数有十几个,如下图所示,这些参数示意什么含意,如何去设置,如何能疾速找到最佳值,当模型成果不好时如何去调参, 这都须要建模师对算法原理和利用场景有粗浅的了解能力顺利进行。况且算法也不是只有这一种,在建模时用哪种算法,是用一种还是多种组合用,都是建模师要须要思考的。
![]()
比这更简单的是,在建模之前还要做大量的预处理工作,例如对于非标准正态分布的变量,应该如何解决;对于数据中的乐音应该如何降噪,对于高基数变量如何解决等等。因而,建模高手和初学者的区别就在于建模高手往往具备深厚的统计学实践和丰盛的建模调参教训,对数据分布,数据预处理,算法运行原理等有着粗浅的了解,而初学者往往只会机械的调包计算,不懂得背地的理论知识,不分明如何数据摸索和剖析,不懂得如何解决数据使数据更适宜拿来建模,往往只是照猫画虎,知其然而不止其所以然。就如同没有学过建筑学的人拿着一堆原材料去盖大楼,盖出的楼能不能住人、会不会倒,常常要看运气了。
不过,作为初学者也不用放心,近年来衰亡的主动建模技术就能够无效的帮忙咱们。主动建模技术是将统计学家和数学家的数据处理教训和实践融入到软件中,使得软件可能智能的去实现数据预处理,建模型,选参数,做评估等一系列的工作。对于使用者来讲只须要将数据丢进主动建模工具,并且配置好指标,工具就可能主动建出优质模型。即便是没有统计学背景,不理解算法的初学者,或者一般的 IT 程序员都能够通过主动建模技术来做数据挖掘业务,连简略的 Python 都不必再学就能够享受 AI 技术带来的福利。
对进一步数据挖掘和 AI 技术感兴趣的同学还能够搜寻“乾学院”,下面有面向小白的零根底“数据挖掘”收费课程,或者间接点上面的链接也能够:
http://www.raqsoft.com.cn/wx/course-data-mining.html