共计 2922 个字符，预计需要花费 8 分钟才能阅读完成。
想要理解聚类算法并对其进行区别与比拟的话，最好能把聚类的具体算法放到整个聚类分析的语境中了解。
聚类分析是一个较为紧密的数据分析过程。从聚类对象数据源开始到失去聚类后果的常识存档，共有四个次要钻研内容
聚类分析过程：
1984 年，Aldenderfer 等人提出了聚类分析的四大性能: 一是数据分类的进一步扩大; 二是对实体归类的概念性摸索; 三是通过数据摸索而生成假说; 四是一种基于理论数据集归类假说的测试形式。
在很多状况下，样本数据集并没有分类，即每一个数据样本都没有分类标签。一般而言，聚类指将没有分类标签的数据集，分为若干个簇的过程，是一种无监督的分类办法。实际上，很难对聚类下一个明确的定义。
2001 年，Everitt 等人甚至指出提出聚类的正式定义不仅艰难而且也没有必要，因为聚类分析自身是一种建设在主观判断根底上的绝对卓有成效的办法。Hansen 也曾经作了数学上的论述，给定一个数据样本集:
这里，Xj 示意一个向量，称为样本点或者样本; Xjd 示意一个变量，通常称为属性、特色、变量或维等。
划分聚类将数据集分为 K 个簇，需满足:
而档次聚类是将数据集构建成一种树状的构造，即:
因为聚类分析属于一个穿插钻研畛域，交融了多个学科的办法和技术，故能够从多种角度、多个档次来剖析现有的聚类分析算法。
Agarwal 对于数据聚类的经典长文从统计模式识别的视角总结了 1999 年之前的经典模式聚类办法；Qian Zhou 从聚类规范、聚类示意及算法框架角度剖析了多个风行的聚类算法；Grabmeier 和 Rudolph 从数据挖掘的角度 (如类似度和间隔度量的严格辨别、利用到聚类中的相 关优化规范等) 剖析了一些聚类办法，还探讨了 IBM 公司的智能开掘器 (Intelligent Miner) 中聚类算法的应用演示等等。
传统的聚类算法大抵能够分为划分聚类办法、档次聚类办法、密度聚类办法、网格聚类办法、模型聚类办法等。近年来，量子聚类办法、谱聚类办法、粒度聚类办法、概率图聚类办法、同步聚类办法等也流行起来。
聚类算法的钻研曾经发展了几十年，迄今为止，已公开发表了近千种聚类算法，但没有一种聚类算法敢宣称是通用的、普适的。
聚类算法的分类
聚类算法个别能够用基于划分、基于档次、基于密度、基于网格、基于模型、基于图等形式来进行分类。
基于划分的聚类算法
基于划分的聚类算法通过结构一个迭代过程 来优化指标函数，当优化到指标函数的最小值或极小值时，能够失去数据集的一些不相交的子集，通常认为此时失去的每个子集就是一个聚类。少数基于划分的聚类算法都是十分高效的，但须要当时给定一个在聚类分析前难以确定下来的聚类数目。k-means 算法和 FCM(Fuzzy C Means)算法是该类型中最驰名的两个算法。
基于档次聚类算法
档次聚类办法应用一个间隔矩阵作为输出，通过聚类后失去一个反映该数据集散布情况的聚类层次结构图，其工夫复杂度至多为 T=O(n2logn)。
档次聚类算法通常分为两种：
第一种是凝聚的档次聚类算法，它首先把每个数据点看作是一个聚类，而后以一种自底向上的形式通过一直地抉择最近街坊聚类对的合并操作，最终能够结构出一 棵代表着该数据会聚类构造的档次树。
第二种是决裂的档次聚类算法，它首先把所有的数据点看作是一个聚类，而后以一种以自顶向下的形式通 过一直地抉择最涣散簇进行决裂操作，最终能够 结构出一棵代表着该数据会聚类构造的档次树。
基于密度的聚类算法
基于划分的聚类算法通常更适宜于发现凸形聚类簇，但对于任意形态的聚类簇，它就显得有些力不从心了。基于密度的聚类算法试图通过稠密区域来划分高密度区域以发现显著的聚类和孤立点，次要用于空间型数据的聚类。DBSCAN(Density-Based Spatial Clustering of Applications with Noise)算法就是一个最为驰名的基于密度的聚类算法。
DBSCAN 对参数设置的敏感体现
基于网格的聚类算法
基于网格的聚类算法是一种基于网格的具备多分辨率的聚类办法。它首先将数据集的散布空 间划分为若干个规定网格 (如超矩形单元) 或灵便 的网格 (如任意形态的多面体)，而后通过交融相 连的带数据概要信息的网格来取得显著的聚类。显然，简直所有的基于网格的聚类算法都属于近似算法，它们能解决。这类算法的长处是解决工夫与数据点的数目无关、与数据的输出程序无关，能够解决任意类型的数据。其毛病是解决工夫与每个维度上所划分的单元数相干，肯定水平上升高了聚类的品质和准确性。STING(STatistical INformation Grid) 算法和 CLIQUE(CLustering In QUEst)是基于网格的聚类算法的典型代表。
CLIQUE 算法
基于模型的聚类算法
基于模型的聚类算法借助于一些统计模型来取得数据集的聚类散布信息。该办法假设数据集是由无限个概率分布模型独特作用生成的。在这种办法中，多变量的高斯分布混合模型利用最为宽泛。其中，Fish 提出的 COBWEB、Gennarim 提出的 CLASSI、Cheeseman 和 Stutz 提出的 AutoClass 是较为有名的几个模型聚类办法。
在理论利用中，有时应用基于模型的聚类算法或其余聚类算法来获取数据集的聚类中心点集，而后再用学习向量化办法来结构分类器。
基于图的聚类算法
采纳图聚类办法进行聚类分析时，首先是建设与具体问题相适应的图。图的结点代表被剖析数据的基层单元，图的边代表基层单元数据之间的相似性度量(或相同性度量)。通常，每个基层单元数据之间都会有一个度量表白，这样能够保持数据集的部分散布个性。图聚类办法是以数据集的部分连贯特色作为聚类的次要信息源，因此易于解决部分数据的个性。Karypis 提出的变色龙算法也可看作是一种图聚类算法。
小数据聚类和大数据聚类
然而，在大数据时代背景下，随着数据量的一直减少及其数据状态的日益多样化，聚类算法的利用更加宽泛; 同时对算法自身也提出了更高的要求。ZHANG Yonglai，ZHOU Yaojian 根据无效数据量 10 字节为阈值，将聚类算法分为小数据聚类和大数据聚类两大类。小数据聚类次要体现的是聚类的根本思维，而大数据聚类的思维次要体现在理念、体系结构与架构等几个方面，至于底层聚类的具体实现算法，其实与小数据聚类算法并没有实质上的差异。换言之，大数据聚类的具体实施算法仍然采纳小数据聚类技术。
21 世纪是一个信息化、数据化和知识化的时代，信息技术正扭转着人类社会的方方面面。随着数据挖掘的衰亡，聚类办法开始用于剖析理论问题中经常出现的具备多种类型属性和简单散布构造的数据集。现如今，聚类钻研及其应用领域十分宽泛，曾经利用到多个畛域，如机器学习、模式识别、图像处理、信息检索、IP 地址定位等。
聚类算法是随同着统计学、计算机学与人工智能等畛域的倒退而逐渐倒退起来的迷信，因而，当这些畛域有比拟疾速的倒退过程时，势必会促成聚类算法的疾速倒退与利用。比方机器学习畛域的人工神经网络与反对向量机的倒退就促生了基于神经网络的聚类办法与核聚类办法。目前，基于人工神经网络的深度学习(如与职业九段棋手李世石、世界排名第一的世界围棋冠军柯洁对战的 AlphaGo) 也必将推动聚类分析办法的进一步倒退。
