关于人工智能:使用树状图可视化聚类

1次阅读

共计 3920 个字符，预计需要花费 10 分钟才能阅读完成。

个别状况下，咱们都是应用散点图进行聚类可视化，然而某些的聚类算法可视化时散点图并不现实，所以在这篇文章中，咱们介绍如何应用树状图（Dendrograms）对咱们的聚类后果进行可视化。

树状图是显示对象、组或变量之间的档次关系的图表。树状图由在节点或簇处连贯的分支组成，它们代表具备类似特色的察看组。分支的高度或节点之间的间隔示意组之间的不同或类似水平。也就是说分支越长或节点之间的间隔越大，组就越不类似。分支越短或节点之间的间隔越小，组越类似。

树状图对于可视化简单的数据结构和辨认具备类似特色的数据子组或簇很有用。它们通常用于生物学、遗传学、生态学、社会科学和其余能够依据相似性或相关性对数据进行分组的畛域。

背景常识：

“树状图”一词来自希腊语“dendron”（树）和“gramma”（绘图）。1901 年，英国数学家和统计学家卡尔皮尔逊用树状图来显示不同动物品种之间的关系 [1]。他称这个图为“聚类图”。这能够被认为是树状图的首次应用。

咱们将应用几家公司的实在股价来进行聚类。为了不便获取，所以应用 Alpha Vantage 提供的收费 API 来收集数据。Alpha Vantage 同时提供收费 API 和高级 API，通过 API 拜访须要密钥，请参考他的网站。

 importpandasaspd
 importrequests
 
 companies={'Apple':'AAPL','Amazon':'AMZN','Facebook':'META','Tesla':'TSLA','Alphabet (Google)':'GOOGL','Shell':'SHEL','Suncor Energy':'SU',
            'Exxon Mobil Corp':'XOM','Lululemon':'LULU','Walmart':'WMT','Carters':'CRI','Childrens Place':'PLCE','TJX Companies':'TJX',
            'Victorias Secret':'VSCO','MACYs':'M','Wayfair':'W','Dollar Tree':'DLTR','CVS Caremark':'CVS','Walgreen':'WBA','Curaleaf':'CURLF'}

科技、批发、石油和天然气以及其余行业中筛选了 20 家公司。

 importtime
 
 all_data={}
 forkey,valueincompanies.items():  
 # Replace YOUR_API_KEY with your Alpha Vantage API key
   url=f'https://www.alphavantage.co/query?function=TIME_SERIES_DAILY_ADJUSTED&symbol={value}&apikey=<YOUR_API_KEY>&outputsize=full'
   response=requests.get(url)
   data=response.json()
   time.sleep(15)
   if'Time Series (Daily)'indataanddata['Time Series (Daily)']:
     df=pd.DataFrame.from_dict(data['Time Series (Daily)'], orient='index')
     print(f'Received data for {key}')
   else:
     print("Time series data is empty or not available.")
   df.rename(columns= {'1. open':key}, inplace=True)
   all_data[key]=df[key]

在下面的代码在 API 调用之间设置了 15 秒的暂停，这样能够保障不会因为太频繁被封掉。

 # find common dates among all data frames
 common_dates=None
 fordf_key, dfinall_data.items():
     ifcommon_datesisNone:
         common_dates=set(df.index)
     else:
         common_dates=common_dates.intersection(df.index)
 
 common_dates=sorted(list(common_dates))
 
 # create new data frame with common dates as index
 df_combined=pd.DataFrame(index=common_dates)
 
 # reindex each data frame with common dates and concatenate horizontally
 fordf_key, dfinall_data.items():
     df_combined=pd.concat([df_combined, df.reindex(common_dates)], axis=1)

将下面的数据整合成咱们须要的 DF，上面就能够间接应用了

档次聚类（Hierarchical clustering）是一种用于机器学习和数据分析的聚类算法。它应用嵌套簇的层次结构，依据相似性将类似对象分组到簇中。该算法能够是汇集性的能够从单个对象开始并将它们合并成簇，也能够是决裂的，从一个大簇开始并递归地将其分成较小的簇。

须要留神的是并非所有聚类办法都是档次聚类办法，只能在多数聚类算法上应用树状图。

聚类算法咱们将应用 scipy 模块中提供的档次聚类。

1、自上而下聚类

 importnumpyasnp
 importscipy.cluster.hierarchyassch
 importmatplotlib.pyplotasplt
 
 # Convert correlation matrix to distance matrix
 dist_mat=1-df_combined.corr()
 
 # Perform top-down clustering
 clustering=sch.linkage(dist_mat, method='complete')
 cuts=sch.cut_tree(clustering, n_clusters=[3, 4])
 
 # Plot dendrogram
 plt.figure(figsize=(10, 5))
 sch.dendrogram(clustering, labels=list(df_combined.columns), leaf_rotation=90)
 plt.title('Dendrogram of Company Correlations (Top-Down Clustering)')
 plt.xlabel('Companies')
 plt.ylabel('Distance')
 plt.show()

如何依据树状图确定最佳簇数

找到最佳簇数的最简略办法是查看生成的树状图中应用的色彩数。最佳簇的数量比色彩的数量少一个就能够了。所以依据下面这个树状图，最佳聚类的数量是两个。

另一种找到最佳簇数的办法是辨认簇间间隔忽然变动的点。这称为“拐点”或“肘点”，可用于确定最能捕获数据变动的聚类数量。下面图中咱们能够看到，不同数量的簇之间的最大间隔变动产生在 1 和 2 个簇之间。因而，再一次阐明最佳簇数是两个。

从树状图中获取任意数量的簇

应用树状图的一个长处是能够通过查看树状图将对象聚类到任意数量的簇中。例如，须要找到两个聚类，能够查看树状图上最顶部的垂直线并决定聚类。比方在这个例子中，如果须要两个簇，那么第一个簇中有四家公司，第二个集群中有 16 个公司。如果咱们须要三个簇就能够将第二个簇进一步拆分为 11 个和 5 个公司。如果须要的更多能够顺次类推。

2、自下而上聚类

 importnumpyasnp
 importscipy.cluster.hierarchyassch
 importmatplotlib.pyplotasplt
 
 # Convert correlation matrix to distance matrix
 dist_mat=1-df_combined.corr()
 
 # Perform bottom-up clustering
 clustering=sch.linkage(dist_mat, method='ward')
 
 # Plot dendrogram
 plt.figure(figsize=(10, 5))
 sch.dendrogram(clustering, labels=list(df_combined.columns), leaf_rotation=90)
 plt.title('Dendrogram of Company Correlations (Bottom-Up Clustering)')
 plt.xlabel('Companies')
 plt.ylabel('Distance')
 plt.show()

咱们为自下而上的聚类取得的树状图相似于自上而下的聚类。最佳簇数依然是两个（基于色彩数和“拐点”办法）。然而如果咱们须要更多的集群，就会察看到一些轻微的差别。这也很失常，因为应用的办法不一样，导致后果会有一些轻微的差别。

树状图是可视化简单数据结构和辨认具备类似特色的数据子组或簇的有用工具。在本文中，咱们应用档次聚类办法来演示如何创立树状图以及如何确定最佳聚类数。对于咱们的数据树状图有助于了解不同公司之间的关系，但它们也能够用于其余各种畛域，以了解数据的层次结构。

https://avoid.overfit.cn/post/1271784ad1ea4ff28eea9ef3c9f6f498

作者：Shashindra Silva

正文完