相关系数矩阵(Correlation matrix)是数据分析的根本工具。它们让咱们理解不同的变量是如何互相关联的。在Python中,有很多个办法能够计算相关系数矩阵,明天咱们来对这些办法进行一个总结

Pandas

Pandas的DataFrame对象能够应用corr办法间接创立相关矩阵。因为数据迷信畛域的大多数人都在应用Pandas来获取数据,因而这通常是检查数据相关性的最快、最简略的办法之一。

 import pandas as pd import seaborn as sns  data = sns.load_dataset('mpg') correlation_matrix = data.corr(numeric_only=True) correlation_matrix

如果你是统计和剖析相干工作的,你可能会问" p值在哪里?",在最初咱们会有介绍

Numpy

Numpy也蕴含了相关系数矩阵的计算函数,咱们能够间接调用,然而因为返回的是ndarray,所以看起来没有pandas那么清晰。

 import numpy as np from sklearn.datasets import load_iris  iris = load_iris() np.corrcoef(iris["data"])

为了更好的可视化,咱们能够间接将其传递给sns.heatmap()函数。

 import seaborn as sns  data = sns.load_dataset('mpg') correlation_matrix = data.corr()  sns.heatmap(data.corr(),              annot=True,              cmap='coolwarm')

annot=True这个参数能够输入一些额定的有用信息。一个常见hack是应用sns.set_context('talk')来取得额定的可读输入。

这个设置是为了生成幻灯片演示的图像,它能帮忙咱们更好地浏览(更大的字体)。

Statsmodels

Statsmodels这个统计分析库也是必定能够的

 import statsmodels.api as sm  correlation_matrix = sm.graphics.plot_corr(     data.corr(),      xnames=data.columns.tolist())

plotly

默认状况下plotly这个后果是如何从左下到右上运行对角线1.0的。这种行为与大多数其余工具相同,所以如果你应用plotly须要特地留神

 import plotly.offline as pyo pyo.init_notebook_mode(connected=True)  import plotly.figure_factory as ff  correlation_matrix = data.corr()  fig = ff.create_annotated_heatmap(     z=correlation_matrix.values,      x=list(correlation_matrix.columns),      y=list(correlation_matrix.index),      colorscale='Blues')  fig.show()

Pandas + Matplotlib更好的可视化

这个后果也能够间接应用用sns.pairplot(data),两种办法产生的图差不多,然而seaborn只须要一句话

 sns.pairplot(df[['mpg','weight','horsepower','acceleration']])

所以咱们这里介绍如何应用Matplotlib来实现

 import matplotlib.pyplot as plt  pd.plotting.scatter_matrix(     data, alpha=0.2,      figsize=(6, 6),      diagonal='hist')  plt.show()

相关性的p值

如果你正在寻找一个简略的矩阵(带有p值),这是许多其余工具(SPSS, Stata, R, SAS等)默认做的,那如何在Python中取得呢?

这里就要借助科学计算的scipy库了,以下是实现的函数

 from scipy.stats import pearsonr import pandas as pd import seaborn as sns  def corr_full(df, numeric_only=True, rows=['corr', 'p-value', 'obs']):     """     Generates a correlation matrix with correlation coefficients,      p-values, and observation count.          Args:     - df:                  Input dataframe     - numeric_only (bool): Whether to consider only numeric columns for                             correlation. Default is True.     - rows:                Determines the information to show.                             Default is ['corr', 'p-value', 'obs'].          Returns:     - formatted_table: The correlation matrix with the specified rows.     """          # Calculate Pearson correlation coefficients     corr_matrix = df.corr(         numeric_only=numeric_only)          # Calculate the p-values using scipy's pearsonr     pvalue_matrix = df.corr(         numeric_only=numeric_only,          method=lambda x, y: pearsonr(x, y)[1])          # Calculate the non-null observation count for each column     obs_count = df.apply(lambda x: x.notnull().sum())          # Calculate observation count for each pair of columns     obs_matrix = pd.DataFrame(         index=corr_matrix.columns, columns=corr_matrix.columns)     for col1 in obs_count.index:         for col2 in obs_count.index:             obs_matrix.loc[col1, col2] = min(obs_count[col1], obs_count[col2])              # Create a multi-index dataframe to store the formatted correlations     formatted_table = pd.DataFrame(         index=pd.MultiIndex.from_product([corr_matrix.columns, rows]),          columns=corr_matrix.columns     )          # Assign values to the appropriate cells in the formatted table     for col1 in corr_matrix.columns:         for col2 in corr_matrix.columns:             if 'corr' in rows:                 formatted_table.loc[                     (col1, 'corr'), col2] = corr_matrix.loc[col1, col2]                          if 'p-value' in rows:                 # Avoid p-values for diagonal they correlate perfectly                 if col1 != col2:                     formatted_table.loc[                         (col1, 'p-value'), col2] = f"({pvalue_matrix.loc[col1, col2]:.4f})"             if 'obs' in rows:                 formatted_table.loc[                     (col1, 'obs'), col2] = obs_matrix.loc[col1, col2]          return(formatted_table.fillna('')            .style.set_properties(**{'text-align': 'center'}))

间接调用这个函数,咱们返回的后果如下:

 df = sns.load_dataset('mpg') result = corr_full(df, rows=['corr', 'p-value']) result

总结

咱们介绍了Python创立相关系数矩阵的各种办法,这些办法能够随便抉择(那个不便用哪个)。Python中大多数工具的规范默认输入将不包含p值或察看计数,所以如果你须要这方面的统计,能够应用咱们子厚提供的函数,因为要进行全面和残缺的相关性剖析,有p值和察看计数作为参考是十分有帮忙的。

https://avoid.overfit.cn/post/836b5590a96045faae2774bb3f23c9ef