用一行Python进行数据收集探索

51次阅读

共计 1100 个字符,预计需要花费 3 分钟才能阅读完成。

简易的 Pandas 之路

任何使用 Python 数据的人都会熟悉 Pandas 包。Pandas 是大多数行和列格式数据的 go-to 包。如果你没有 Pandas,请确保在终端中使用 pip install 安装:

pip install pandas

现在,让我们看看 Pandas 包中的默认方法可以做些什么:

以下内容写给不知道上面发生了什么的新手:

任何 Pandas 数据帧都有一个.descripe()返回上面的输出的方法。但是,此方法中没有注意到分类变量。在上面的示例中,输出中完全省略了“method”列。

让我们看看能不能解决这个问题。


Pandas 分析

如果我告诉你仅用 3 行 Python 就可以产生以下统计信息,你会怎么想?但其实,如果不计算 imports 的话,总体上只用 1 行就够。

  • 要点:类型,唯一值,缺失值
  • 分位数统计信息:例如最小值,Q1,中位数,Q3,最大值,范围,四分位数范围
  • 描述性统计数据:例如平均值,众数,标准偏差,总和,中位数绝对偏差,变异系数,峰度,偏度
  • 常用值
  • 直方图
  • 高相关变量 Spearman,Pearson 和 Kendall 矩阵的相关性突出显示
  • 缺失值矩阵,计数,热图和缺失值树状图

(功能列表直接来自 Pandas Profiling GitHub)

好吧,我们可以使用 Pandas Profiling 软件包!要安装 Pandas Profiling 软件包,只需在终端中使用 pip install 即可:

pip install pandas_profiling

经验丰富的数据分析人员可能会因为这些数据的松散甚至乍一看之下的“华而不实”而嗤之以鼻,但这对于快速获得数据的第一手印象肯定是有用的:

我们首先看到的是概述,其中提供了关于数据和变量的一些非常高级的统计信息,以及变量之间的高相关性、高偏态性的警告等。

但这还不算什么。向下滚动我们会发现报告有多个部分,如果只是简单地用图片展示这个 1 行程序的输出是不足以完全呈现这些内容的,所以我制作了一个 gif:

我强烈建议大家自己去探索一下这个包的特性,毕竟,这里提到的只是一行代码,在将来 的数据分析中,这个包可能会对你非常有用。

import pandas as pd
import pandas_profiling
pd.read_csv('https://raw.githubusercontent.com/mwaskom/seaborn-data/master/planets.csv').profile_report()

原文链接:https://towardsdatascience.co…

以上信息来源于网络,由“京东云开发者社区”公众号编辑整理,不代表京东云立场。

点击“京东云”了解京东云数据工厂产品

正文完
 0