关于python:为什么说Python大数据处理一定要用Numpy-Array

33次阅读

共计 2280 个字符,预计需要花费 6 分钟才能阅读完成。

Numpy 是 Python 科学计算的一个外围模块。它提供了十分高效的数组对象,以及用于解决这些数组对象的工具。一个 Numpy 数组由许多值组成,所有值的类型是雷同的。

Python 的外围库提供了 List 列表。列表是最常见的 Python 数据类型之一,它能够调整大小并且蕴含不同类型的元素,十分不便。

那么 List 和 Numpy Array 到底有什么区别?为什么咱们须要在大数据处理的时候应用 Numpy Array?答案是性能。

Numpy 数据结构在以下方面体现更好:

1. 内存大小—Numpy 数据结构占用的内存更小。

2. 性能—Numpy 底层是用 C 语言实现的,比列表更快。

3. 运算办法—内置优化了代数运算等办法。

上面别离解说在大数据处理时,Numpy 数组绝对于 List 的劣势。

1. 内存占用更小

适当地应用 Numpy 数组代替 List,你能让你的内存占用升高 20 倍。

对于 Python 原生的 List 列表,因为每次新增对象,都须要 8 个字节来援用新对象,新的对象自身占 28 个字节(以整数为例)。所以列表 list 的大小能够用以下公式计算:

64 + 8 len(lst) + len(lst) 28 字节

而应用 Numpy,就能缩小十分多的空间占用。比方长度为 n 的 Numpy 整形 Array,它须要:

96 + len(a) * 8 字节

可见,数组越大,你节俭的内存空间越多。假如你的数组有 10 亿个元素,那么这个内存占用大小的差距会是 GB 级别的。

2. 速度更快、内置计算方法

运行上面这个脚本,同样是生成某个维度的两个数组并相加,你就能看到原生 List 和 Numpy Array 的性能差距。

import time
import numpy as np

size_of_vec = 1000

def pure_python_version():
    t1 = time.time()
    X = range(size_of_vec)
    Y = range(size_of_vec)
    Z = [X[i] + Y[i] for i in range(len(X)) ]
    return time.time() - t1

def numpy_version():
    t1 = time.time()
    X = np.arange(size_of_vec)
    Y = np.arange(size_of_vec)
    Z = X + Y
    return time.time() - t1


t1 = pure_python_version()
t2 = numpy_version()
print(t1, t2)
print("Numpy is in this example" + str(t1/t2) + "faster!")

后果如下:

0.00048732757568359375 0.0002491474151611328
Numpy is in this example 1.955980861244019 faster!

能够看到,Numpy 比原生数组快 1.95 倍。

如果你仔细的话,还能发现,Numpy array 能够间接执行加法操作。而原生的数组是做不到这点的,这就是 Numpy 运算办法的劣势。

咱们再做几次反复试验,以证实这个性能劣势是持久性的。

import numpy as np
from timeit import Timer

size_of_vec = 1000
X_list = range(size_of_vec)
Y_list = range(size_of_vec)
X = np.arange(size_of_vec)
Y = np.arange(size_of_vec)

def pure_python_version():
    Z = [X_list[i] + Y_list[i] for i in range(len(X_list)) ]

def numpy_version():
    Z = X + Y

timer_obj1 = Timer("pure_python_version()",
                   "from __main__ import pure_python_version")
timer_obj2 = Timer("numpy_version()",
                   "from __main__ import numpy_version")

print(timer_obj1.timeit(10))
print(timer_obj2.timeit(10)) # Runs Faster!

print(timer_obj1.repeat(repeat=3, number=10))
print(timer_obj2.repeat(repeat=3, number=10)) # repeat to prove it!

后果如下:

0.0029753120616078377
0.00014940369874238968
[0.002683573868125677, 0.002754641231149435, 0.002803879790008068]
[6.536301225423813e-05, 2.9387418180704117e-05, 2.9171351343393326e-05]

能够看到,第二个输入的工夫总是小得多,这就证实了这个性能劣势是具备持久性的。

所以,如果你在做一些大数据钻研,比方金融数据、股票数据的钻研,应用 Numpy 可能节俭你不少内存空间,并领有更弱小的性能。

咱们的文章到此就完结啦,如果你喜爱明天的 Python 实战教程,能够关注公众号:Python 编程学习圈 ,理解更多编程技术常识!

正文完
 0