Numpy 是Python科学计算的一个外围模块。它提供了十分高效的数组对象,以及用于解决这些数组对象的工具。一个Numpy数组由许多值组成,所有值的类型是雷同的。
Python的外围库提供了 List 列表。列表是最常见的Python数据类型之一,它能够调整大小并且蕴含不同类型的元素,十分不便。
那么List和Numpy Array到底有什么区别?为什么咱们须要在大数据处理的时候应用Numpy Array?答案是性能。
Numpy数据结构在以下方面体现更好:
1.内存大小—Numpy数据结构占用的内存更小。
2.性能—Numpy底层是用C语言实现的,比列表更快。
3.运算办法—内置优化了代数运算等办法。
上面别离解说在大数据处理时,Numpy数组绝对于List的劣势。
1.内存占用更小
适当地应用Numpy数组代替List,你能让你的内存占用升高20倍。
对于Python原生的List列表,因为每次新增对象,都须要8个字节来援用新对象,新的对象自身占28个字节(以整数为例)。所以列表 list 的大小能够用以下公式计算:
64 + 8 len(lst) + len(lst) 28 字节
而应用Numpy,就能缩小十分多的空间占用。比方长度为n的Numpy整形Array,它须要:
96 + len(a) * 8 字节
可见,数组越大,你节俭的内存空间越多。假如你的数组有10亿个元素,那么这个内存占用大小的差距会是GB级别的。
2.速度更快、内置计算方法
运行上面这个脚本,同样是生成某个维度的两个数组并相加,你就能看到原生List和Numpy Array的性能差距。
import timeimport numpy as npsize_of_vec = 1000def pure_python_version(): t1 = time.time() X = range(size_of_vec) Y = range(size_of_vec) Z = [X[i] + Y[i] for i in range(len(X)) ] return time.time() - t1def numpy_version(): t1 = time.time() X = np.arange(size_of_vec) Y = np.arange(size_of_vec) Z = X + Y return time.time() - t1t1 = pure_python_version()t2 = numpy_version()print(t1, t2)print("Numpy is in this example " + str(t1/t2) + " faster!")
后果如下:
0.00048732757568359375 0.0002491474151611328Numpy is in this example 1.955980861244019 faster!
能够看到,Numpy比原生数组快1.95倍。
如果你仔细的话,还能发现,Numpy array能够间接执行加法操作。而原生的数组是做不到这点的,这就是Numpy 运算办法的劣势。
咱们再做几次反复试验,以证实这个性能劣势是持久性的。
import numpy as npfrom timeit import Timersize_of_vec = 1000X_list = range(size_of_vec)Y_list = range(size_of_vec)X = np.arange(size_of_vec)Y = np.arange(size_of_vec)def pure_python_version(): Z = [X_list[i] + Y_list[i] for i in range(len(X_list)) ]def numpy_version(): Z = X + Ytimer_obj1 = Timer("pure_python_version()", "from __main__ import pure_python_version")timer_obj2 = Timer("numpy_version()", "from __main__ import numpy_version")print(timer_obj1.timeit(10))print(timer_obj2.timeit(10)) # Runs Faster!print(timer_obj1.repeat(repeat=3, number=10))print(timer_obj2.repeat(repeat=3, number=10)) # repeat to prove it!
后果如下:
0.00297531206160783770.00014940369874238968[0.002683573868125677, 0.002754641231149435, 0.002803879790008068][6.536301225423813e-05, 2.9387418180704117e-05, 2.9171351343393326e-05]
能够看到,第二个输入的工夫总是小得多,这就证实了这个性能劣势是具备持久性的。
所以,如果你在做一些大数据钻研,比方金融数据、股票数据的钻研,应用Numpy可能节俭你不少内存空间,并领有更弱小的性能。
咱们的文章到此就完结啦,如果你喜爱明天的Python 实战教程,能够关注公众号:Python编程学习圈,理解更多编程技术常识!