Python 是一种脚本语言,相比 C/C++ 这样的编译语言,在效率和性能方面存在一些有余。然而,有很多时候,Python 的效率并没有设想中的那么夸大。本文对一些 Python 代码减速运行的技巧进行整顿。
0. 代码优化准则
本文会介绍不少的 Python 代码减速运行的技巧。在深刻代码优化细节之前,须要理解一些代码优化根本准则。
第一个根本准则是不要过早优化。很多人一开始写代码就奔着性能优化的指标,“让正确的程序更快要比让疾速的程序正确容易得多”。因而,优化的前提是代码能失常工作。过早地进行优化可能会漠视对总体性能指标的把握,在失去全局后果前不要主次颠倒。
第二个根本准则是衡量优化的代价。优化是有代价的,想解决所有性能的问题是简直不可能的。通常面临的抉择是工夫换空间或空间换工夫。另外,开发代价也须要思考。
第三个准则是不要优化那些无关紧要的局部。如果对代码的每一部分都去优化,这些批改会使代码难以浏览和了解。如果你的代码运行速度很慢,首先要找到代码运行慢的地位,通常是外部循环,专一于运行慢的中央进行优化。在其余中央,一点工夫上的损失没有什么影响。
1. 防止全局变量
# 不举荐写法。代码耗时:26.8秒import mathsize = 10000for x in range(size): for y in range(size): z = math.sqrt(x) + math.sqrt(y)
许多程序员刚开始会用 Python 语言写一些简略的脚本,当编写脚本时,通常习惯了间接将其写为全局变量,例如下面的代码。然而,因为全局变量和局部变量实现形式不同,定义在全局范畴内的代码运行速度会比定义在函数中的慢不少。通过将脚本语句放入到函数中,通常可带来 15% - 30% 的速度晋升。
# 举荐写法。代码耗时:20.6秒import mathdef main(): # 定义到函数中,以缩小全副变量应用 size = 10000 for x in range(size): for y in range(size): z = math.sqrt(x) + math.sqrt(y)main()
2. 防止.
2.1 防止模块和函数属性拜访
# 不举荐写法。代码耗时:14.5秒import mathdef computeSqrt(size: int): result = [] for i in range(size): result.append(math.sqrt(i)) return resultdef main(): size = 10000 for _ in range(size): result = computeSqrt(size)main()
每次应用.(属性拜访操作符时)会触发特定的办法,如__getattribute__()和__getattr__(),这些办法会进行字典操作,因而会带来额定的工夫开销。通过from import语句,能够打消属性拜访。
# 第一次优化写法。代码耗时:10.9秒from math import sqrtdef computeSqrt(size: int): result = [] for i in range(size): result.append(sqrt(i)) # 防止math.sqrt的应用 return resultdef main(): size = 10000 for _ in range(size): result = computeSqrt(size)main()
在第 1 节中咱们讲到,局部变量的查找会比全局变量更快,因而对于频繁拜访的变量sqrt,通过将其改为局部变量能够减速运行。
# 第二次优化写法。代码耗时:9.9秒import mathdef computeSqrt(size: int): result = [] sqrt = math.sqrt # 赋值给局部变量 for i in range(size): result.append(sqrt(i)) # 防止math.sqrt的应用 return resultdef main(): size = 10000 for _ in range(size): result = computeSqrt(size)main()
除了math.sqrt外,computeSqrt函数中还有.的存在,那就是调用list的append办法。通过将该办法赋值给一个局部变量,能够彻底消除computeSqrt函数中for循环外部的.应用。
# 举荐写法。代码耗时:7.9秒import mathdef computeSqrt(size: int): result = [] append = result.append sqrt = math.sqrt # 赋值给局部变量 for i in range(size): append(sqrt(i)) # 防止 result.append 和 math.sqrt 的应用 return resultdef main(): size = 10000 for _ in range(size): result = computeSqrt(size)main()
2.2 防止类内属性拜访
# 不举荐写法。代码耗时:10.4秒import mathfrom typing import Listclass DemoClass: def __init__(self, value: int): self._value = value def computeSqrt(self, size: int) -> List[float]: result = [] append = result.append sqrt = math.sqrt for _ in range(size): append(sqrt(self._value)) return resultdef main(): size = 10000 for _ in range(size): demo_instance = DemoClass(size) result = demo_instance.computeSqrt(size)main()
防止.的准则也实用于类内属性,拜访self._value的速度会比拜访一个局部变量更慢一些。通过将须要频繁拜访的类内属性赋值给一个局部变量,能够晋升代码运行速度。
# 举荐写法。代码耗时:8.0秒import mathfrom typing import Listclass DemoClass: def __init__(self, value: int): self._value = value def computeSqrt(self, size: int) -> List[float]: result = [] append = result.append sqrt = math.sqrt value = self._value for _ in range(size): append(sqrt(value)) # 防止 self._value 的应用 return resultdef main(): size = 10000 for _ in range(size): demo_instance = DemoClass(size) demo_instance.computeSqrt(size)main()
3. 防止不必要的形象
# 不举荐写法,代码耗时:0.55秒class DemoClass: def __init__(self, value: int): self.value = value @property def value(self) -> int: return self._value @value.setter def value(self, x: int): self._value = xdef main(): size = 1000000 for i in range(size): demo_instance = DemoClass(size) value = demo_instance.value demo_instance.value = imain()
任何时候当你应用额定的解决层(比方装璜器、属性拜访、形容器)去包装代码时,都会让代码变慢。大部分状况下,须要从新进行扫视应用属性拜访器的定义是否有必要,应用getter/setter函数对属性进行拜访通常是 C/C++ 程序员遗留下来的代码格调。如果真的没有必要,就应用简略属性。
# 举荐写法,代码耗时:0.33秒class DemoClass: def __init__(self, value: int): self.value = value # 防止不必要的属性拜访器def main(): size = 1000000 for i in range(size): demo_instance = DemoClass(size) value = demo_instance.value demo_instance.value = imain()
4. 防止数据复制
4.1 防止无意义的数据复制
# 不举荐写法,代码耗时:6.5秒def main(): size = 10000 for _ in range(size): value = range(size) value_list = [x for x in value] square_list = [x * x for x in value_list]main()
下面的代码中value_list齐全没有必要,这会创立不必要的数据结构或复制。
# 举荐写法,代码耗时:4.8秒def main(): size = 10000 for _ in range(size): value = range(size) square_list = [x * x for x in value] # 防止无意义的复制main()
另外一种状况是对 Python 的数据共享机制过于偏执,并没有很好地了解或信赖 Python 的内存模型,滥用 copy.deepcopy()之类的函数。通常在这些代码中是能够去掉复制操作的。
4.2 替换值时不应用两头变量
# 不举荐写法,代码耗时:0.07秒def main(): size = 1000000 for _ in range(size): a = 3 b = 5 temp = a a = b b = tempmain()
下面的代码在替换值时创立了一个长期变量temp,如果不借助两头变量,代码更为简洁、且运行速度更快。
# 举荐写法,代码耗时:0.06秒def main(): size = 1000000 for _ in range(size): a = 3 b = 5 a, b = b, a # 不借助两头变量main()
4.3 字符串拼接用join而不是+
# 不举荐写法,代码耗时:2.6秒import stringfrom typing import Listdef concatString(string_list: List[str]) -> str: result = '' for str_i in string_list: result += str_i return resultdef main(): string_list = list(string.ascii_letters * 100) for _ in range(10000): result = concatString(string_list)main()
当应用a + b拼接字符串时,因为 Python 中字符串是不可变对象,其会申请一块内存空间,将a和b别离复制到该新申请的内存空间中。因而,如果要拼接 n 个字符串,会产生 n-1 个两头后果,每产生一个两头后果都须要申请和复制一次内存,重大影响运行效率。而应用join()拼接字符串时,会首先计算出须要申请的总的内存空间,而后一次性地申请所需内存,并将每个字符串元素复制到该内存中去。
# 举荐写法,代码耗时:0.3秒import stringfrom typing import Listdef concatString(string_list: List[str]) -> str: return ''.join(string_list) # 应用 join 而不是 +def main(): string_list = list(string.ascii_letters * 100) for _ in range(10000): result = concatString(string_list)main()
5. 利用if条件的短路个性
# 不举荐写法,代码耗时:0.05秒from typing import Listdef concatString(string_list: List[str]) -> str: abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'} abbr_count = 0 result = '' for str_i in string_list: if str_i in abbreviations: result += str_i return resultdef main(): for _ in range(10000): string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.'] result = concatString(string_list)main()
if 条件的短路个性是指对if a and b这样的语句, 当a为False时将间接返回,不再计算b;对于if a or b这样的语句,当a为True时将间接返回,不再计算b。因而, 为了节约运行工夫,对于or语句,应该将值为True可能性比拟高的变量写在or前,而and应该推后。
# 举荐写法,代码耗时:0.03秒from typing import Listdef concatString(string_list: List[str]) -> str: abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'} abbr_count = 0 result = '' for str_i in string_list: if str_i[-1] == '.' and str_i in abbreviations: # 利用 if 条件的短路个性 result += str_i return resultdef main(): for _ in range(10000): string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.'] result = concatString(string_list)main()
6. 循环优化
6.1 用for循环代替while循环
# 不举荐写法。代码耗时:6.7秒def computeSum(size: int) -> int: sum_ = 0 i = 0 while i < size: sum_ += i i += 1 return sum_def main(): size = 10000 for _ in range(size): sum_ = computeSum(size)main()
Python 的for循环比while循环快不少。
# 举荐写法。代码耗时:4.3秒def computeSum(size: int) -> int: sum_ = 0 for i in range(size): # for 循环代替 while 循环 sum_ += i return sum_def main(): size = 10000 for _ in range(size): sum_ = computeSum(size)main()
6.2 应用隐式for循环代替显式for循环
针对下面的例子,更进一步能够用隐式for循环来代替显式for循环
# 举荐写法。代码耗时:1.7秒def computeSum(size: int) -> int: return sum(range(size)) # 隐式 for 循环代替显式 for 循环def main(): size = 10000 for _ in range(size): sum = computeSum(size)main()
6.3 缩小内层for循环的计算
# 不举荐写法。代码耗时:12.8秒import mathdef main(): size = 10000 sqrt = math.sqrt for x in range(size): for y in range(size): z = sqrt(x) + sqrt(y)main()
下面的代码中sqrt(x)位于内侧for循环, 每次训练过程中都会从新计算一次,减少了工夫开销。
# 举荐写法。代码耗时:7.0秒import mathdef main(): size = 10000 sqrt = math.sqrt for x in range(size): sqrt_x = sqrt(x) # 缩小内层 for 循环的计算 for y in range(size): z = sqrt_x + sqrt(y)main()
7. 应用numba.jit
咱们沿用下面介绍过的例子,在此基础上应用numba.jit。numba能够将 Python 函数 JIT 编译为机器码执行,大大提高代码运行速度。对于numba的更多信息见上面的主页:http://numba.pydata.org/numba...
# 举荐写法。代码耗时:0.62秒import numba@numba.jitdef computeSum(size: float) -> int: sum = 0 for i in range(size): sum += i return sumdef main(): size = 10000 for _ in range(size): sum = computeSum(size)main()
8. 抉择适合的数据结构
Python 内置的数据结构如str, tuple, list, set, dict底层都是 C 实现的,速度十分快,本人实现新的数据结构想在性能上达到内置的速度简直是不可能的。
list相似于 C++ 中的std::vector,是一种动静数组。其会预调配肯定内存空间,当预调配的内存空间用完,又持续向其中增加元素时,会申请一块更大的内存空间,而后将原有的所有元素都复制过来,之后销毁之前的内存空间,再插入新元素。
删除元素时操作相似,当已应用内存空间比预分配内存空间的一半还少时,会另外申请一块小内存,做一次元素复制,之后销毁原有大内存空间。
因而,如果有频繁的新增、删除操作,新增、删除的元素数量又很多时,list的效率不高。此时,应该思考应用collections.deque。collections.deque是双端队列,同时具备栈和队列的个性,可能在两端进行 O(1) 复杂度的插入和删除操作。
list的查找操作也十分耗时。当须要在list频繁查找某些元素,或频繁有序拜访这些元素时,能够应用bisect保护list对象有序并在其中进行二分查找,晋升查找的效率。
另外一个常见需要是查找极小值或极大值,此时能够应用heapq模块将list转化为一个堆,使得获取最小值的工夫复杂度是 O(1)。
最近整顿了几百 G 的 Python 学习材料,收费分享给大家!想要的返回公~豪 “Python 编程学习圈”,发送 “J” 即可收费取得