共计 7503 个字符,预计需要花费 19 分钟才能阅读完成。
Python 是一种脚本语言,相比 C/C++ 这样的编译语言,在效率和性能方面存在一些有余。然而,有很多时候,Python 的效率并没有设想中的那么夸大。本文对一些 Python 代码减速运行的技巧进行整顿。
0. 代码优化准则
本文会介绍不少的 Python 代码减速运行的技巧。在深刻代码优化细节之前,须要理解一些代码优化根本准则。
第一个根本准则是不要过早优化。很多人一开始写代码就奔着性能优化的指标,“让正确的程序更快要比让疾速的程序正确容易得多”。因而,优化的前提是代码能失常工作。过早地进行优化可能会漠视对总体性能指标的把握,在失去全局后果前不要主次颠倒。
第二个根本准则是衡量优化的代价。优化是有代价的,想解决所有性能的问题是简直不可能的。通常面临的抉择是工夫换空间或空间换工夫。另外,开发代价也须要思考。
第三个准则是不要优化那些无关紧要的局部。如果对代码的每一部分都去优化,这些批改会使代码难以浏览和了解。如果你的代码运行速度很慢,首先要找到代码运行慢的地位,通常是外部循环,专一于运行慢的中央进行优化。在其余中央,一点工夫上的损失没有什么影响。
1. 防止全局变量
# 不举荐写法。代码耗时:26.8 秒
import math
size = 10000
for x in range(size):
for y in range(size):
z = math.sqrt(x) + math.sqrt(y)
许多程序员刚开始会用 Python 语言写一些简略的脚本,当编写脚本时,通常习惯了间接将其写为全局变量,例如下面的代码。然而,因为全局变量和局部变量实现形式不同,定义在全局范畴内的代码运行速度会比定义在函数中的慢不少。通过将脚本语句放入到函数中,通常可带来 15% – 30% 的速度晋升。
# 举荐写法。代码耗时:20.6 秒
import math
def main(): # 定义到函数中,以缩小全副变量应用
size = 10000
for x in range(size):
for y in range(size):
z = math.sqrt(x) + math.sqrt(y)
main()
2. 防止.
2.1 防止模块和函数属性拜访
# 不举荐写法。代码耗时:14.5 秒
import math
def computeSqrt(size: int):
result = []
for i in range(size):
result.append(math.sqrt(i))
return result
def main():
size = 10000
for _ in range(size):
result = computeSqrt(size)
main()
每次应用.(属性拜访操作符时)会触发特定的办法,如__getattribute__()和__getattr__(),这些办法会进行字典操作,因而会带来额定的工夫开销。通过 from import 语句,能够打消属性拜访。
# 第一次优化写法。代码耗时:10.9 秒
from math import sqrt
def computeSqrt(size: int):
result = []
for i in range(size):
result.append(sqrt(i)) # 防止 math.sqrt 的应用
return result
def main():
size = 10000
for _ in range(size):
result = computeSqrt(size)
main()
在第 1 节中咱们讲到,局部变量的查找会比全局变量更快,因而对于频繁拜访的变量 sqrt,通过将其改为局部变量能够减速运行。
# 第二次优化写法。代码耗时:9.9 秒
import math
def computeSqrt(size: int):
result = []
sqrt = math.sqrt # 赋值给局部变量
for i in range(size):
result.append(sqrt(i)) # 防止 math.sqrt 的应用
return result
def main():
size = 10000
for _ in range(size):
result = computeSqrt(size)
main()
除了 math.sqrt 外,computeSqrt 函数中还有. 的存在,那就是调用 list 的 append 办法。通过将该办法赋值给一个局部变量,能够彻底消除 computeSqrt 函数中 for 循环外部的. 应用。
# 举荐写法。代码耗时:7.9 秒
import math
def computeSqrt(size: int):
result = []
append = result.append
sqrt = math.sqrt # 赋值给局部变量
for i in range(size):
append(sqrt(i)) # 防止 result.append 和 math.sqrt 的应用
return result
def main():
size = 10000
for _ in range(size):
result = computeSqrt(size)
main()
2.2 防止类内属性拜访
# 不举荐写法。代码耗时:10.4 秒
import math
from typing import List
class DemoClass:
def __init__(self, value: int):
self._value = value
def computeSqrt(self, size: int) -> List[float]:
result = []
append = result.append
sqrt = math.sqrt
for _ in range(size):
append(sqrt(self._value))
return result
def main():
size = 10000
for _ in range(size):
demo_instance = DemoClass(size)
result = demo_instance.computeSqrt(size)
main()
防止. 的准则也实用于类内属性,拜访 self._value 的速度会比拜访一个局部变量更慢一些。通过将须要频繁拜访的类内属性赋值给一个局部变量,能够晋升代码运行速度。
# 举荐写法。代码耗时:8.0 秒
import math
from typing import List
class DemoClass:
def __init__(self, value: int):
self._value = value
def computeSqrt(self, size: int) -> List[float]:
result = []
append = result.append
sqrt = math.sqrt
value = self._value
for _ in range(size):
append(sqrt(value)) # 防止 self._value 的应用
return result
def main():
size = 10000
for _ in range(size):
demo_instance = DemoClass(size)
demo_instance.computeSqrt(size)
main()
3. 防止不必要的形象
# 不举荐写法,代码耗时:0.55 秒
class DemoClass:
def __init__(self, value: int):
self.value = value
@property
def value(self) -> int:
return self._value
@value.setter
def value(self, x: int):
self._value = x
def main():
size = 1000000
for i in range(size):
demo_instance = DemoClass(size)
value = demo_instance.value
demo_instance.value = i
main()
任何时候当你应用额定的解决层(比方装璜器、属性拜访、形容器)去包装代码时,都会让代码变慢。大部分状况下,须要从新进行扫视应用属性拜访器的定义是否有必要,应用 getter/setter 函数对属性进行拜访通常是 C/C++ 程序员遗留下来的代码格调。如果真的没有必要,就应用简略属性。
# 举荐写法,代码耗时:0.33 秒
class DemoClass:
def __init__(self, value: int):
self.value = value # 防止不必要的属性拜访器
def main():
size = 1000000
for i in range(size):
demo_instance = DemoClass(size)
value = demo_instance.value
demo_instance.value = i
main()
4. 防止数据复制
4.1 防止无意义的数据复制
# 不举荐写法,代码耗时:6.5 秒
def main():
size = 10000
for _ in range(size):
value = range(size)
value_list = [x for x in value]
square_list = [x * x for x in value_list]
main()
下面的代码中 value_list 齐全没有必要,这会创立不必要的数据结构或复制。
# 举荐写法,代码耗时:4.8 秒
def main():
size = 10000
for _ in range(size):
value = range(size)
square_list = [x * x for x in value] # 防止无意义的复制
main()
另外一种状况是对 Python 的数据共享机制过于偏执,并没有很好地了解或信赖 Python 的内存模型,滥用 copy.deepcopy()之类的函数。通常在这些代码中是能够去掉复制操作的。
4.2 替换值时不应用两头变量
# 不举荐写法,代码耗时:0.07 秒
def main():
size = 1000000
for _ in range(size):
a = 3
b = 5
temp = a
a = b
b = temp
main()
下面的代码在替换值时创立了一个长期变量 temp,如果不借助两头变量,代码更为简洁、且运行速度更快。
# 举荐写法,代码耗时:0.06 秒
def main():
size = 1000000
for _ in range(size):
a = 3
b = 5
a, b = b, a # 不借助两头变量
main()
4.3 字符串拼接用 join 而不是 +
# 不举荐写法,代码耗时:2.6 秒
import string
from typing import List
def concatString(string_list: List[str]) -> str:
result = ''
for str_i in string_list:
result += str_i
return result
def main():
string_list = list(string.ascii_letters * 100)
for _ in range(10000):
result = concatString(string_list)
main()
当应用 a + b 拼接字符串时,因为 Python 中字符串是不可变对象,其会申请一块内存空间,将 a 和 b 别离复制到该新申请的内存空间中。因而,如果要拼接 n 个字符串,会产生 n-1 个两头后果,每产生一个两头后果都须要申请和复制一次内存,重大影响运行效率。而应用 join()拼接字符串时,会首先计算出须要申请的总的内存空间,而后一次性地申请所需内存,并将每个字符串元素复制到该内存中去。
# 举荐写法,代码耗时:0.3 秒
import string
from typing import List
def concatString(string_list: List[str]) -> str:
return ''.join(string_list) # 应用 join 而不是 +
def main():
string_list = list(string.ascii_letters * 100)
for _ in range(10000):
result = concatString(string_list)
main()
5. 利用 if 条件的短路个性
# 不举荐写法,代码耗时:0.05 秒
from typing import List
def concatString(string_list: List[str]) -> str:
abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'}
abbr_count = 0
result = ''
for str_i in string_list:
if str_i in abbreviations:
result += str_i
return result
def main():
for _ in range(10000):
string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.']
result = concatString(string_list)
main()
if 条件的短路个性是指对 if a and b 这样的语句,当 a 为 False 时将间接返回,不再计算 b;对于 if a or b 这样的语句,当 a 为 True 时将间接返回,不再计算 b。因而,为了节约运行工夫,对于 or 语句,应该将值为 True 可能性比拟高的变量写在 or 前,而 and 应该推后。
# 举荐写法,代码耗时:0.03 秒
from typing import List
def concatString(string_list: List[str]) -> str:
abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'}
abbr_count = 0
result = ''
for str_i in string_list:
if str_i[-1] == '.' and str_i in abbreviations: # 利用 if 条件的短路个性
result += str_i
return result
def main():
for _ in range(10000):
string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.']
result = concatString(string_list)
main()
6. 循环优化
6.1 用 for 循环代替 while 循环
# 不举荐写法。代码耗时:6.7 秒
def computeSum(size: int) -> int:
sum_ = 0
i = 0
while i < size:
sum_ += i
i += 1
return sum_
def main():
size = 10000
for _ in range(size):
sum_ = computeSum(size)
main()
Python 的 for 循环比 while 循环快不少。
# 举荐写法。代码耗时:4.3 秒
def computeSum(size: int) -> int:
sum_ = 0
for i in range(size): # for 循环代替 while 循环
sum_ += i
return sum_
def main():
size = 10000
for _ in range(size):
sum_ = computeSum(size)
main()
6.2 应用隐式 for 循环代替显式 for 循环
针对下面的例子,更进一步能够用隐式 for 循环来代替显式 for 循环
# 举荐写法。代码耗时:1.7 秒
def computeSum(size: int) -> int:
return sum(range(size)) # 隐式 for 循环代替显式 for 循环
def main():
size = 10000
for _ in range(size):
sum = computeSum(size)
main()
6.3 缩小内层 for 循环的计算
# 不举荐写法。代码耗时:12.8 秒
import math
def main():
size = 10000
sqrt = math.sqrt
for x in range(size):
for y in range(size):
z = sqrt(x) + sqrt(y)
main()
下面的代码中 sqrt(x)位于内侧 for 循环,每次训练过程中都会从新计算一次,减少了工夫开销。
# 举荐写法。代码耗时:7.0 秒
import math
def main():
size = 10000
sqrt = math.sqrt
for x in range(size):
sqrt_x = sqrt(x) # 缩小内层 for 循环的计算
for y in range(size):
z = sqrt_x + sqrt(y)
main()
7. 应用 numba.jit
咱们沿用下面介绍过的例子,在此基础上应用 numba.jit。numba 能够将 Python 函数 JIT 编译为机器码执行,大大提高代码运行速度。对于 numba 的更多信息见上面的主页:http://numba.pydata.org/numba…
# 举荐写法。代码耗时:0.62 秒
import numba
@numba.jit
def computeSum(size: float) -> int:
sum = 0
for i in range(size):
sum += i
return sum
def main():
size = 10000
for _ in range(size):
sum = computeSum(size)
main()
8. 抉择适合的数据结构
Python 内置的数据结构如 str, tuple, list, set, dict 底层都是 C 实现的,速度十分快,本人实现新的数据结构想在性能上达到内置的速度简直是不可能的。
list 相似于 C++ 中的 std::vector,是一种动静数组。其会预调配肯定内存空间,当预调配的内存空间用完,又持续向其中增加元素时,会申请一块更大的内存空间,而后将原有的所有元素都复制过来,之后销毁之前的内存空间,再插入新元素。
删除元素时操作相似,当已应用内存空间比预分配内存空间的一半还少时,会另外申请一块小内存,做一次元素复制,之后销毁原有大内存空间。
因而,如果有频繁的新增、删除操作,新增、删除的元素数量又很多时,list 的效率不高。此时,应该思考应用 collections.deque。collections.deque 是双端队列,同时具备栈和队列的个性,可能在两端进行 O(1) 复杂度的插入和删除操作。
list 的查找操作也十分耗时。当须要在 list 频繁查找某些元素,或频繁有序拜访这些元素时,能够应用 bisect 保护 list 对象有序并在其中进行二分查找,晋升查找的效率。
另外一个常见需要是查找极小值或极大值,此时能够应用 heapq 模块将 list 转化为一个堆,使得获取最小值的工夫复杂度是 O(1)。
最近整顿了几百 G 的 Python 学习材料,收费分享给大家!想要的返回公~豪“Python 编程学习圈”,发送“J”即可收费取得