关于python:Python-优化提速的-8-个小技巧

3次阅读

共计 7503 个字符,预计需要花费 19 分钟才能阅读完成。

Python 是一种脚本语言,相比 C/C++ 这样的编译语言,在效率和性能方面存在一些有余。然而,有很多时候,Python 的效率并没有设想中的那么夸大。本文对一些 Python 代码减速运行的技巧进行整顿。

0. 代码优化准则
本文会介绍不少的 Python 代码减速运行的技巧。在深刻代码优化细节之前,须要理解一些代码优化根本准则。

第一个根本准则是不要过早优化。很多人一开始写代码就奔着性能优化的指标,“让正确的程序更快要比让疾速的程序正确容易得多”。因而,优化的前提是代码能失常工作。过早地进行优化可能会漠视对总体性能指标的把握,在失去全局后果前不要主次颠倒。

第二个根本准则是衡量优化的代价。优化是有代价的,想解决所有性能的问题是简直不可能的。通常面临的抉择是工夫换空间或空间换工夫。另外,开发代价也须要思考。

第三个准则是不要优化那些无关紧要的局部。如果对代码的每一部分都去优化,这些批改会使代码难以浏览和了解。如果你的代码运行速度很慢,首先要找到代码运行慢的地位,通常是外部循环,专一于运行慢的中央进行优化。在其余中央,一点工夫上的损失没有什么影响。

1. 防止全局变量

# 不举荐写法。代码耗时:26.8 秒
import math

size = 10000
for x in range(size):
    for y in range(size):
        z = math.sqrt(x) + math.sqrt(y)

许多程序员刚开始会用 Python 语言写一些简略的脚本,当编写脚本时,通常习惯了间接将其写为全局变量,例如下面的代码。然而,因为全局变量和局部变量实现形式不同,定义在全局范畴内的代码运行速度会比定义在函数中的慢不少。通过将脚本语句放入到函数中,通常可带来 15% – 30% 的速度晋升。

# 举荐写法。代码耗时:20.6 秒
import math

def main():  # 定义到函数中,以缩小全副变量应用
    size = 10000
    for x in range(size):
        for y in range(size):
            z = math.sqrt(x) + math.sqrt(y)

main()

2. 防止.

2.1 防止模块和函数属性拜访

# 不举荐写法。代码耗时:14.5 秒
import math

def computeSqrt(size: int):
    result = []
    for i in range(size):
        result.append(math.sqrt(i))
    return result

def main():
    size = 10000
    for _ in range(size):
        result = computeSqrt(size)

main()

每次应用.(属性拜访操作符时)会触发特定的办法,如__getattribute__()和__getattr__(),这些办法会进行字典操作,因而会带来额定的工夫开销。通过 from import 语句,能够打消属性拜访。

# 第一次优化写法。代码耗时:10.9 秒
from math import sqrt

def computeSqrt(size: int):
    result = []
    for i in range(size):
        result.append(sqrt(i))  # 防止 math.sqrt 的应用
    return result

def main():
    size = 10000
    for _ in range(size):
        result = computeSqrt(size)

main()

在第 1 节中咱们讲到,局部变量的查找会比全局变量更快,因而对于频繁拜访的变量 sqrt,通过将其改为局部变量能够减速运行。

# 第二次优化写法。代码耗时:9.9 秒
import math

def computeSqrt(size: int):
    result = []
    sqrt = math.sqrt  # 赋值给局部变量
    for i in range(size):
        result.append(sqrt(i))  # 防止 math.sqrt 的应用
    return result

def main():
    size = 10000
    for _ in range(size):
        result = computeSqrt(size)

main()

除了 math.sqrt 外,computeSqrt 函数中还有. 的存在,那就是调用 list 的 append 办法。通过将该办法赋值给一个局部变量,能够彻底消除 computeSqrt 函数中 for 循环外部的. 应用。

# 举荐写法。代码耗时:7.9 秒
import math

def computeSqrt(size: int):
    result = []
    append = result.append
    sqrt = math.sqrt    # 赋值给局部变量
    for i in range(size):
        append(sqrt(i))  # 防止 result.append 和 math.sqrt 的应用
    return result

def main():
    size = 10000
    for _ in range(size):
        result = computeSqrt(size)

main()

2.2 防止类内属性拜访

# 不举荐写法。代码耗时:10.4 秒
import math
from typing import List

class DemoClass:
    def __init__(self, value: int):
        self._value = value
    
    def computeSqrt(self, size: int) -> List[float]:
        result = []
        append = result.append
        sqrt = math.sqrt
        for _ in range(size):
            append(sqrt(self._value))
        return result

def main():
    size = 10000
    for _ in range(size):
        demo_instance = DemoClass(size)
        result = demo_instance.computeSqrt(size)

main()

防止. 的准则也实用于类内属性,拜访 self._value 的速度会比拜访一个局部变量更慢一些。通过将须要频繁拜访的类内属性赋值给一个局部变量,能够晋升代码运行速度。

# 举荐写法。代码耗时:8.0 秒
import math
from typing import List

class DemoClass:
    def __init__(self, value: int):
        self._value = value
    
    def computeSqrt(self, size: int) -> List[float]:
        result = []
        append = result.append
        sqrt = math.sqrt
        value = self._value
        for _ in range(size):
            append(sqrt(value))  # 防止 self._value 的应用
        return result

def main():
    size = 10000
    for _ in range(size):
        demo_instance = DemoClass(size)
        demo_instance.computeSqrt(size)

main()

3. 防止不必要的形象

# 不举荐写法,代码耗时:0.55 秒
class DemoClass:
    def __init__(self, value: int):
        self.value = value

    @property
    def value(self) -> int:
        return self._value

    @value.setter
    def value(self, x: int):
        self._value = x

def main():
    size = 1000000
    for i in range(size):
        demo_instance = DemoClass(size)
        value = demo_instance.value
        demo_instance.value = i

main()

任何时候当你应用额定的解决层(比方装璜器、属性拜访、形容器)去包装代码时,都会让代码变慢。大部分状况下,须要从新进行扫视应用属性拜访器的定义是否有必要,应用 getter/setter 函数对属性进行拜访通常是 C/C++ 程序员遗留下来的代码格调。如果真的没有必要,就应用简略属性。

# 举荐写法,代码耗时:0.33 秒
class DemoClass:
    def __init__(self, value: int):
        self.value = value  # 防止不必要的属性拜访器

def main():
    size = 1000000
    for i in range(size):
        demo_instance = DemoClass(size)
        value = demo_instance.value
        demo_instance.value = i

main()

4. 防止数据复制
4.1 防止无意义的数据复制

# 不举荐写法,代码耗时:6.5 秒
def main():
    size = 10000
    for _ in range(size):
        value = range(size)
        value_list = [x for x in value]
        square_list = [x * x for x in value_list]

main()

下面的代码中 value_list 齐全没有必要,这会创立不必要的数据结构或复制。

# 举荐写法,代码耗时:4.8 秒
def main():
    size = 10000
    for _ in range(size):
        value = range(size)
        square_list = [x * x for x in value]  # 防止无意义的复制

main()

另外一种状况是对 Python 的数据共享机制过于偏执,并没有很好地了解或信赖 Python 的内存模型,滥用 copy.deepcopy()之类的函数。通常在这些代码中是能够去掉复制操作的。

4.2 替换值时不应用两头变量

# 不举荐写法,代码耗时:0.07 秒
def main():
    size = 1000000
    for _ in range(size):
        a = 3
        b = 5
        temp = a
        a = b
        b = temp

main()

下面的代码在替换值时创立了一个长期变量 temp,如果不借助两头变量,代码更为简洁、且运行速度更快。

# 举荐写法,代码耗时:0.06 秒
def main():
    size = 1000000
    for _ in range(size):
        a = 3
        b = 5
        a, b = b, a  # 不借助两头变量

main()

4.3 字符串拼接用 join 而不是 +

# 不举荐写法,代码耗时:2.6 秒
import string
from typing import List

def concatString(string_list: List[str]) -> str:
    result = ''
    for str_i in string_list:
        result += str_i
    return result

def main():
    string_list = list(string.ascii_letters * 100)
    for _ in range(10000):
        result = concatString(string_list)

main()

当应用 a + b 拼接字符串时,因为 Python 中字符串是不可变对象,其会申请一块内存空间,将 a 和 b 别离复制到该新申请的内存空间中。因而,如果要拼接 n 个字符串,会产生 n-1 个两头后果,每产生一个两头后果都须要申请和复制一次内存,重大影响运行效率。而应用 join()拼接字符串时,会首先计算出须要申请的总的内存空间,而后一次性地申请所需内存,并将每个字符串元素复制到该内存中去。

# 举荐写法,代码耗时:0.3 秒
import string
from typing import List

def concatString(string_list: List[str]) -> str:
    return ''.join(string_list)  # 应用 join 而不是 +

def main():
    string_list = list(string.ascii_letters * 100)
    for _ in range(10000):
        result = concatString(string_list)

main()

5. 利用 if 条件的短路个性

# 不举荐写法,代码耗时:0.05 秒
from typing import List

def concatString(string_list: List[str]) -> str:
    abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'}
    abbr_count = 0
    result = ''
    for str_i in string_list:
        if str_i in abbreviations:
            result += str_i
    return result

def main():
    for _ in range(10000):
        string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.']
        result = concatString(string_list)

main()

if 条件的短路个性是指对 if a and b 这样的语句,当 a 为 False 时将间接返回,不再计算 b;对于 if a or b 这样的语句,当 a 为 True 时将间接返回,不再计算 b。因而,为了节约运行工夫,对于 or 语句,应该将值为 True 可能性比拟高的变量写在 or 前,而 and 应该推后。

# 举荐写法,代码耗时:0.03 秒
from typing import List

def concatString(string_list: List[str]) -> str:
    abbreviations = {'cf.', 'e.g.', 'ex.', 'etc.', 'flg.', 'i.e.', 'Mr.', 'vs.'}
    abbr_count = 0
    result = ''
    for str_i in string_list:
        if str_i[-1] == '.' and str_i in abbreviations:  # 利用 if 条件的短路个性
            result += str_i
    return result

def main():
    for _ in range(10000):
        string_list = ['Mr.', 'Hat', 'is', 'Chasing', 'the', 'black', 'cat', '.']
        result = concatString(string_list)

main()

6. 循环优化
6.1 用 for 循环代替 while 循环

# 不举荐写法。代码耗时:6.7 秒
def computeSum(size: int) -> int:
    sum_ = 0
    i = 0
    while i < size:
        sum_ += i
        i += 1
    return sum_

def main():
    size = 10000
    for _ in range(size):
        sum_ = computeSum(size)

main()

Python 的 for 循环比 while 循环快不少。

# 举荐写法。代码耗时:4.3 秒
def computeSum(size: int) -> int:
    sum_ = 0
    for i in range(size):  # for 循环代替 while 循环
        sum_ += i
    return sum_

def main():
    size = 10000
    for _ in range(size):
        sum_ = computeSum(size)

main()

6.2 应用隐式 for 循环代替显式 for 循环

针对下面的例子,更进一步能够用隐式 for 循环来代替显式 for 循环

# 举荐写法。代码耗时:1.7 秒
def computeSum(size: int) -> int:
    return sum(range(size))  # 隐式 for 循环代替显式 for 循环

def main():
    size = 10000
    for _ in range(size):
        sum = computeSum(size)

main()

6.3 缩小内层 for 循环的计算

# 不举荐写法。代码耗时:12.8 秒
import math

def main():
    size = 10000
    sqrt = math.sqrt
    for x in range(size):
        for y in range(size):
            z = sqrt(x) + sqrt(y)

main() 

下面的代码中 sqrt(x)位于内侧 for 循环,每次训练过程中都会从新计算一次,减少了工夫开销。

# 举荐写法。代码耗时:7.0 秒
import math

def main():
    size = 10000
    sqrt = math.sqrt
    for x in range(size):
        sqrt_x = sqrt(x)  # 缩小内层 for 循环的计算
        for y in range(size):
            z = sqrt_x + sqrt(y)

main() 

7. 应用 numba.jit
咱们沿用下面介绍过的例子,在此基础上应用 numba.jit。numba 能够将 Python 函数 JIT 编译为机器码执行,大大提高代码运行速度。对于 numba 的更多信息见上面的主页:http://numba.pydata.org/numba…

# 举荐写法。代码耗时:0.62 秒
import numba

@numba.jit
def computeSum(size: float) -> int:
    sum = 0
    for i in range(size):
        sum += i
    return sum

def main():
    size = 10000
    for _ in range(size):
        sum = computeSum(size)

main()

8. 抉择适合的数据结构
Python 内置的数据结构如 str, tuple, list, set, dict 底层都是 C 实现的,速度十分快,本人实现新的数据结构想在性能上达到内置的速度简直是不可能的。

list 相似于 C++ 中的 std::vector,是一种动静数组。其会预调配肯定内存空间,当预调配的内存空间用完,又持续向其中增加元素时,会申请一块更大的内存空间,而后将原有的所有元素都复制过来,之后销毁之前的内存空间,再插入新元素。

删除元素时操作相似,当已应用内存空间比预分配内存空间的一半还少时,会另外申请一块小内存,做一次元素复制,之后销毁原有大内存空间。

因而,如果有频繁的新增、删除操作,新增、删除的元素数量又很多时,list 的效率不高。此时,应该思考应用 collections.deque。collections.deque 是双端队列,同时具备栈和队列的个性,可能在两端进行 O(1) 复杂度的插入和删除操作。

list 的查找操作也十分耗时。当须要在 list 频繁查找某些元素,或频繁有序拜访这些元素时,能够应用 bisect 保护 list 对象有序并在其中进行二分查找,晋升查找的效率。

另外一个常见需要是查找极小值或极大值,此时能够应用 heapq 模块将 list 转化为一个堆,使得获取最小值的工夫复杂度是 O(1)。

最近整顿了几百 G 的 Python 学习材料,收费分享给大家!想要的返回公~豪“Python 编程学习圈”,发送“J”即可收费取得

正文完
 0