关于python:赞-一些Python高性能使用技巧

1. 易混同操作

本节对一些 Python 易混同的操作进行比照。

1.1 有放回随机采样和无放回随机采样

import random
random.choices(seq, k=1)  # 长度为 k 的 list，有放回采样
random.sample(seq, k)     # 长度为 k 的 list，无放回采样 

1.2 lambda 函数的参数

func = lambda y: x + y          # x 的值在函数运行时被绑定
func = lambda y, x=x: x + y     # x 的值在函数定义时被绑定 

1.3 copy 和 deepcopy

import copy
y = copy.copy(x)      # 只复制最顶层
y = copy.deepcopy(x)  # 复制所有嵌套局部 

复制和变量别名联合在一起时，容易混同：

a = [1, 2, [3, 4]]

# Alias.
b_alias = a  
assert b_alias == a and b_alias is a

# Shallow copy.
b_shallow_copy = a[:]  
assert b_shallow_copy == a and b_shallow_copy is not a and b_shallow_copy[2] is a[2]

# Deep copy.
import copy
b_deep_copy = copy.deepcopy(a)  
assert b_deep_copy == a and b_deep_copy is not a and b_deep_copy[2] is not a[2]

对别名的批改会影响原变量，（浅）复制中的元素是原列表中元素的别名，而深层复制是递归的进行复制，对深层复制的批改不影响原变量。

1.4 == 和 is

x == y  # 两援用对象是否有雷同值
x is y  # 两援用是否指向同一对象 

1.5 判断类型

type(a) == int      # 疏忽面向对象设计中的多态特色
isinstance(a, int)  # 思考了面向对象设计中的多态特色 

1.6 字符串搜寻

str.find(sub, start=None, end=None); str.rfind(...)     # 如果找不到返回 -1
str.index(sub, start=None, end=None); str.rindex(...)   # 如果找不到抛出 ValueError 异样 

1.7 List 后向索引

这个只是习惯问题，前向索引时下标从 0 开始，如果反向索引也想从 0 开始能够应用~。

print(a[-1], a[-2], a[-3])
print(a[~0], a[~1], a[~2])

2. C/C++ 用户使用指南

不少 Python 的用户是从以前 C/C++ 迁徙过去的，这两种语言在语法、代码格调等方面有些不同，本节简要进行介绍。

2.1 很大的数和很小的数

C/C++ 的习惯是定义一个很大的数字，Python 中有 inf 和 -inf：

a = float('inf')
b = float('-inf')

2.2 布尔值

C/C++ 的习惯是应用 0 和非 0 值示意 True 和 False，Python 倡议间接应用 True 和 False 示意布尔值。

a = True
b = False

2.3 判断为空

C/C++ 对空指针判断的习惯是 if (a) 和 if (!a)。Python 对于 None 的判断是：

if x is None:
    pass

如果应用 if not x，则会将其余的对象（比方长度为 0 的字符串、列表、元组、字典等）都会被当做 False。

2.4 替换值

C/C++ 的习惯是定义一个长期变量，用来替换值。利用 Python 的 Tuple 操作，能够一步到位。

a, b = b, a

2.5 比拟

C/C++ 的习惯是用两个条件。利用 Python 能够一步到位。

if 0 < a < 5:
    pass

2.6 类成员的 Set 和 Get

C/C++ 的习惯是把类成员设为 private，通过一系列的 Set 和 Get 函数存取其中的值。在 Python 中尽管也能够通过 @property、@setter、@deleter 设置对应的 Set 和 Get 函数，咱们应防止不必要的形象，这会比间接拜访慢 4 – 5 倍。

2.7 函数的输入输出参数

C/C++ 的习惯是把输入输出参数都列为函数的参数，通过指针扭转输入参数的值，函数的返回值是执行状态，函数调用方对返回值进行查看，判断是否胜利执行。在 Python 中，不须要函数调用方进行返回值查看，函数中遇到非凡状况，间接抛出一个异样。

2.8 读文件

相比 C/C++，Python 读文件要简略很多，关上后的文件是一个可迭代对象，每次返回一行内容。

with open(file_path, 'rt', encoding='utf-8') as f:
   for line in f:
       print(line)       # 开端的 \n 会保留 

2.9 文件门路拼接

C/C++ 的习惯通常间接用 + 将门路拼接，这很容易出错，Python 中的 os.path.join 会主动依据操作系统不同补充门路之间的 / 或 \ 分隔符：

import os
os.path.join('usr', 'lib', 'local')

2.10 解析命令行选项

尽管 Python 中也能够像 C/C++ 一样应用 sys.argv 间接解析命令行抉择，然而应用 argparse 下的 ArgumentParser 工具更加不便，性能更加弱小。

2.11 调用外部命令

尽管 Python 中也能够像 C/C++ 一样应用 os.system 间接调用外部命令，然而应用 subprocess.check_output 能够自由选择是否执行 Shell，也能够取得外部命令执行后果。

import subprocess
# 如果外部命令返回值非 0，则抛出 subprocess.CalledProcessError 异样
result = subprocess.check_output(['cmd', 'arg1', 'arg2']).decode('utf-8')  
# 同时收集规范输入和规范谬误
result = subprocess.check_output(['cmd', 'arg1', 'arg2'], stderr=subprocess.STDOUT).decode('utf-8')  
# 执行 shell 命令（管道、重定向等），能够应用 shlex.quote() 将参数双引号引起来
result = subprocess.check_output('grep python | wc > out', shell=True).decode('utf-8')

2.12 不反复造轮子

不要反复造轮子，Python 称为 batteries included 即是指 Python 提供了许多常见问题的解决方案。

3. 常用工具

3.1 读写 CSV 文件

import csv
# 无 header 的读写
with open(name, 'rt', encoding='utf-8', newline='') as f:  # newline='' 让 Python 不将换行对立解决
    for row in csv.reader(f):
        print(row[0], row[1])  # CSV 读到的数据都是 str 类型
with open(name, mode='wt') as f:
    f_csv = csv.writer(f)
    f_csv.writerow(['symbol', 'change'])

# 有 header 的读写
with open(name, mode='rt', newline='') as f:
    for row in csv.DictReader(f):
        print(row['symbol'], row['change'])
with open(name, mode='wt') as f:
    header = ['symbol', 'change']
    f_csv = csv.DictWriter(f, header)
    f_csv.writeheader()
    f_csv.writerow({'symbol': xx, 'change': xx})

留神，当 CSV 文件过大时会报错：_csv.Error: field larger than field limit (131072)，通过批改下限解决

import sys
csv.field_size_limit(sys.maxsize)

csv 还能够读以 \t 宰割的数据

f = csv.reader(f, delimiter='\t')

3.2 迭代器工具

itertools 中定义了很多迭代器工具，例如子序列工具：

import itertools
itertools.islice(iterable, start=None, stop, step=None)
# islice('ABCDEF', 2, None) -> C, D, E, F

itertools.filterfalse(predicate, iterable)         # 过滤掉 predicate 为 False 的元素
# filterfalse(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6

itertools.takewhile(predicate, iterable)           # 当 predicate 为 False 时进行迭代
# takewhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 1, 4

itertools.dropwhile(predicate, iterable)           # 当 predicate 为 False 时开始迭代
# dropwhile(lambda x: x < 5, [1, 4, 6, 4, 1]) -> 6, 4, 1

itertools.compress(iterable, selectors)            # 依据 selectors 每个元素是 True 或 False 进行抉择
# compress('ABCDEF', [1, 0, 1, 0, 1, 1]) -> A, C, E, F

序列排序：

sorted(iterable, key=None, reverse=False)

itertools.groupby(iterable, key=None)              # 按值分组，iterable 须要先被排序
# groupby(sorted([1, 4, 6, 4, 1])) -> (1, iter1), (4, iter4), (6, iter6)

itertools.permutations(iterable, r=None)           # 排列，返回值是 Tuple
# permutations('ABCD', 2) -> AB, AC, AD, BA, BC, BD, CA, CB, CD, DA, DB, DC

itertools.combinations(iterable, r=None)           # 组合，返回值是 Tuple
itertools.combinations_with_replacement(...)
# combinations('ABCD', 2) -> AB, AC, AD, BC, BD, CD

多个序列合并：

itertools.chain(*iterables)                        # 多个序列间接拼接
# chain('ABC', 'DEF') -> A, B, C, D, E, F

import heapq
heapq.merge(*iterables, key=None, reverse=False)   # 多个序列按程序拼接
# merge('ABF', 'CDE') -> A, B, C, D, E, F

zip(*iterables)                                    # 当最短的序列耗尽时进行，后果只能被耗费一次
itertools.zip_longest(*iterables, fillvalue=None)  # 当最长的序列耗尽时进行，后果只能被耗费一次 

3.3 计数器

计数器能够统计一个可迭代对象中每个元素呈现的次数。

import collections
# 创立
collections.Counter(iterable)

# 频次
collections.Counter[key]                 # key 呈现频次
# 返回 n 个呈现频次最高的元素和其对应呈现频次，如果 n 为 None，返回所有元素
collections.Counter.most_common(n=None)

# 插入 / 更新
collections.Counter.update(iterable)
counter1 + counter2; counter1 - counter2  # counter 加减

# 查看两个字符串的组成元素是否雷同
collections.Counter(list1) == collections.Counter(list2)

3.4 带默认值的 Dict

当拜访不存在的 Key 时，defaultdict 会将其设置为某个默认值。

import collections
collections.defaultdict(type)  # 当第一次拜访 dict[key] 时，会无参数调用 type，给 dict[key] 提供一个初始值 

3.5 有序 Dict

import collections
collections.OrderedDict(items=None)  # 迭代时保留原始插入程序 

4. 高性能编程和调试

4.1 输入谬误和正告信息

向规范谬误输入信息

import sys
sys.stderr.write('')

输入正告信息

import warnings
warnings.warn(message, category=UserWarning)  
# category 的取值有 DeprecationWarning, SyntaxWarning, RuntimeWarning, ResourceWarning, FutureWarning

管制正告音讯的输入

$ python -W all     # 输入所有正告，等同于设置 warnings.simplefilter('always')
$ python -W ignore  # 疏忽所有正告，等同于设置 warnings.simplefilter('ignore')
$ python -W error   # 将所有正告转换为异样，等同于设置 warnings.simplefilter('error')

4.2 代码中测试

有时为了调试，咱们想在代码中加一些代码，通常是一些 print 语句，能够写为：

# 在代码中的 debug 局部
if __debug__:
    pass

一旦调试完结，通过在命令行执行 -O 选项，会疏忽这部分代码：

$ python -0 main.py

4.3 代码格调查看

应用 pylint 能够进行不少的代码格调和语法查看，能在运行之前发现一些谬误

pylint main.py

4.4 代码耗时

耗时测试

$ python -m cProfile main.py

测试某代码块耗时

# 代码块耗时定义
from contextlib import contextmanager
from time import perf_counter

@contextmanager
def timeblock(label):
    tic = perf_counter()
    try:
        yield
    finally:
        toc = perf_counter()
        print('%s : %s' % (label, toc - tic))

# 代码块耗时测试
with timeblock('counting'):
    pass

代码耗时优化的一些准则

• 专一于优化产生性能瓶颈的中央，而不是全副代码。
• 防止应用全局变量。局部变量的查找比全局变量更快，将全局变量的代码定义在函数中运行通常会快 15%-30%。
• 防止应用. 拜访属性。应用 from module import name 会更快，将频繁拜访的类的成员变量 self.member 放入到一个局部变量中。
• 尽量应用内置数据结构。str, list, set, dict 等应用 C 实现，运行起来很快。
• 防止创立没有必要的两头变量，和 copy.deepcopy()。
• 字符串拼接，例如 a + ‘:’ + b + ‘:’ + c 会发明大量无用的两头变量，’:’,join([a, b, c]) 效率会高不少。另外须要思考字符串拼接是否必要，例如 print(‘:’.join([a, b, c])) 效率比 print(a, b, c, sep=’:’) 低。

5. Python 其余技巧

5.1 argmin 和 argmax

items = [2, 1, 3, 4]
argmin = min(range(len(items)), key=items.__getitem__)

argmax 同理。

5.2 转置二维列表

A = [['a11', 'a12'], ['a21', 'a22'], ['a31', 'a32']]
A_transpose = list(zip(*A))  # list of tuple
A_transpose = list(list(col) for col in zip(*A))  # list of list

5.3 一维列表开展为二维列表

A = [1, 2, 3, 4, 5, 6]

# Preferred.
list(zip(*[iter(A)] * 2))

以上就是本次分享的所有内容，如果你感觉文章还不错，欢送关注公众号：Python 编程学习圈 ，每日干货分享，发送“J”还可支付大量学习材料。或是返回编程学习网，理解更多编程技术常识。