共计 11455 个字符,预计需要花费 29 分钟才能阅读完成。
文章和代码等曾经归档至【Github 仓库:https://github.com/timerring/dive-into-AI】或者公众号【AIShareLab】回复 python 数据分析 也可获取。
数据结构和序列
元组
元组是一个固定长度,不可扭转的 Python 序列对象。创立元组的最简略形式,是用逗号分隔一列值:
In [1]: tup = 4, 5, 6
当用简单的表达式定义元组,最好将值放到圆括号内,如下所示:
In [3]: nested_tup = (4, 5, 6), (7, 8)
In [4]: nested_tup
Out[4]: ((4, 5, 6), (7, 8))
用 tuple
能够将任意序列或迭代器转换成元组:
In [5]: tuple([4, 0, 2])
Out[5]: (4, 0, 2)
In [6]: tup = tuple('string')
In [7]: tup
Out[7]: ('s', 't', 'r', 'i', 'n', 'g')
能够用方括号拜访元组中的元素。和 C、C++、JAVA 等语言一样,序列是从 0 开始的:
In [8]: tup[0]
Out[8]: 's'
元组中存储的对象可能是可变对象。一旦创立了元组,元组中的对象就不能批改了:
如果 元组中的某个对象是可变的,比方列表,能够在原位进行批改:
In [11]: tup[1].append(3)
In [12]: tup
Out[12]: ('foo', [1, 2, 3], True)
能够 用加号运算符将元组串联 起来:
In [13]: (4, None, 'foo') + (6, 0) + ('bar',)
Out[13]: (4, None, 'foo', 6, 0, 'bar')
元组乘以一个整数,像列表一样,会将几个元组的复制串联起来:
In [14]: ('foo', 'bar') * 4
Out[14]: ('foo', 'bar', 'foo', 'bar', 'foo', 'bar', 'foo', 'bar')
对象自身并没有被复制,只是援用了它。
拆分元组
如果你想将元组赋值给相似元组的变量,Python 会试图 拆分等号左边的值:
In [15]: tup = (4, 5, 6)
In [16]: a, b, c = tup
In [17]: b
Out[17]: 5
即便 含有元组的元组也会被拆分:
In [18]: tup = 4, 5, (6, 7)
In [19]: a, b, (c, d) = tup
In [20]: d
Out[20]: 7
应用这个性能,你能够很容易地替换变量的名字,其它语言可能是这样:
tmp = a
a = b
b = tmp
然而在 Python 中,替换 能够这样做:
In [21]: a, b = 1, 2
In [22]: a
Out[22]: 1
In [23]: b
Out[23]: 2
In [24]: b, a = a, b
In [25]: a
Out[25]: 2
In [26]: b
Out[26]: 1
变量拆分罕用来迭代元组或列表序列:
In [27]: seq = [(1, 2, 3), (4, 5, 6), (7, 8, 9)]
In [28]: for a, b, c in seq:
....: print('a={0}, b={1}, c={2}'.format(a, b, c))
a=1, b=2, c=3
a=4, b=5, c=6
a=7, b=8, c=9
另一个常见用法是从函数返回多个值。前面会详解。
Python 最近新增了更多高级的元组拆分性能,容许从元组的结尾“摘取”几个元素。它应用了非凡的语法 *rest
,抓取残余的局部组成列表:
In [29]: values = 1, 2, 3, 4, 5
In [30]: a, b, *rest = values
In [31]: a, b
Out[31]: (1, 2)
In [32]: rest
Out[32]: [3, 4, 5]
rest
的局部是想要舍弃的局部,rest 的名字不重要。作为习用写法,许多 Python 程序员会将不须要的变量应用下划线:
In [33]: a, b, *_ = values
tuple 办法
因为元组的大小和内容不能批改,它的实例办法都很少。其中一个很有用的就是count
(也实用于列表),它能够统计某个值呈现频率:
In [34]: a = (1, 2, 2, 2, 3, 4, 2)
In [35]: a.count(2)
Out[35]: 4
列表
与元组比照,列表的长度可变、内容能够被批改。你能够用方括号定义,或用 list
函数:
In [37]: tup = ('foo', 'bar', 'baz')
In [38]: b_list = list(tup)
In [39]: b_list
Out[39]: ['foo', 'bar', 'baz']
list
函数罕用来在数据处理中实体化迭代器或生成器:
In [42]: gen = range(10)
In [43]: gen
Out[43]: range(0, 10)
In [44]: list(gen)
Out[44]: [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
增加和删除元素
用 append
在列表开端增加元素:
In [45]: b_list.append('dwarf')
In [46]: b_list
Out[46]: ['foo', 'peekaboo', 'baz', 'dwarf']
insert
能够在特定的地位插入元素:
In [47]: b_list.insert(1, 'red')
In [48]: b_list
Out[48]: ['foo', 'red', 'peekaboo', 'baz', 'dwarf']
插入的序号必须在 0 和列表长度之间。
正告:与
append
相比,insert
消耗的计算量大,因为对后续元素的援用必须在外部迁徙,以便为新元素提供空间。如果要在序列的头部和尾部插入元素,你可能须要应用collections.deque
,一个双尾部队列。
insert 的逆运算是 pop
,它移除并返回指定地位的元素**:
In [49]: b_list.pop(2)
Out[49]: 'peekaboo'
In [50]: b_list
Out[50]: ['foo', 'red', 'baz', 'dwarf']
能够用 remove
去除某个值,remove
会先寻找第一个值并除去:
In [51]: b_list.append('foo')
In [52]: b_list
Out[52]: ['foo', 'red', 'baz', 'dwarf', 'foo']
In [53]: b_list.remove('foo')
In [54]: b_list
Out[54]: ['red', 'baz', 'dwarf', 'foo']
如果不思考性能,应用 append
和remove
,能够把 Python 的列表当做完满的“多重集”数据结构。
用 in
能够查看列表是否蕴含某个值:
In [55]: 'dwarf' in b_list
Out[55]: True
否定 in
能够再加一个 not:
In [56]: 'dwarf' not in b_list
Out[56]: False
在列表中查看是否存在某个值远比字典和汇合速度慢,因为 Python 是线性搜寻列表中的值,但在字典和汇合中,在同样的工夫内还能够查看其它项(基于哈希表)。
串联和组合列表
与元组相似,能够用 加号将两个列表串联起来:
In [57]: [4, None, 'foo'] + [7, 8, (2, 3)]
Out[57]: [4, None, 'foo', 7, 8, (2, 3)]
如果曾经定义了一个列表,用 extend
办法能够追加多个元素:
In [58]: x = [4, None, 'foo']
In [59]: x.extend([7, 8, (2, 3)])
In [60]: x
Out[60]: [4, None, 'foo', 7, 8, (2, 3)]
通过加法将列表串联的计算量较大,因为要新建一个列表,并且要复制对象。用 extend
追加元素,尤其是到一个大列表中,更为可取。
everything = []
for chunk in list_of_lists:
everything.extend(chunk)
要比串联办法快:
everything = []
for chunk in list_of_lists:
everything = everything + chunk
排序
你能够 用sort
函数将一个列表原地排序(不创立新的对象):
In [61]: a = [7, 2, 5, 1, 3]
In [62]: a.sort()
In [63]: a
Out[63]: [1, 2, 3, 5, 7]
sort
有一些选项,有时会很好用。其中之一是二级排序 key,能够用这个 key 进行排序。例如,咱们能够按长度对字符串进行排序:
In [64]: b = ['saw', 'small', 'He', 'foxes', 'six']
In [65]: b.sort(key=len)
In [66]: b
Out[66]: ['He', 'saw', 'six', 'small', 'foxes']
稍后,咱们会学习 sorted
函数,它能够产生一个排好序的序列正本。
二分搜寻和保护已排序的列表
bisect
模块反对二分查找,和向已排序的列表插入值。
bisect.bisect
能够找到插入值后仍保障排序的地位,bisect.insort
是向这个地位插入值:
In [67]: import bisect
In [68]: c = [1, 2, 2, 2, 3, 4, 7]
In [69]: bisect.bisect(c, 2)
Out[69]: 4
In [70]: bisect.bisect(c, 5)
Out[70]: 6
In [71]: bisect.insort(c, 6)
In [72]: c
Out[72]: [1, 2, 2, 2, 3, 4, 6, 7]
留神:
bisect
模块不会查看列表是否已排好序,进行查看的话会消耗大量计算。因而,对未排序的列表应用bisect
不会产生谬误,但后果不肯定正确。
切片
用切边能够选取大多数序列类型的一部分,切片的根本模式是在方括号中应用start:stop
:
In [73]: seq = [7, 2, 3, 7, 5, 6, 0, 1]
In [74]: seq[1:5]
Out[74]: [2, 3, 7, 5]
切片也能够被序列赋值:
In [75]: seq[3:4] = [6, 3]
In [76]: seq
Out[76]: [7, 2, 3, 6, 3, 5, 6, 0, 1]
切片的起始元素是包含的,不蕴含完结元素。因而,后果中蕴含的元素个数是 stop - start
。start
或stop
都能够被省略,省略之后,别离默认序列的结尾和结尾,正数表明从后向前切片。
展现了正整数和负整数的切片。
在第二个冒号前面应用step
,能够隔一个取一个元素:
In [81]: seq[::2]
Out[81]: [7, 3, 3, 6, 1]
一个聪慧的办法是 应用 -1
,它能够 将列表或元组颠倒过去:
In [82]: seq[::-1]
Out[82]: [1, 0, 6, 5, 3, 6, 3, 2, 7]
序列函数
enumerate 函数
迭代一个序列时,你可能想跟踪以后项的序号。手动的办法可能是上面这样:
i = 0
for value in collection:
# do something with value
i += 1
Python 内建了一个 enumerate
函数,能够返回 (i, value)
元组序列:
for i, value in enumerate(collection):
# do something with value
当你索引数据时,应用 enumerate
的一个好办法是计算序列(惟一的)dict
映射到地位的值:
In [83]: some_list = ['foo', 'bar', 'baz']
In [84]: mapping = {}
# 同时列出序号和数据内容
In [85]: for i, v in enumerate(some_list):
....: mapping[v] = i
In [86]: mapping
Out[86]: {'bar': 1, 'baz': 2, 'foo': 0}
sorted 函数
sorted
函数能够从任意序列的元素返回一个新的排好序的列表:
In [87]: sorted([7, 1, 2, 6, 0, 3, 2])
Out[87]: [0, 1, 2, 2, 3, 6, 7]
In [88]: sorted('horse race')
Out[88]: ['','a','c','e','e','h','o','r','r','s']
sorted
函数能够承受和 sort
雷同的参数。
zip 函数
zip
能够将多个列表、元组或其它序列成对组合成一个元组列表:
In [89]: seq1 = ['foo', 'bar', 'baz']
In [90]: seq2 = ['one', 'two', 'three']
In [91]: zipped = zip(seq1, seq2)
In [92]: list(zipped)
Out[92]: [('foo', 'one'), ('bar', 'two'), ('baz', 'three')]
zip
能够解决任意多的序列,元素的个数取决于最短的序列:
In [93]: seq3 = [False, True]
In [94]: list(zip(seq1, seq2, seq3))
Out[94]: [('foo', 'one', False), ('bar', 'two', True)]
zip
的常见用法之一是同时迭代多个序列,可能联合 enumerate
应用:
In [95]: for i, (a, b) in enumerate(zip(seq1, seq2)):
....: print('{0}: {1}, {2}'.format(i, a, b))
....:
0: foo, one
1: bar, two
2: baz, three
给出一个“被压缩的”序列,zip
能够被用来解压序列。也能够当作把行的列表转换为列的列表。这个办法看起来有点神奇:
In [96]: pitchers = [('Nolan', 'Ryan'), ('Roger', 'Clemens'),
....: ('Schilling', 'Curt')]
In [97]: first_names, last_names = zip(*pitchers)
In [98]: first_names
Out[98]: ('Nolan', 'Roger', 'Schilling')
In [99]: last_names
Out[99]: ('Ryan', 'Clemens', 'Curt')
reversed 函数
reversed
能够从后向前迭代一个序列:
In [100]: list(reversed(range(10)))
Out[100]: [9, 8, 7, 6, 5, 4, 3, 2, 1, 0]
要记住 reversed
是一个生成器(前面具体介绍),只有实体化(即列表或 for 循环)之后能力创立翻转的序列。
字典
创立字典
字典更为常见的名字是哈希映射或关联数组。它是键值对的大小可变汇合,键和值都是 Python 对象。创立字典的办法之一是应用尖括号,用冒号分隔键和值:
In [101]: empty_dict = {}
In [102]: d1 = {'a' : 'some value', 'b' : [1, 2, 3, 4]}
In [103]: d1
Out[103]: {'a': 'some value', 'b': [1, 2, 3, 4]}
拜访字典
你能够像 拜访列表或元组中的元素一样,拜访、插入或设定字典中的元素:
In [104]: d1[7] = 'an integer'
In [105]: d1
Out[105]: {'a': 'some value', 'b': [1, 2, 3, 4], 7: 'an integer'}
In [106]: d1['b']
Out[106]: [1, 2, 3, 4]
你能够用查看列表和元组是否蕴含某个值的办法,查看字典中是否蕴含某个键:
In [107]: 'b' in d1
Out[107]: True
删除
能够用 del
关键字或 pop
办法(返回值的同时删除键)删除值:
In [111]: d1
Out[111]:
{'a': 'some value',
'b': [1, 2, 3, 4],
7: 'an integer',
5: 'some value',
'dummy': 'another value'}
In [112]: del d1[5]
In [114]: ret = d1.pop('dummy')
In [115]: ret
Out[115]: 'another value'
In [116]: d1
Out[116]: {'a': 'some value', 'b': [1, 2, 3, 4], 7: 'an integer'}
keys 和 values
keys
和 values
是字典的键和值的迭代器办法。尽管键值对没有程序,这 两个办法能够用雷同的程序输入键和值:
In [117]: list(d1.keys())
Out[117]: ['a', 'b', 7]
In [118]: list(d1.values())
Out[118]: ['some value', [1, 2, 3, 4], 'an integer']
交融
用 update
办法能够将一个字典与另一个交融:
In [119]: d1.update({'b' : 'foo', 'c' : 12})
In [120]: d1
Out[120]: {'a': 'some value', 'b': 'foo', 7: 'an integer', 'c': 12}
update
办法是原地扭转字典,因而任何传递给 update
的键的旧的值都会被舍弃。
用序列创立字典
经常,你可能想将两个序列配对组合成字典。上面是一种写法:
mapping = {}
for key, value in zip(key_list, value_list):
mapping[key] = value
因为字典实质上是 2 元元组的汇合,dict 能够承受 2 元元组的列表:
In [121]: mapping = dict(zip(range(5), reversed(range(5))))
In [122]: mapping
Out[122]: {0: 4, 1: 3, 2: 2, 3: 1, 4: 0}
前面谈判到dict comprehensions
,另一种构建字典的优雅形式。
默认值
上面的逻辑很常见:
if key in some_dict:
value = some_dict[key]
else:
value = default_value
因而,dict 的办法 get 和 pop 能够取默认值进行返回,下面的 if-else 语句能够简写成上面:
value = some_dict.get(key, default_value)
get 默认会返回 None,如果不存在键,pop 会抛出一个例外。对于设定值,常见的状况是在字典的值是属于其它汇合,如列表。例如,你能够通过首字母,将一个列表中的单词分类:
In [123]: words = ['apple', 'bat', 'bar', 'atom', 'book']
In [124]: by_letter = {}
In [125]: for word in words:
# 取首字母
.....: letter = word[0]
.....: if letter not in by_letter:
# 没有该首字母,以该首字母为键,word 为值
.....: by_letter[letter] = [word]
.....: else:
# 间接增加
.....: by_letter[letter].append(word)
.....:
In [126]: by_letter
Out[126]: {'a': ['apple', 'atom'], 'b': ['bat', 'bar', 'book']}
setdefault
办法就正是干这个的。后面的 for 循环能够改写为:
for word in words:
letter = word[0]
by_letter.setdefault(letter, []).append(word)
collections
模块有一个很有用的类,defaultdict
,它能够进一步简化下面。传递类型或函数以生成每个地位的默认值:
from collections import defaultdict
by_letter = defaultdict(list)
for word in words:
by_letter[word[0]].append(word)
无效的键类型
字典的值能够是任意 Python 对象 ,而 键通常是不可变的标量类型 (整数、浮点型、字符串)或元组(元组中的对象必须是不可变的)。这被 称为“可哈希性”。能够用 hash
函数检测一个对象是否是可哈希的(可被用作字典的键):
In [127]: hash('string')
Out[127]: 5023931463650008331
In [128]: hash((1, 2, (2, 3)))
Out[128]: 1097636502276347782
In [129]: hash((1, 2, [2, 3])) # fails because lists are mutable
---------------------------------------------------------------------------
TypeError Traceback (most recent call last)
<ipython-input-129-800cd14ba8be> in <module>()
----> 1 hash((1, 2, [2, 3])) # fails because lists are mutable
TypeError: unhashable type: 'list'
要用列表当做键,一种办法是将列表转化为元组,只有外部元素能够被哈希,它也就能够被哈希:
In [130]: d = {}
In [131]: d[tuple([1, 2, 3])] = 5
In [132]: d
Out[132]: {(1, 2, 3): 5}
汇合
创立
汇合是无序的不可反复的元素的汇合。你能够把它当做字典,然而 只有键没有值 。能够用两种形式创立汇合: 通过 set 函数或应用尖括号 set 语句:
In [133]: set([2, 2, 2, 1, 3, 3])
Out[133]: {1, 2, 3}
In [134]: {2, 2, 2, 1, 3, 3}
Out[134]: {1, 2, 3}
汇合反对合并、交加、差分和对称差等数学汇合运算。思考两个示例汇合:
In [135]: a = {1, 2, 3, 4, 5}
In [136]: b = {3, 4, 5, 6, 7, 8}
合并 union 或者 |
合并是取两个汇合中不反复的元素。能够用 union
办法,或者 |
运算符:
In [137]: a.union(b)
Out[137]: {1, 2, 3, 4, 5, 6, 7, 8}
In [138]: a | b
Out[138]: {1, 2, 3, 4, 5, 6, 7, 8}
交加 intersection 或者 &
交加的元素蕴含在两个汇合中。能够用 intersection
或&
运算符:
In [139]: a.intersection(b)
Out[139]: {3, 4, 5}
In [140]: a & b
Out[140]: {3, 4, 5}
表 3 - 1 列出了罕用的汇合办法。
所有逻辑汇合操作都有另外的原地实现办法,能够间接用后果代替汇合的内容。对于大的汇合,这么做效率更高:
In [141]: c = a.copy()
In [142]: c |= b
In [143]: c
Out[143]: {1, 2, 3, 4, 5, 6, 7, 8}
In [144]: d = a.copy()
In [145]: d &= b
In [146]: d
Out[146]: {3, 4, 5}
与字典相似,汇合元素通常都是不可变的。要取得相似列表的元素,必须转换成元组:
In [147]: my_data = [1, 2, 3, 4]
In [148]: my_set = {tuple(my_data)}
In [149]: my_set
Out[149]: {(1, 2, 3, 4)}
superset 和 subset
你还能够检测一个汇合是否是另一个汇合的子集或父集:
In [150]: a_set = {1, 2, 3, 4, 5}
In [151]: {1, 2, 3}.issubset(a_set)
Out[151]: True
In [152]: a_set.issuperset({1, 2, 3})
Out[152]: True
汇合的内容雷同时,汇合才对等:
In [153]: {1, 2, 3} == {3, 2, 1}
Out[153]: True
列表、汇合和字典推导式
列表推导式!
列表推导式 是 Python 最受青睐的个性之一。它容许用户不便的从一个汇合过滤元素,造成列表,在传递参数的过程中还能够批改元素。模式如下:
[expr for val in collection if condition]
它等同于上面的 for 循环;
result = []
for val in collection:
if condition:
result.append(expr)
filter 条件能够被疏忽,只留下表达式就行。例如,给定一个字符串列表,咱们能够过滤出长度在 2 及以下的字符串,并将其转换成大写:
In [154]: strings = ['a', 'as', 'bat', 'car', 'dove', 'python']
In [155]: [x.upper() for x in strings if len(x) > 2]
Out[155]: ['BAT', 'CAR', 'DOVE', 'PYTHON']
字典的推导式!
用类似的办法,还能够推导汇合和字典。字典的推导式 如下所示:
dict_comp = {key-expr : value-expr for value in collection if condition}
汇合的推导式!
汇合的推导式 与列表很像,只不过用的是尖括号:
set_comp = {expr for value in collection if condition}
与列表推导式相似,汇合与字典的推导也很不便,而且使代码的读写都很容易。来看后面的字符串列表。如果咱们只想要字符串的长度,用汇合推导式的办法十分不便:
In [156]: unique_lengths = {len(x) for x in strings}
In [157]: unique_lengths
Out[157]: {1, 2, 3, 4, 6}
map
函数能够进一步简化:
In [158]: set(map(len, strings)) # 妙极
Out[158]: {1, 2, 3, 4, 6}
作为一个字典推导式的例子,咱们能够创立一个字符串的查找映射表以确定它在列表中的地位:
In [159]: loc_mapping = {val : index for index, val in enumerate(strings)}
In [160]: loc_mapping
Out[160]: {'a': 0, 'as': 1, 'bat': 2, 'car': 3, 'dove': 4, 'python': 5}
嵌套列表推导式
假如咱们有一个蕴含列表的列表,蕴含了一些英文名和西班牙名:
In [161]: all_data = [['John', 'Emily', 'Michael', 'Mary', 'Steven'],
.....: ['Maria', 'Juan', 'Javier', 'Natalia', 'Pilar']]
你可能是从一些文件失去的这些名字,而后想依照语言进行分类。当初假如咱们想用一个列表蕴含所有的名字,这些名字中蕴含两个或更多的 e。能够用 for 循环来做:
names_of_interest = []
for names in all_data:
enough_es = [name for name in names if name.count('e') >= 2]
names_of_interest.extend(enough_es)
能够用嵌套列表推导式的办法,将这些写在一起,如下所示:
In [162]: result = [name for names in all_data for name in names
.....: if name.count('e') >= 2]
In [163]: result
Out[163]: ['Steven']
嵌套列表推导式看起来有些简单。列表推导式的 for 局部是依据嵌套的程序,过滤条件还是放在最初。上面是另一个例子,咱们将一个整数元组的列表扁平化成了一个整数列表:
In [164]: some_tuples = [(1, 2, 3), (4, 5, 6), (7, 8, 9)]
In [165]: flattened = [x for tup in some_tuples for x in tup]
In [166]: flattened
Out[166]: [1, 2, 3, 4, 5, 6, 7, 8, 9]
记住,for 表达式的程序是与嵌套 for 循环的程序一样(而不是列表推导式的程序):
flattened = []
for tup in some_tuples:
for x in tup:
flattened.append(x)
你能够有任意多级别的嵌套,然而如果你有两三个以上的嵌套,你就应该思考下代码可读性的问题了。分辨列表推导式的列表推导式中的语法也是很重要的:
In [167]: [[x for x in tup] for tup in some_tuples]
Out[167]: [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
这段代码产生了一个列表的列表,而不是扁平化的只蕴含元素的列表。