共计 2642 个字符,预计需要花费 7 分钟才能阅读完成。
import urllib.request
from bs4 import BeautifulSoup
import xlwt
import re
def main():
# 爬取网页
baseurl = 'https://movie.douban.com/top250?start='
datalist = getData(baseurl)
savepath = '豆瓣电影 Top250.xls'
# 保留数据
saveData(datalist,savepath)
# askURL("https://movie.douban.com/top250?start=1")
影片详情的规定
findLink = re.compile(r”) #创立从正则表达式,示意规定
findImgSrc = re.compile(r'<img.src=”(.?)”‘, re.S) #让换行符匹配到字符中
影片的片名
finTitle = re.compile(r'<span class=”title”>(.*)</span>’)
影片的评分
findReating = re.compile(r'<span class=”rating_num” property=”v:average”>(.*)</span>’)
找到评估人数
findJudge = re.compile(r'<span>(\d*)人评估 </span>’)
找到详情
findInq = re.compile(r'<span class=”inq”>(.*)</span>’)
找到影片的相干内容
findBb = re.compile(r'<p class=””>(.*?)</p>’, re.S)#re.S 漠视换行符
第二局部:爬取网页。
def getData(baseurl):
datalist = []
for i in range(0, 10):
url = baseurl + str(i*25)
html = askURL(url) #保留获取到的网页源码
#对网页进行解析
soup = BeautifulSoup(html, 'html.parser')
for item in soup.find_all('div', class_="item"): #查找符合要求的字符串 造成列表
#print(item) #测试查看电影信息
data = []
item = str(item)
link = re.findall(findLink, item)[0] #re 库用来查找指定的字符串
data.append(link)
imgSrc = re.findall(findImgSrc, item)[0]
data.append(imgSrc) #增加图片
titles = re.findall(finTitle, item) #
if (len(titles) == 2):
ctitle = titles[0] #增加中文名
data.append(ctitle)
otitle = titles[1].replace("/", "") #replace("/","")去掉无关的符号
data.append(otitle) #增加英文名
else:
data.append(titles[0])
data.append(' ')# 外国名字留空
rating = [外汇跟单](https://www.gendan5.com/)re.findall(findReating, item)[0] #增加评分
data.append(rating)
judgeNum = re.findall(findJudge,item) #评估人数
data.append(judgeNum)
inq = re.findall(findInq, item) #增加概述
if len(inq) != 0:
inq = inq[0].replace(".", "") #去掉句号
data.append(inq)
else:
data.append(" ") #留空
bd = re.findall(findBb,item)[0]
bd = re.sub('<br(\s+)?/>(\s+)?',' ', bd) #去掉 br 前面这个 bd 示意对 bd 进行操作
bd = re.sub('/', ' ', bd) #替换 /
data.append(bd.strip()) #去掉前后的空格 strip()
datalist.append(data) #把解决好的一部电影放入 datalist 当中
return datalist
第三局部:失去一个指定的 url 信息。
失去指定的一个 url 网页信息
def askURL(url):
head = {"User-Agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"
}
request = urllib.request.Request(url,headers=head) # get 申请不须要其余的的,而 post 申请须要 一个 method 办法
html = ""
try:
response = urllib.request.urlopen(request)
html = response.read().decode('utf-8')
# print(html)
except Exception as e:
if hasattr(e,'code'):
print(e.code)
if hasattr(e,'reason'):
print(e.reason)
return html
第四局部:保留数据
3: 保留数据
def saveData(datalist,savepath):
book = xlwt.Workbook(encoding="utf-8", style_compression=0)
sheet = book.add_sheet('豆瓣电影 Top250', cell_overwrite_ok=True)
col = ('电影详情链接', '图片链接', '影片中文名', '影片外国名', '评分', '评估数', '详情', '相干信息')
for i in range(0,8):
sheet.write(0,i,col[i]) #列名
for i in range(0,250):
print("第 %d 条"%i)
data = datalist[i]
for j in range(0,8):
sheet.write(i+1,j,data[j])
book.save(savepath) #保留
if name == ‘__main__’:
main()
print("爬取结束")
正文完