import urllib.request
from bs4 import BeautifulSoup
import xlwt
import re
def main():

#   爬取网页baseurl = 'https://movie.douban.com/top250?start='datalist = getData(baseurl)savepath = '豆瓣电影Top250.xls'#   保留数据saveData(datalist,savepath)# askURL("https://movie.douban.com/top250?start=1")

影片详情的规定

findLink = re.compile(r'') #创立从正则表达式，示意规定
findImgSrc = re.compile(r'<img.src="(.?)"', re.S) #让换行符匹配到字符中

影片的片名

finTitle = re.compile(r'(.*)')

影片的评分

findReating = re.compile(r'(.*)')

找到评估人数

findJudge = re.compile(r'(\d*)人评估')

找到详情

findInq = re.compile(r'(.*)')

找到影片的相干内容

findBb = re.compile(r'(.*?)', re.S)#re.S漠视换行符
第二局部：爬取网页。
def getData(baseurl):

datalist = []for i in range(0, 10):    url = baseurl + str(i*25)    html = askURL(url)    #保留获取到的网页源码    #对网页进行解析    soup = BeautifulSoup(html, 'html.parser')    for item in soup.find_all('div', class_="item"):  #查找符合要求的字符串 造成列表        #print(item)  #测试查看电影信息        data = []        item = str(item)        link = re.findall(findLink, item)[0]  #re库用来查找指定的字符串        data.append(link)        imgSrc = re.findall(findImgSrc, item)[0]        data.append(imgSrc) #增加图片        titles = re.findall(finTitle, item)         #        if (len(titles) == 2):            ctitle = titles[0]      #增加中文名            data.append(ctitle)            otitle = titles[1].replace("/", "")   #replace("/", "")去掉无关的符号            data.append(otitle)     #增加英文名        else:            data.append(titles[0])            data.append(' ')#外国名字留空        rating = [外汇跟单](https://www.gendan5.com/)re.findall(findReating, item)[0] #增加评分        data.append(rating)        judgeNum = re.findall(findJudge,item) #评估人数        data.append(judgeNum)        inq = re.findall(findInq, item)  #增加概述        if len(inq) != 0:            inq = inq[0].replace(".", "")  #去掉句号            data.append(inq)        else:            data.append(" ")    #留空        bd = re.findall(findBb,item)[0]        bd = re.sub('<br(\s+)?/>(\s+)?',' ', bd)  #去掉br  前面这个bd示意对bd进行操作        bd = re.sub('/', ' ', bd)   #替换/        data.append(bd.strip())  #去掉前后的空格strip()        datalist.append(data)   #把解决好的一部电影放入datalist当中return datalist

第三局部：失去一个指定的url信息。

失去指定的一个url网页信息

def askURL(url):

head = {    "User-Agent": "Mozilla/5.0 (Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Mobile Safari/537.36"

}

request = urllib.request.Request(url,headers=head)    #  get申请不须要其余的的，而post申请须要 一个method办法html = ""try:    response = urllib.request.urlopen(request)    html = response.read().decode('utf-8')    # print(html)except Exception as e:    if hasattr(e,'code'):        print(e.code)    if hasattr(e,'reason'):        print(e.reason)return  html

第四局部：保留数据

3:保留数据

def saveData(datalist,savepath):

book = xlwt.Workbook(encoding="utf-8", style_compression=0)sheet = book.add_sheet('豆瓣电影Top250', cell_overwrite_ok=True)col = ('电影详情链接', '图片链接', '影片中文名', '影片外国名', '评分', '评估数', '详情', '相干信息')for i in range(0,8):    sheet.write(0,i,col[i])  #列名for i in range(0,250):    print("第%d条"%i)    data = datalist[i]    for j in range(0,8):        sheet.write(i+1,j,data[j])book.save(savepath) #保留

if name == '__main__':

main()print("爬取结束")