python-爬虫-获取动漫截图

42次阅读

共计 1804 个字符,预计需要花费 5 分钟才能阅读完成。

之前有些无聊(呆在家里实在玩的腻了),然后就去 B 站看了一些 python 爬虫视频,没有进行基础的理论学习,也就是直接开始实战,感觉跟背公式一样的进行爬虫,也算行吧,至少还能爬一些东西,hhh。我今天来分享一个我的爬虫代码。

正文

话不多说,直接上完整代码

ps:这个代码有些问题 每次我爬到 fate 的图片它就给我报错,我只好用个 try 来跳过了,如果有哪位大佬能帮我找出错误并给与纠正,我将不胜感激

import requests as r

import re

import os

import time

file_name = “ 动漫截图 ”

if not os.path.exists(file_name):

os.mkdir(file_name)

for p in range(1,34):

print(“——————– 正在爬取第 {} 页内容 ——————“.format(p))

url = ‘https://www.acgimage.com/shot…{}’.format(p)

headers = {“user-agent”

: “Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36”}

resp = r.get(url, headers=headers)

html = resp.text

images = re.findall(‘data-original=”(.*?)” ‘, html)

names =re.findall(‘title=”(.*?)”‘, html)

print(images)

print(names)

dic = dict(zip(images, names))

for image in images:

time.sleep(1)

print(image, dic[image])

name = dic[image]

name = image.split(‘/’)[-1]

i = r.get(image, headers=headers).content

try:

with open(file_name + ‘/’ + name + ‘.jpg’ , ‘wb’) as f:

f.write(i)

except FileNotFoundError:

continue

先导入要使用的库

import requests as r

import re

import os

import time

然后去分析要去爬的网址:动漫截图网
亨达外汇 http://www.fx61.com/brokerlis…

好了 url 已经确定

下面去寻找 headers

第一步就完成了

下面是代码展示

url = ‘https://www.acgimage.com/shot…{}’.format(p)

headers = {“user-agent”

: “Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.162 Safari/537.36”

}

然后检索要爬的图片内容

从上图就可以找到图片的位置:data-origina= 后面的内容

以及图片的名字:title= 后面的内容

然后用正则表达式 re 来检索就行了

images = re.findall(‘data-original=”(.*?)” ‘, html)

names =re.findall(‘title=”(.*?)”‘, html)

最后将其保存就好了

i = r.get(image, headers=headers).content

with open(file_name + ‘/’ + name + ‘.jpg’ , ‘wb’) as f:

f.write(i)

还有就是一些细节了

比如换页

然后将 page 后面的数字改动就可以跳到相应的页面

换页的问题也就解决了

or p in range(1,34):

url = ‘https://www.acgimage.com/shot…{}’.format(p)

以及将爬到的图片放到自己建立的文件 zh

使用了 os 库

file_name = “ 动漫截图 ”

if not os.path.exists(file_name):

os.mkdir(file_name)

以及为了不影响爬取的网站 使用了 sleep 函数

虽然爬取的速度慢了一些

但是这是应遵守的道德

time.sleep(1)

正文完
 0