记录一下如何用python爬取app数据，本文以爬取抖音视频app为例。
编程工具：pycharm
app抓包工具：mitmproxy
app自动化工具：appium
运行环境：windows10
思路：
假如曾经配置好咱们所须要的工具
1、应用mitmproxy对手机app抓包获取咱们想要的内容
2、利用appium自动化测试工具，驱动app模仿人的动作（滑动、点击等）
3、将1和2相结合达到自动化爬虫的成果
一、mitmproxy/mitmdump抓包
确保曾经装置好了mitmproxy，并且手机和PC处于同一个局域网下，同时也配置好了mitmproxy的CA证书，网上有很多相干的配置教程，这里我就略过了。
因为mitmproxy不反对windows零碎，所以这里用的是它的组件之一mitmdump，它是mitmproxy的命令行接口，能够利用它对接咱们的Python脚本，用Python实现监听后的解决。
在配置好mitmproxy之后,在管制台上输出mitmdump并在手机上关上抖音app，mitmdump会出现手机上的所有申请，如下图
能够在抖音app始终往下滑，看mitmdump所展现的申请，会发现前缀别离为
http://v1-dy.ixigua.com/；http://v3-dy.ixigua.com/；http://v9-dy.ixigua.com/这3个类型前缀的url正是咱们的指标抖音视频url。
那接下来就要编写python脚本将视频下载下来，须要应用 mitmdump -s scripts.py（此处为python文件名）来执行脚本。
import requests# 文件门路path = 'D:/video/'num = 1788 def response(flow): global num # 经测试发现视频url前缀次要是3个 target_urls = ['http://v1-dy.ixigua.com/', 'http://v9-dy.ixigua.com/', 'http://v3-dy.ixigua.com/'] for url in target_urls: # 过滤掉不须要的url if flow.request.url.startswith(url): # 设置视频名 filename = path + str(num) + '.mp4' # 应用request获取视频url的内容 # stream=True作用是推延下载响应体直到拜访Response.content属性 res = requests.get(flow.request.url, stream=True) # 将视频写入文件夹 with open(filename, 'ab') as f: f.write(res.content) f.flush() print(filename + '下载实现') num += 1
代码写得比拟毛糙，不过根本的逻辑还是比拟清晰的，这样咱们就能够把抖音的视频下载下来，不过这个办法有个缺点，就是获取视频须要人来一直地滑动抖音的下一个视频，这时候咱们能够用一个弱小的appium自动化测试工具来解决。
二、Appium对手机进行模仿操作
确保曾经配置好appium所依赖的环境Android和SDK，网上也有许多教程，这里我就不说了。
appium的用法很简略，首先咱们先关上appium，启动界面如下
点击Start Server按钮即可启动appium服务
将Android手机通过数据线与PC相连，同时关上USB调试性能，能够输出adb命令（具体能够去网上查找）测试连贯状况，若呈现以下后果，则阐明连贯胜利
model是设施名，前面配置须要用到。之后点击下图箭头所指的按钮就会呈现一个配置页面
在右下角的JSON Representation配置启动app的Desired Capabilities参数，别离是paltformName、deviceName、appPackage、appActivity。
platformName:平台名称，个别是Android或iOS.
deviceName:设施名称，手机的具体类型
appPackage:App程序包名
appActivity:入口Activity名，通常以.结尾
platformName和deviceName比拟容易取得，而appPackage和appActivity这两个能够通过以下办法获取到。
在管制台上输出 adb logcat>D:\log.log 命令，并且在手机关上抖音app，而后在D盘中关上log.log文件，查找Displayed关键字
由上图能够晓得Displayed前面的 com.ss.android.ugc.aweme对应的是appPackage，.main.MainActivity对应的是appActivity，最初咱们的配置后果如下：
{ "platformName": "Android", "deviceName": "Mi_Note_3", "appPackage": "com.ss.android.ugc.aweme", "appActivity": ".main.MainActivity"}
再点击Start Session即可启动Android手机上的抖音app并进入到启动页面，同时PC上会弹出一个调试窗口，从这个窗口能够预览以后手机页面，还能够对手机模仿各种操作，在本文不是重点，所以略过。
在上面咱们将应用python脚本来驱动app，间接在pycharm运行即可
from appium import webdriverfrom time import sleep class Action(): def __init__(self): # 初始化配置，设置Desired Capabilities参数 self.desired_caps = { "platformName": "Android", "deviceName": "Mi_Note_3", "appPackage": "com.ss.android.ugc.aweme", "appActivity": ".main.MainActivity" } # 指定Appium Server self.server = 'http://localhost:4723/wd/hub' # 新建一个Session self.driver = webdriver.Remote(self.server, self.desired_caps) # 设置滑动初始坐标和滑动间隔 self.start_x = 500 self.start_y = 1500 self.distance = 1300 def comments(self): sleep(2) # app开启之后点击一次屏幕，确保页面的展现 self.driver.tap([(500, 1200)], 500) def scroll(self): # 有限滑动 while True: # 模仿滑动 self.driver.swipe(self.start_x, self.start_y, self.start_x, self.start_y-self.distance) # 设置延时期待 sleep(2) def main(self): self.comments() self.scroll() if __name__ == '__main__': action = Action() action.main()
上面是爬虫的过程。ps:偶然会爬取到反复的视频
——————————————————————————————————————————————
TiToData：业余的短视频、直播数据接口服务平台。
更多信息请分割： TiToData
笼罩支流平台：抖音，快手，小红书，TikTok，YouTube