关于大数据:使用python爬取抖音app视频

49次阅读

共计 3131 个字符,预计需要花费 8 分钟才能阅读完成。

记录一下如何用 python 爬取 app 数据,本文以爬取抖音视频 app 为例。
编程工具:pycharm
app 抓包工具:mitmproxy
app 自动化工具:appium
运行环境:windows10
思路:
假如曾经配置好咱们所须要的工具
1、应用 mitmproxy 对手机 app 抓包获取咱们想要的内容
2、利用 appium 自动化测试工具,驱动 app 模仿人的动作(滑动、点击等)
3、将 1 和 2 相结合达到自动化爬虫的成果

一、mitmproxy/mitmdump 抓包

确保曾经装置好了 mitmproxy,并且手机和 PC 处于同一个局域网下,同时也配置好了 mitmproxy 的 CA 证书,网上有很多相干的配置教程,这里我就略过了。
因为 mitmproxy 不反对 windows 零碎,所以这里用的是它的组件之一 mitmdump,它是 mitmproxy 的命令行接口,能够利用它对接咱们的 Python 脚本,用 Python 实现监听后的解决。
在配置好 mitmproxy 之后, 在管制台上输出 mitmdump 并在手机上关上抖音 app,mitmdump 会出现手机上的所有申请,如下图
     
 
能够在抖音 app 始终往下滑,看 mitmdump 所展现的申请,会发现前缀别离为

http://v1-dy.ixigua.com/;http://v3-dy.ixigua.com/;http://v9-dy.ixigua.com/

这 3 个类型前缀的 url 正是咱们的指标抖音视频 url。
那接下来就要编写 python 脚本将视频下载下来,须要应用 mitmdump -s scripts.py(此处为 python 文件名)来执行脚本。

import requests
# 文件门路
path = 'D:/video/'
num = 1788
 
 
def response(flow):
    global num
    # 经测试发现视频 url 前缀次要是 3 个
    target_urls = ['http://v1-dy.ixigua.com/', 'http://v9-dy.ixigua.com/',
                   'http://v3-dy.ixigua.com/']
    for url in target_urls:
        # 过滤掉不须要的 url
        if flow.request.url.startswith(url):
            # 设置视频名
            filename = path + str(num) + '.mp4'
            # 应用 request 获取视频 url 的内容
            # stream=True 作用是推延下载响应体直到拜访 Response.content 属性
            res = requests.get(flow.request.url, stream=True)
            # 将视频写入文件夹
            with open(filename, 'ab') as f:
                f.write(res.content)
                f.flush()
                print(filename + '下载实现')
            num += 1

 
代码写得比拟毛糙,不过根本的逻辑还是比拟清晰的,这样咱们就能够把抖音的视频下载下来,不过这个办法有个缺点,就是获取视频须要人来一直地滑动抖音的下一个视频,这时候咱们能够用一个弱小的 appium 自动化测试工具来解决。
 

二、Appium 对手机进行模仿操作

确保曾经配置好 appium 所依赖的环境 Android 和 SDK,网上也有许多教程,这里我就不说了。
appium 的用法很简略,首先咱们先关上 appium,启动界面如下

点击 Start Server 按钮即可启动 appium 服务

将 Android 手机通过数据线与 PC 相连,同时关上 USB 调试性能,能够输出 adb 命令(具体能够去网上查找)测试连贯状况,若呈现以下后果,则阐明连贯胜利

model 是设施名,前面配置须要用到。之后点击下图箭头所指的按钮就会呈现一个配置页面

在右下角的 JSON Representation 配置启动 app 的 Desired Capabilities 参数,别离是 paltformName、deviceName、appPackage、appActivity。
platformName: 平台名称,个别是 Android 或 iOS.
deviceName: 设施名称,手机的具体类型
appPackage:App 程序包名
appActivity: 入口 Activity 名,通常以. 结尾

platformName 和 deviceName 比拟容易取得,而 appPackage 和 appActivity 这两个能够通过以下办法获取到。
在管制台上输出   adb logcat>D:\log.log  命令,并且在手机关上抖音 app,而后在 D 盘中关上 log.log 文件,查找 Displayed 关键字

由上图能够晓得 Displayed 前面的 com.ss.android.ugc.aweme 对应的是 appPackage,.main.MainActivity 对应的是 appActivity,最初咱们的配置后果如下:
 

{
  "platformName": "Android",
  "deviceName": "Mi_Note_3",
  "appPackage": "com.ss.android.ugc.aweme",
  "appActivity": ".main.MainActivity"
}

 
再点击 Start Session 即可启动 Android 手机上的抖音 app 并进入到启动页面,同时 PC 上会弹出一个调试窗口,从这个窗口能够预览以后手机页面,还能够对手机模仿各种操作,在本文不是重点,所以略过。
 

在上面咱们将应用 python 脚本来驱动 app,间接在 pycharm 运行即可

from appium import webdriver
from time import sleep
 
 
class Action():
    def __init__(self):
        # 初始化配置,设置 Desired Capabilities 参数
        self.desired_caps = {
            "platformName": "Android",
            "deviceName": "Mi_Note_3",
            "appPackage": "com.ss.android.ugc.aweme",
            "appActivity": ".main.MainActivity"
        }
        # 指定 Appium Server
        self.server = 'http://localhost:4723/wd/hub'
        # 新建一个 Session
        self.driver = webdriver.Remote(self.server, self.desired_caps)
        # 设置滑动初始坐标和滑动间隔
        self.start_x = 500
        self.start_y = 1500
        self.distance = 1300
 
    def comments(self):
        sleep(2)
        # app 开启之后点击一次屏幕,确保页面的展现
        self.driver.tap([(500, 1200)], 500)
 
    def scroll(self):
        # 有限滑动
        while True:
            # 模仿滑动
            self.driver.swipe(self.start_x, self.start_y, self.start_x, 
                              self.start_y-self.distance)
            # 设置延时期待
            sleep(2)
 
    def main(self):
        self.comments()
        self.scroll()
 
 
if __name__ == '__main__':
 
    action = Action()
    action.main()

 
上面是爬虫的过程。ps: 偶然会爬取到反复的视频

——————————————————————————————————————————————

TiToData:业余的短视频、直播数据接口服务平台。

更多信息请分割:TiToData

笼罩支流平台:抖音,快手,小红书,TikTok,YouTube

正文完
 0