共计 4899 个字符,预计需要花费 13 分钟才能阅读完成。
关注微信公众号:K 哥爬虫,继续分享爬虫进阶、JS/ 安卓逆向等技术干货!
申明
本文章中所有内容仅供学习交换,抓包内容、敏感网址、数据接口均已做脱敏解决,严禁用于商业用途和非法用处,否则由此产生的所有结果均与作者无关,若有侵权,请分割我立刻删除!
逆向指标
- 指标:网洛者反反爬虫练习平台第六题:JS 加密,环境模拟检测
- 链接:http://spider.wangluozhe.com/…
- 简介:同样是要求采集 100 页的全副数字,并计算所有数据加和。请留神!不要重复使用一个参数值,不要坑骗本人哦!
抓包剖析
通过抓包剖析,能够发现本题不像后面几题一样 Payload 中参数有变动,而是在 Request Headers 里有个 hexin-v 的,每次申请都会变动,如果有敌人做过某花顺财经爬虫的话,会发现这个参数在某花顺的站点里也大量应用,如下图所示:
查找加密
首先尝试间接搜寻一下 hexin-v,只在 6.js 里有值,很显著这个 JS 是被混同了的,无奈定位,仔细观察一下,整个 6.js 为一个自执行函数(IIFE),传入的参数是 7 个数组,别离对应 n,t,r,e,a,u,c,如下所示:
!function (n, t, r, e, a, u, c) {
}([],[],[],[],[],[],[]
);
6.js 在调用值的时候都是通过元素下标取值的,所以这个混同也很简略,如果你想去还原的话,间接写个脚本将数组对应的值进行替换即可,当然在本例中比较简单,不必解混同。
因为 hexin-v 的值在 Request Headers 里,所以咱们能够通过 Hook 的形式,捕捉到设置 header 的 hexin-v 值时就 debugger 住(注入 Hook 代码的办法 K 哥以前的文章有具体解说,本文不再赘述):
(function () {
'use strict';
var org = window.XMLHttpRequest.prototype.setRequestHeader;
window.XMLHttpRequest.prototype.setRequestHeader = function (key, value) {if (key == 'hexin-v') {debugger;}
return org.apply(this, arguments);
};
})();
接下来就是跟栈了,往上跟一个就能够在 6.js 里看到 h 的值就是咱们想要的值,h = ct.update()
,ct.update()
实际上又是 x()
,如下图所示:
持续跟进 x()
,t 是咱们想要的值,t = N()
:
持续跟进 N()
,et.encode(n)
就是最终值,能够看到有一些相似鼠标挪动、点击等函数:
后面咱们曾经剖析过,6.js 是个自执行办法,而且代码量也不是很多,所以咱们这里间接定义一个全局变量,把这个 N 办法导出即可,就不再挨个办法扣了,伪代码如下:
// 定义全局变量
var Hexin;
!function (n, t, r, e, a, u, c) {
// 省略 N 多代码
function N() {S[T]++,
S[f] = ot.serverTimeNow(),
S[l] = ot.timeNow(),
S[k] = zn,
S[I] = it.getMouseMove(),
S[_] = it.getMouseClick(),
S[y] = it.getMouseWhell(),
S[E] = it.getKeyDown(),
S[A] = it.getClickPos().x,
S[C] = it.getClickPos().y;
var n = S.toBuffer();
return et.encode(n)
}
// 将 N 办法赋值给全局变量
Hexin = N
}([],[],[],[],[],[],[]
);
// 自定义函数获取最终的 hexin-v 值
function getHexinV(){return Hexin()
}
环境补齐
通过如上改写后,咱们在本地调试一下,会发现 window、document 之类的未定义,咱们先依照以前的办法,间接定义为空,后续还会报错 getElementsByTagName is not a function
,咱们晓得 getElementsByTagName 获取指定标签名的对象,属于 HTML DOM 的内容,咱们本地 node 执行必定是没有这个环境的。
这里咱们介绍一种可能间接在 Node.js 创立 DOM 环境的办法,应用的是 jsdom 这个库,官网是这么介绍的:
jsdom 是许多 Web 规范的纯 JavaScript 实现,特地是 WHATWG DOM 和 HTML 规范,用于 Node.js。一般来说,该项目标指标是模仿足够多的 Web 浏览器子集,以用于测试和抓取实在的 Web 应用程序。最新版本的 jsdom 须要 Node.js v12 或更新版本。(低于 v17 的 jsdom 版本依然实用于以前的 Node.js 版本,但不受反对。)具体的用法能够参考 jsdom 文档。
须要留神的是,jsdom 也依赖 canvas,所以也须要另外装置 canvas 这个库,HTML canvas 标签用于通过脚本(通常是 JavaScript)动静绘制图形,具体介绍和用法能够参考 canvas 文档。
咱们在本地 JS 中增加以下代码后,就有了 DOM 环境,即可胜利运行:
// var canvas = require("canvas");
var jsdom = require("jsdom");
var {JSDOM} = jsdom;
var dom = new JSDOM(`<!DOCTYPE html><p>Hello world</p>`);
window = dom.window;
document = window.document;
navigator = window.navigator;
配合 Python 代码,在申请头中,每次携带不同的 hexin-v,挨个计算每一页的数据,最终提交胜利:
残缺代码
GitHub 关注 K 哥爬虫,继续分享爬虫相干代码!欢送 star!https://github.com/kgepachong/
以下只演示局部要害代码,不能间接运行! 残缺代码仓库地址:https://github.com/kgepachong…
JavaScript 加密要害代码
/* ==================================
# @Time : 2021-12-20
# @Author : 微信公众号:K 哥爬虫
# @FileName: challenge_6.js
# @Software: PyCharm
# ================================== */
var TOKEN_SERVER_TIME = 1611313000.340;
var Hexin;
var jsdom = require("jsdom");
var {JSDOM} = jsdom;
var dom = new JSDOM(`<!DOCTYPE html><p>Hello world</p>`);
window = dom.window;
document = window.document;
navigator = window.navigator;
!function(n, t, r, e, a, u, c) {!function() {function Gn() {}
var Qn = [new a[23](n[20]), new e[3](f + l + d + p)];
function Zn() {}
var Jn = [new t[16](c[13]), new u[9](e[19])], qn = a[24][u[16]] || a[24].getElementsByTagName(st(r[19], r[20]))[a[25]], nt;
!function(o) {}(nt || (nt = {}));
var tt;
!function(o) {}(tt || (tt = {}));
var rt = function() {}(), et;
RT = rt
!function(o) {}(et || (et = {}));
function at() {}
var ot;
!function(o) {}(ot || (ot = {}));
var it;
!function(o) {}(it || (it = {}));
var ut;
!function(s) {}(ut || (ut = {}));
var ct;
!function(o) {function x() {}
function L() {}
function M() {}
o[a[105]] = M;
function N() {S[T]++,
S[f] = ot.serverTimeNow(),
S[l] = ot.timeNow(),
S[k] = zn,
S[I] = it.getMouseMove(),
S[_] = it.getMouseClick(),
S[y] = it.getMouseWhell(),
S[E] = it.getKeyDown(),
S[A] = it.getClickPos().x,
S[C] = it.getClickPos().y;
var n = S.toBuffer();
return et.encode(n)
}
Hexin = N
o[r[81]] = x
}(ct || (ct = {}));
function st() {}
var vt;
!function(o) {}(vt || (vt = {}));
var ft;
!function(r) {}(ft || (ft = {}))
}()}([],[],[],[],[],[],[]
);
function getHexinV(){return Hexin()
}
// 测试输入
// console.log(getHexinV())
Python 计算要害代码
# ==================================
# --*-- coding: utf-8 --*--
# @Time : 2021-12-20
# @Author : 微信公众号:K 哥爬虫
# @FileName: challenge_6.py
# @Software: PyCharm
# ==================================
import execjs
import requests
challenge_api = "http://spider.wangluozhe.com/challenge/api/6"
headers = {
"Content-Type": "application/x-www-form-urlencoded; charset=UTF-8",
"Cookie": "cookie 换成你本人的!",
"Host": "spider.wangluozhe.com",
"Origin": "http://spider.wangluozhe.com",
"Referer": "http://spider.wangluozhe.com/challenge/6",
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.45 Safari/537.36",
"X-Requested-With": "XMLHttpRequest"
}
def get_hexin_v():
with open('challenge_6.js', 'r', encoding='utf-8') as f:
wlz_js = execjs.compile(f.read())
hexin_v = wlz_js.call("getHexinV")
print("hexin-v:", hexin_v)
return hexin_v
def main():
result = 0
for page in range(1, 101):
data = {
"page": page,
"count": 10,
}
headers["hexin-v"] = get_hexin_v()
response = requests.post(url=challenge_api, headers=headers, data=data).json()
for d in response["data"]:
result += d["value"]
print("后果为:", result)
if __name__ == '__main__':
main()