关注微信公众号:K哥爬虫,继续分享爬虫进阶、JS/安卓逆向等技术干货!
申明
本文章中所有内容仅供学习交换,抓包内容、敏感网址、数据接口均已做脱敏解决,严禁用于商业用途和非法用处,否则由此产生的所有结果均与作者无关,若有侵权,请分割我立刻删除!
逆向指标
- 指标:某投资畛域 SAAS 零碎 PEDATA MAX 资讯,返回后果加密
- 主页:
aHR0cHM6Ly9tYXgucGVkYXRhLmNuL2NsaWVudC9uZXdzL25ld3NmbGFzaA==
- 接口:
aHR0cHM6Ly9tYXgucGVkYXRhLmNuL2FwaS9xNHgvbmV3c2ZsYXNoL2xpc3Q=
- 逆向参数:申请返回的加密后果,
data: "L+o+YmIyNDE..."
抓包剖析
咱们在首页,点击查看全副24小时资讯,往下拉,资讯是以 Ajax 模式加载的,咱们选中开发者工具 XHR 进行筛选,很容易找到一个 list 申请,其返回值 data 是一串通过加密后的字符串,exor 不晓得是啥,然而前面可能有用,ts 是工夫戳,如下图所示:
Payload 里的参数没有什么特地的,就是一些翻页信息,咱们再看看申请 header,这里留神 Cookie
和 HTTP-X-TOKEN
两个参数,拜访这个页面须要登录账号,一般来说,Cookie 是用来标识不同用户的,但通过 K 哥测试发现,此案例中,这个 HTTP-X-TOKEN 参数才是用来辨认用户的,所以不须要 Cookie 也行,轻易提一嘴,Cookie 中咱们常常看到有 Hm_lvt_xxx
和 Hm_lpvt_xxx
是用于百度联盟广告的数据统计的,与爬虫无关。
加密逆向
咱们留神到返回的是一个字典,在获取到加密数据后,必定会有一个取值的过程,所以咱们间接搜寻键,搜寻 exor 后果只有一个:
这里 e.data
就是返回的字典,e.data.data
、e.data.exor
顺次取加密值和 exor,这里就能够猜想是将加密值取出来进行解密操作了,咱们在此函数结尾处也打个断点,看看这段代码执行结束后,data 的值是否变成了明文:
不出所料,Object(p["y"])(e.data.data, e.data.exor)
这段代码就是解密函数了,Object(p["y"])
其实是调用了 M 办法,跟进去看看:
传入的 t 和 n 别离是加密值和 exor,最初返回的 JSON.parse(c)
就是解密后果:
要害代码:
function M(t, n) { var a = L(Object(s["a"])(), n) , r = Y(B(t), a) , c = o.a.gunzipSync(e.from(r)).toString("utf-8"); return JSON.parse(c)}
挨个函数扣下来,简略的就不讲了, 其中 Object(s["a"])
,选中它,其实是调用了 c 办法,跟进 c 办法,实际上是取了 loginToken
,这个 loginToken
就是咱们后面剖析的申请头中的 HTTP-X-TOKEN
,蕴含了你的登录信息。
拓展常识:window.localStorage
属性用于在浏览器中存储键值对模式的数据,localStorage
与 sessionStorage
相似,区别在于:localStorage
中的数据能够长期保留,没有过期工夫,直到被手动删除。sessionStorage
的数据仅保留在以后会话中,在敞开窗口或标签页之后将会删除这些数据。
再往下看,有个 o.a.gunzipSync()
,先放一下,先看看传入的参数 e.from(r)
,跟进看可能看不出来什么,间接比照 r
和 e.from(r)
,会发现都是 Uint8Array 的数据,截然不同的,如下图所示:
再来看看 o.a.gunzipSync()
,实际上调用的是 chunk-vendors.js 里的匿名函数,不晓得这个 JS 不要紧,咱们留神到 chunk-vendors.js 外面的代码有超过14万行,再加上这个奇怪的名字,什么模块供应商,不难想到这是一个零碎或者第三方生成的 JS,事实上它是 vue 应用程序构建过程中创立的文件,对于咱们爬虫工程师来讲,粗犷的将其了解为相似 jquery.js 一样的货色也行,咱们个别是不会去扣 jquery.js 外面的代码的,同样这个 chunk-vendors.js 也不可能傻傻的去扣。
咱们重点看看这个函数名,gunzipSync,其余不意识,但意识 zip 吧,能够联想到应该与压缩无关,不理解同样不要紧,间接使出百度大法:
这间接给出了 nodejs 外面的实现办法,用的是 zlib 模块,轻易找个示例看看用法:
var zlib = require('zlib');var input = "Nidhi";var gzi = zlib.gzipSync(input);var decom = zlib.gunzipSync(new Buffer.from(gzi)).toString();console.log(decom);
进一步学习,咱们能够晓得 zlib.gunzipSync()
办法是 zlib 模块的内置应用程序编程接口,用于应用 Gunzip 解压数据块。传入的数据能够是 Buffer、TypedArray、DataView、ArrayBuffer、string 类型,在官网文档中咱们能够看到更新历史外面,在 v8.0.0 当前,传入的数据就反对 Uint8Array 了:
联合后面咱们对 r 值的剖析,所以在 nodejs 里,间接把 r 值传入到 zlib.gunzipSync()
办法里就能够了,将用到的 L、V、B 三个办法扣进去,而后配合 zlib 库,改写一下就能拿到解压后的数据了:
function getDecryptedData(encryptedData, exor, loginToken) { var a = L(loginToken, exor); var r = Y(B(encryptedData), a) var decryptedData = zlib.gunzipSync(r).toString(); return decryptedData}
残缺代码
GitHub 关注 K 哥爬虫,继续分享爬虫相干代码!欢送 star !https://github.com/kgepachong/
以下只演示局部要害代码,不能间接运行! 残缺代码仓库地址:https://github.com/kgepachong...
JavaScript 加密代码
/* ==================================# @Time : 2021-12-31# @Author : 微信公众号:K哥爬虫# @FileName: main.js# @Software: PyCharm# ================================== */var zlib = require('zlib');function L(e, t) { if ("1" == t) return [7, 65, 75, 31, 71, 101, 57, 0]; for (var n = [], a = 0, r = t.length; a < r; a += 2) n.push(e.substr(1 * t.substr(a, 2), 1).charCodeAt()); return n}function Y(e, t) { for (var n, a = new Uint8Array(e.length), r = 0, c = e.length; r < c; r++) n = t[r % t.length], a[r] = e[r].charCodeAt() ^ n; return a}function B(e) { var t, n, a, r, c, u, i, o = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/=", s = "", f = 0; e = e.replace(/[^A-Za-z0-9\+\/\=]/g, ""); while (f < e.length) r = o.indexOf(e.charAt(f++)), c = o.indexOf(e.charAt(f++)), u = o.indexOf(e.charAt(f++)), i = o.indexOf(e.charAt(f++)), t = r << 2 | c >> 4, n = (15 & c) << 4 | u >> 2, a = (3 & u) << 6 | i, s += String.fromCharCode(t), 64 != u && (s += String.fromCharCode(n)), 64 != i && (s += String.fromCharCode(a)); return s}function getDecryptedData(encryptedData, exor, loginToken) { var a = L(loginToken, exor); var r = Y(B(encryptedData), a) var decryptedData = zlib.gunzipSync(r).toString(); return decryptedData}
Python 示例代码
# ==================================# --*-- coding: utf-8 --*--# @Time : 2021-12-31# @Author : 微信公众号:K哥爬虫# @FileName: main.py# @Software: PyCharm# ==================================import execjsimport requestsnews_est_url = "脱敏解决,残缺代码关注 GitHub:https://github.com/kgepachong/crawler"login_token = "token 换成你本人的!"headers = { "Accept": "application/json, text/plain, */*", "Content-Type": "application/json", "Host": "脱敏解决,残缺代码关注 GitHub:https://github.com/kgepachong/crawler", "HTTP-X-TOKEN": login_token, "Origin": "脱敏解决,残缺代码关注 GitHub:https://github.com/kgepachong/crawler", "Referer": "脱敏解决,残缺代码关注 GitHub:https://github.com/kgepachong/crawler", "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/96.0.4664.110 Safari/537.36"}def get_decrypted_data(encrypted_data, exor): with open('pedata_decrypt.js', 'r', encoding='utf-8') as f: pedata_js = f.read() decrypted_data = execjs.compile(pedata_js).call('getDecryptedData', encrypted_data, exor, login_token) return decrypted_datadef get_encrypted_data(): data = { "type": "", "module": "LP", "page": { "currentPage": 1, "pageSize": 10 } } response = requests.post(url=news_est_url, headers=headers, json=data).json() encrypted_data, exor = response["data"], response["exor"] return encrypted_data, exordef main(): encrypted_data, exor = get_encrypted_data() decrypted_data = get_decrypted_data(encrypted_data, exor) print(decrypted_data)if __name__ == '__main__': main()