nodejs中request库使用HTTPS代理

jiezi

6 年前

正在尝试改用 NodeJS 编写爬虫，http 请求库选择了 request，用起来还是挺简单的。
现在有个需求，需要用 Fiddler 抓包我发出去的请求，以便和浏览器发出去的包进行对比。
因为需要解密 HTTPS 报文，需要让 node 要么忽略证书安全，要么信任 Fiddler 的 CA 证书。
网上找了一圈，总结如下：

设置环境变量 NODE_TLS_REJECT_UNAUTHORIZED=0
即 ” 不拒绝未认证的证书 ”
但是直接修改系统环境变量比较危险，因为会影响到所有 nodejs 的程序；比较稳妥的办法是脚本中调用process.env["NODE_TLS_REJECT_UNAUTHORIZED"] = 0; 这样仅对本进程生效

上述方法还是有一定风险，因为当前 nodejs 进程都受此全局设置影响
可以在 request 的 options 中添加 rejectUnauthorized: false 选项来针对单个请求忽略证书检查

当然也可以用 request.defaults 直接设置默认选项

  const request = require("request").defaults({
      proxy: "http://127.0.0.1:8888",
      rejectUnauthorized: false,
  })
  request.get("https://www.baidu.com").on("response", console.log)

这个方法是最稳妥的，不会对你的子系统之外产生任何溢出影响
首先在 Fiddler 内把其根证书导出到桌面：Tools -> Options -> HTTPS -> Actions -> Export Root Certificate to Desktop
导出的文件是个.cer 证书，经测试 nodejs 不直接支持，需要用 openssl 转换成 PEM 格式（我的 openssl 是 cygwin 装的）
openssl x509 -inform DER -in FiddlerRoot.cer -outform PEM -out fiddler.pem
把转换出来的 fiddler.pem 放到你的程序能访问的位置

使用 ca 选项来指定 CA 证书

  const request = require("request").defaults({
      proxy: "http://127.0.0.1:8888",
      ca: require("fs").readFileSync("path/to/fiddler.pem", {encoding: "utf-8"}),
  })
  request.get("https://www.baidu.com").on("response", console.log)

另外：request 当然也支持自签名证书，不过我暂时没这方面需求，就没继续摸索了

nodejs中request库使用HTTPS代理

设置环境变量

每请求单独设置忽略证书安全

直接使用 Fiddler 的 CA 证书