前言

验证码是阻挡机器人攻打的无效实际,网络爬虫,又被称为网络机器人,是依照肯定的规定,主动地抓取网络信息和数据的程序或者脚本。如何防控,这里简略提供几个小Tips。

应用nginx的自带性能

通过对httpuseragent阻塞来实现,包含GET/POST形式的申请,以nginx为例。

回绝以wget形式的httpuseragent,减少如下内容:

Block http user agent - wgetif ($http_user_agent ~* (Wget) ) {    return 403;}

如何回绝多种httpuseragent,内容如下:

if ($http_user_agent ~ (agent1|agent2|Foo|Wget|Catall Spider|AcoiRobot) ) {    return 403;}

限度User-Agent字段

User-Agent字段能辨认用户所应用的操作系统、版本、CPU、浏览器等信息,如果申请来自非浏览器,就能辨认其为爬虫,阻止爬虫抓取网站信息。

限度IP或账号

依据业务需要,要求用户通过验证码后能力应用某些性能或权限。当同一IP、同一设施在肯定工夫内拜访网站的次数,零碎主动限度其拜访浏览。只有在输出正确的验证码之后能力持续拜访。

验证码拦挡

在登录页等页面,增加验证码,以辨认是失常流量还是歹意爬虫,也是一种根本的操作。

HTML代码:

<script src="captcha.js?appid=xxx"></script><script>kg.captcha({    // 绑定元素,验证框显示区域    bind: "#captchaBox3",    // 验证胜利事务处理    success: function(e) {        console.log(e);        document.getElementById('kgCaptchaToken').value = e['token']    },    // 验证失败事务处理    failure: function(e) {        console.log(e);    },    // 点击刷新按钮时触发    refresh: function(e) {        console.log(e);    }});</script><div id="captchaBox3">载入中 ...</div><input type="hidden" name="kgCaptchaToken" value="" />

Python代码:

from wsgiref.simple_server import make_serverfrom KgCaptchaSDK import KgCaptchadef start(environ, response):    # 填写你的 AppId,在利用治理中获取    AppID = "xxx"    # 填写你的 AppSecret,在利用治理中获取    AppSecret = "xxx"    request = KgCaptcha(AppID, AppSecret)    # 填写应用服务域名,在利用治理中获取    request.appCdn = "https://cdn.kgcaptcha.com"    # 申请超时工夫,秒    request.connectTimeout = 10    # 用户id/登录名/手机号等信息,当安全策略中的防控等级为3时必须填写    request.userId = "kgCaptchaDemo"    # 应用其它 WEB 框架时请删除 request.parse,应用框架提供的办法获取以下相干参数    parseEnviron = request.parse(environ)    # 前端验证胜利后颁发的 token,有效期为两分钟    request.token = parseEnviron["post"].get("kgCaptchaToken", "")  # 前端 _POST["kgCaptchaToken"]    # 客户端IP地址    request.clientIp = parseEnviron["ip"]    # 客户端浏览器信息    request.clientBrowser = parseEnviron["browser"]    # 去路域名    request.domain = parseEnviron["domain"]    # 发送申请    requestResult = request.sendRequest()    if requestResult.code == 0:        # 验证通过逻辑解决        html = "验证通过"    else:        # 验证失败逻辑解决        html = f"{requestResult.msg} - {requestResult.code}"    response("200 OK", [("Content-type", "text/html; charset=utf-8")])    return [bytes(str(html), encoding="utf-8")]httpd = make_server("0.0.0.0", 8088, start)  # 设置调试端口  http://localhost:8088/httpd.serve_forever()

最初

SDK开源地址:KgCaptcha (KgCaptcha) · GitHub,顺便做了一个演示:凯格行为验证码在线体验