共计 591 个字符，预计需要花费 2 分钟才能阅读完成。
上面这个图是我设计的爬虫架构，这个架构逻辑比较简单。
首先是链接池，链接池存储需要爬取的网页链接，每个链接有当前爬取状态，尝试次数等信息，爬取状态分为：waiting（等待），going（正在进行），success（爬取成功），fail（爬取失败）。链接的默认状态是 waiting，当爬虫正在爬取这个链接的内容的时候，链接进入 going 状态，链接内容爬取成功进入 success 状态，爬取失败进入 fail 状态。链接的另一个参数是尝试次数，当链接爬取失败则尝试次数加 1 并再次进入 waiting 状态，设定尝试次数阈值，比如设定阈值为 3，当尝试次数超过 3 次，则进入 fail 状态。
爬虫管理者负责创建爬虫任务，我们可以创建一个 task 来定期运行爬虫管理者。爬虫管理者从爬虫池中选取一定数量的处于 waiting 状态的链接，创建爬虫任务。
爬虫任务接受一个目标链接，然后针对链接的格式运行对应的解析器。如果发现新的目标链接，则将新发现的链接放入链接池。这个地方需要注意的是爬虫在请求链接内容的时候，要使用代理，这样可以防止同一个 ip 频繁请求被封的情况。
刚开始链接池是空的，所以我们需要放入第一个目标链接，这样爬虫会不断的发现新链接，然后将新链接作为目标链接再次爬取内容，如果效果好的话，爬虫会一直运行知道没有新的链接发现未知。
下面这个是我最近做的一个微信小程序，用来快速查找澳洲保健品中文信息的小工具。
正文完
