概述

使用 scrapy, scrapy-redis, graphite 实现的京东分布式爬虫，以 mongodb 实现底层存储。分布式 实现，解决带宽和性能的瓶颈，提高爬取的效率。实现 scrapy-redis 对进行 url 的去重 以及调度，利用redis的高效和易于扩展能够轻松实现高效率下载：当redis存储或者访问速 度遇到瓶颈时，可以通过增大redis集群数和爬虫集群数量改善