基于Scrapy的研招网硕士目录爬虫的设计与实现

研招网作为中国最大的研究生招考信息公布平台,资源丰富。目前主流的爬虫框架有Scrapy、pyspider与crawley,其中Scrapy为目前最流行的爬虫框架。因此,文中主要研究Python语言开发的开源爬虫框架Scrapy所开发的爬虫,对研招网硕士目录进行爬取,举例说明爬虫如何应对网站的反爬措施。