用scrapy的crawlspider分页爬取,提取每页的新闻链接是无序的
Scrapy 的 CrawlSpider 会同时处理多个请求,而这些请求的响应返回顺序是不确定的,所以爬取的链接顺序也就无法保证
scrapy genspider -t crawl 爬虫名