爬虫中间件的作用主要有三点:
- 1.处理引擎传递给爬虫的响应
- 2.处理爬虫传递给引擎的请求
- 3.处理爬虫传递给引擎的数据项
通常有默认的爬虫中间件:
#Default
['scrapy.spidermiddlewares.httperror.HttpErrorMiddleware':50
'scrapy.spidermiddlewares.offsite.OffsiteMiddleware':500, #不再允许的域中
'scrapy.spidermiddlewares.referer.RefererMiddleware':700, #网页的referre填充请求标头
'scrapy.spidermiddlewares.urllength.UrlLengthMiddleware':800, #url长度
'scrapy.spidermiddlewares.depth.DepthMiddleware':900 #url深度
]
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
