python-scrapy-中间件的学习

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了python-scrapy-中间件的学习，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1161字，纯文字阅读大概需要2分钟。

内容图文

middlewares.py

class MiddlewareDownloaderMiddleware:

    @classmethod
    def from_crawler(cls, crawler):
        # This method is used by Scrapy to create your spiders.
        s = cls()
        crawler.signals.connect(s.spider_opened, signal=signals.spider_opened)
        return s

    def process_request(self, request, spider):
        # spider就是爬虫类的实例化对象
        # spider.name
        # 拦截所有的请求对象，包括正常与不正常
        # 参数：request就是请求到的对象
        # 获取或者修改请求头信息
        # request.headers['Cookie'] = 'xxx'
        print('i am process_request ')
        return None

    def process_response(self, request, response, spider):
        # 拦截所有的响应对象
        # 参数：response就是响应对象
        print('i am process_response ')
        return response

    def process_exception(self, request, exception, spider):
        # 拦截发生异常的请求对象
        # 需要对异常的请求进行修正，然后将其重新发送即可
        print('i am process_exception ')
        # 代理操作
        # request.meta['proxy'] = 'https://ip:port'
        return request

settings.py 开启中间件

DOWNLOADER_MIDDLEWARES = {
   'middleware.middlewares.MiddlewareDownloaderMiddleware': 543,
}

内容总结

以上是互联网集市为您收集整理的python-scrapy-中间件的学习全部内容，希望文章能够帮你解决python-scrapy-中间件的学习所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端