scrapy框架之递归解析和post请求！Python学习教程

发布时间：2025-11-05 04:35:23 来源：技术快报 作者：IT科技类资讯

　　1.递归爬取解析多页页面数据

　　需求：将糗事百科所有页码的框架作者和段子内容数据进行爬取切持久化存储

　　需求分析：每一个页面对应一个url，则scrapy工程需要对每一个页码对应的归解url依次发起请求，然后通过对应的析和学习解析方法进行作者和段子内容的解析。

　　实现方案：

　　1.将每一个页码对应的请求url存放到爬虫文件的起始url列表(start_urls)中。(不推荐)

　　2.使用Request方法手动发起请求。教程(推荐)

　　代码展示：

　　2.五大核心组件工作流程：

　　引擎(Scrapy)

　　用来处理整个系统的数据流处理, 触发事务(框架核心)

　　调度器(Scheduler)

　　用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL(抓取网页的网址或者说是链接)的优先队列, 由它来决定下一个要抓取的网址是什么, 同时去除重复的云服务器网址

　　下载器(Downloader)

　　用于下载网页内容, 并将网页内容返回给蜘蛛(Scrapy下载器是建立在twisted这个高效的异步模型上的)

　　爬虫(Spiders)

　　爬虫是主要干活的, 用于从特定的网页中提取自己需要的信息, 即所谓的实体(Item)。用户也可以从中提取出链接,请求让Scrapy继续抓取下一个页面

　　项目管道(Pipeline)

　　负责处理爬虫从网页中抽取的实体，主要的教程功能是持久化实体、验证实体的框架有效性、清除不需要的归解信息。当页面被爬虫解析后，析和学习将被发送到项目管道，请求并经过几个特定的教程次序处理数据。

　　3.post请求发送

　　问题：在之前代码中，我们从来没有手动的源码库对start_urls列表中存储的起始url进行过请求的发送，但是起始url的确是进行了请求的发送，那这是如何实现的呢?

　　解答：其实是因为爬虫文件中的爬虫类继承到了Spider父类中的start_requests(self)这个方法，该方法就可以对start_urls列表中的url发起请求：

　　【注意】该方法默认的实现，是对起始的url发起get请求，如果想发起post请求，则需要子类重写该方法。

　　方法： 重写start_requests方法，让其发起post请求：

相关文章