首页 >> 宝藏问答 >

scrapy 爬虫(scrapy爬虫实例)

2023-02-14 09:34:16

问题描述:

scrapy 爬虫(scrapy爬虫实例)!时间紧迫,求快速解答!

最佳答案

推荐答案

2023-02-14 09:34:16

您好,今天芳芳来为大家解答以上的问题。scrapy 爬虫,scrapy爬虫实例相信很多小伙伴还不知道,现在让我们一起来看看吧!

1、scrapy自带有去重set()集合功能,但是set是在内存中的,一旦关机就要重新开始。

2、那么我拿到数据不是在set里面,我把他存入redis,mysql,mongo,在取数据的时候,pop一下不就可以实现断点续传了。

本文就为大家分享到这里,希望小伙伴们会喜欢。

  免责声明:本答案或内容为用户上传,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 如遇侵权请及时联系本站删除。

 
分享:
最新文章