python学习笔记之爬虫(五) 进程、线程、协程 实战 丨【生长吧!Python】(Python爬虫笔记)
974
2022-05-29
经常在写公众号,博客的时候需要给文章配图片。对于不是很复杂的图片,通常都是打开百度搜索关键字来获得一些图片。
百度图片搜索关键字“猫”
但这种做法会有4个问题:
网页打开百度图片通常很耗时间
思路会被打断,无法专注于写作本身
如果有多个关键字需要搜索,需要打开一堆窗口
获得感兴趣的图片后,还需要手动保存到本地才能使用
作为一名爬虫爱好者,当然不能忍受这样的情况,明明可以让爬虫来获取的图片,为什么需要我一次一次点击下一张。于是我写了个根据关键字爬取百度图片的小爬虫。
通过分析百度图片的页面,很快就编写好了爬虫程序
运行爬虫流程
安装依赖:pip3 install fake_useragent
python baiduimage_spider.py
输入关键字,用空格分开关键字,同时下载多个关键字的图片
输入要爬取的页数(百度图片一页展示60张图片,但在实际爬取过程中,可能有些图片无法下载)
等待爬虫运行完毕,图片默认保存在py文件所在路径
假如你正在写一篇关于猫、狗与牛的文章,你可以不打断写作的思路,直接用爬虫爬取一些图片。爬虫程序在后台工作,而你的大脑可以专心投入写作的过程中。
以下是爬虫程序运行结果
百度图片爬虫小助手同时爬取“猫”、“狗”、“牛”三个关键字的图片
根据关键字成功建立文件夹
到这为止,你已经收集了很多你想要的图片,完全不必浪费时间一张一张查看,图片都乖乖地躺在你的硬盘你等待你的挑选呢。
爬虫结果:猫
爬虫结果:狗
爬虫结果:牛
最近决心要认真写博客,记录自己的学习过程。头脑一热,就想到了这个爬虫并立马实现了它,但还不尽完美,之后有时间可以从以下几点来进行优化:
虑版权问题
并发爬虫,提高效率
引入图片评分机制,滤除掉低质量图片
=====================================================================
本文发表在机器在学习
李思原个人博客
链接:http://www.siyuanblog.com/?p=202&from=singlemessage&isappinstalled=0
=====================================================================
其他
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。