python如何删除excel中不满足要求的工作簿(excel怎么删除工作表里不需要的)
616
2022-05-28
怪毛病
最近写公众号写的染上了个怪毛病,不到12点根本不知道写啥。一过凌晨那简直是吃了大回复一般的文思泉涌。结果就是最近越熬夜越晚了.公众号是每天定时发的,简书上的发帖时间才是真正的睡前倒计时…然后,来看看都是几点睡的:
为什么这么有精神?因为我武当王也改投了全真教,习得重阳真人一身武学典籍,本着不藏私的心态,在这里共享给大家,请叫我雷锋:
电脑硬盘里的图片
夹的照片(硬盘里的女神)看了又删,去年夏天后就没聊过天…很久前有这首歌很火,不知道大家听过没,只是括号里的歌词被改成了现在的样子。那么,你们以为我今晚要开车?NONONO…
每天做公众号,最愁的两件事,一是选题,二是公众号配图。不知道写什么,比写代码遇到坑更让人发愁。那么配图呢?配图的坑主要在于,选择的图首先要有美感或者和文章主题有所关联,最重要的是你选择的图必须是没有版权的。不然容易遭到投诉…网上推荐了很多免费的床图网站,我一直用的是pixabay。
很多床图网站为什么选择它?一个是这个网站有百度云加速,虽然速度还是很卡(同样这里也是个坑,一会儿解释),而且预览图片时,不会添加网站的水印,你可以通过f12获取url的方式去下载图片,而无需注册后点进行下载,但是每次通过f12获取url的方式下载图片,有点太耗费时间了,所以今天就教大家通过Python自动下载网站的所有图片,并巧妙实现网站的搜索引擎功能。
先来填个坑
大坑解析
上面说到了,网站支持百度云加速,但同样的百度为了判断你是否为爬虫访问,会对浏览器进行监测。首次访问网站(有的运气好会访问几次后出现验证…),需要填写验证码确认非程序爬虫。之后才能正常使用。
但如果是拿requests进行url访问下载,怎么去破解?网上很多说什么js获取验证的,对于requests来说都不靠谱,当然你可以换成selenium前台模拟浏览器操作解析验证码然后去下载,先不说这验证码解析成果率多低,selenium的爬虫速度能和requests比?
我们该如何解决这个问题?先老老实实的输入验证码,看下面这张图:
pixabay.com网站存在7个cookie(显示9个是另外一个网站的…),然后一个一个查每个cookie的详细信息,连蒙带猜+验证,最后确定了,控制百度云的cookie有效期是通过cf_clearance时间来控制的,有效时长为一个半小时!
requests跳过百度云监测
知道了是由于cookie验证导致的访问异常,那我们该怎么做?通过headers添加cookie!
网站爬虫分析
再来个坑
刚才说了网站的图片是动态加载的,这个有什么坑呢?代码说话:
我们会发现前十几张的url链接保存在srcset中,而之后的80+张图片他的url包裹在data-lazy-srcset中,后者的src也是默认的blank.gif的空白幕布,还么来得及把图片刷出来…
所以爬虫的时候我们需要小心了…如何快捷的判断到底使用哪个attr?这里用到一个python的 or方法,举个例子:
这样大家明白了吧,我们只需要 img.attrs.get(‘srcset’)即可。
只有你抠细节,才能成长!所以我问你,srcset放在or前还是data-lazy-srcset放在or前?再看一个例子:
当python遇到or运算时,如果第一个条件成立,那么直接返回数值,而不关注or后的表达式了!所以data-lazy-srcset有80+个,我们应该把它放在or的左边。够不够抠细节?细节决定成败!
小技巧1:指定内容检索
如何将我们的图片进行分类呢,网站的url也比较简单:
https://pixabay.com/zh/images/search/%E4%B9%A6/?pagi=2
search后的编码,通过from urllib.parse import quote即可获取,然后就是page的数字通过for循环匹配即可。
小技巧2:保存图片你索引
这里可是一个彩蛋了!大家都知道img一般都有一个alt的选项,即当图片显示不出来时,通过alt告诉大家这个图片是干嘛的!比如这些:
如果我们在保存图片的时候将图片名字中添加alt索引,之后我们通过windows自带的查找不就可以进行模拟网站的检索功能了么?是不是很鸡贼?哈哈…
小技巧3:获取高像素的图片
刚才我们看到了,默认的url是__340.jpg,像素比较低,但如果我们点击每个a标签的链接进入每个单张图的地址,会看到720p的中品质图片,那么要改链接一个一个解析?不用那么麻烦,这个网站的中品质图片link对比如下:
https://cdn.pixabay.com/photo/2019/07/22/09/02/landscape-4354610__340.jpg
https://cdn.pixabay.com/photo/2019/07/22/09/02/landscape-4354610_960_720.jpg
所以我们只需要将__340替换为_960_720代码实现
提前强调一句,对于这种福利性的网站,大家还是下手轻一点,善待它吧!
# -*- coding: utf-8 -*- # @Author : 王翔 # @JianShu : 清风Python # @Date : 2019/7/26 02:55 # @Software : PyCharm # @version :Python 3.7.3 # @File : picture_download.py import os import time import requests from bs4 import BeautifulSoup from urllib.parse import quote, urljoin, urlsplit import threading class PictureDownload: BaseUrl = "https://pixabay.com/zh/images/search/" DefaultPages = 5 Path = os.path.dirname(os.path.abspath(__file__)) def __init__(self): # cookie大家在使用的时候,记得替换... self.headers = { "cache-control":"Cache-control: private, max-age=0, no-cache", "cf-ray":"4fc0bf640b4e20be-LAX", "set-cookie":"lang=zh; expires=Sun, 22-Jul-2029 20:05:15 GMT; Max-Age=315360000; Path=/", "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36", "cookie": "__cfduid=db4c7fedc0b42d0ba4df71f0a6bb61b001564084956;; _ga=GA1.2.314030298.1564084752; _gid=GA1.2.2023032267.1564084752; is_human=1; client_width=1903; cf_clearance=65c758669b4c70b8d7300c06185fc16df3861533-1564085107-1800-250; _gat_UA-20223345-1=1" } self.url, self.download_path = self.set_basic() def set_basic(self): _url = urljoin(self.BaseUrl, quote(keyword)) _download_Path = os.path.join(self.Path, keyword) if not os.path.exists(_download_Path): os.mkdir(_download_Path) return _url, _download_Path def get_url(self): for page in range(self.DefaultPages + 1): parameter = {'pagi': page} r = requests.get(self.url, params=parameter, headers=self.headers, timeout=10) soup = BeautifulSoup(r.text, 'lxml') items = soup.find("div", {"class": "search_results"}).find_all("div", {"class": "item"}) for item in items: _img = item.a.img.attrs link = _img.get("data-lazy-srcset") or _img.get("srcset") alt = _img.get('alt') t = threading.Thread(target=self.save_picture, args=(link, alt)) t.start() time.sleep(0.2) def save_picture(self, link, alt): _url = link.split(' 1x')[0].replace('__340', '_960_720') _file_name = os.path.join(self.download_path, alt + _url.split('/')[-1]) r = requests.get(_url, headers=self.headers, timeout=5) try: with open(_file_name, 'wb') as f: f.write(r.content) print("图片{}下载完成".format(_file_name)) except: print("图片{}下载失败".format(_file_name)) if __name__ == '__main__': keyword = str(input("请输入所需下载图片的关键字:")) main = PictureDownload() main.get_url()
来看看下载的效果,分别下载了图书、编程分类的图片,默认每个类型下载5页共1000张图片,:
由于部分图片链接失效,最终下载成功989张,总计内存165MB….
另外,刚才让保存alt的用处,现在就可以展示出来了,因为网站的图片检索也是通过关键字的,所以利用windows检索功能就实现了类似网站的检索操作:
是不是很炫酷?
The End
OK,今天的内容就到这里,如果觉得内容对你有所帮助,欢迎点击文章右下角的“在看”。
期待你关注我的公众号清风Python,如果觉得不错,希望能动动手指转发给你身边的朋友们。
在之后的周一至五清晨7点10分,希望都能让清风Python的知识文章叫醒大家!谢谢……
--------------
python
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。