[Python3 网络爬虫开发实战] 1.7.2-mitmproxy 的安装

网友投稿 803 2022-05-29

mitmproxy 是一个支持 HTTP 和 HTTPS 的抓包程序,类似 Fiddler、Charles 的功能,只不过它通过控制台的形式操作。

此外,mitmproxy 还有两个关联组件,一个是 mitmdump,它是 mitmproxy 的命令行接口,利用它可以对接 Python 脚本,实现监听后的处理;另一个是 mitmweb,它是一个 Web 程序,通过它以清楚地观察到 mitmproxy 捕获的请求。

本节中,我们就来了解一下 mitmproxy、mitmdump 和 mitmweb 的安装方式。

1. 相关链接

GitHub:https://github.com/mitmproxy/mitmproxy

官方网站:https://mitmproxy.org

PyPI:https://pypi.python.org/pypi/mitmproxy

官方文档:http://docs.mitmproxy.org

mitmdump 脚本:http://docs.mitmproxy.org/en/stable/scripting/overview.html

-:https://github.com/mitmproxy/mitmproxy/releases

DockerHub:https://hub.docker.com/r/mitmproxy/mitmproxy

2. pip 安装

最简单的安装方式还是使用 pip,直接执行如下命令即可安装:

1

pip3 install mitmproxy

这是最简单和通用的安装方式,执行完毕之后即可完成 mitmproxy 的安装,另外还附带安装了 mitmdump 和 mitmweb 这两个组件。如果不想用这种方式安装,也可以选择后面列出的专门针对各个平台的安装方式或者 Docker 安装方式。

3. Windows 下的安装

可以到 GitHub 上的 Releases 页面(链接为:https://github.com/mitmproxy/mitmproxy/releases/)获取安装包,如图 1-59 所示。 图 1-59 下载页面

比如,当前的最新版本为 2.0.2,则可以选择下载 Windows 下的 exe 安装包 mitmproxy-2.0.2-windows-installer.exe,下载后直接双击安装包即可安装。

注意,在 Windows 上不支持 mitmproxy 的控制台接口,但是可以使用 mitmdump 和 mitmweb。

4. Linux 下的安装

在 Linux 下,可以下载编译好的二进制包(- https://github.com/mitmproxy/mitmproxy/releases/),此发行包一般是最新版本,它包含了最新版本的 mitmproxy 和内置的 Python 3 环境,以及最新的 OpenSSL 环境。

如果你的环境里没有 Python 3 和 OpenSSL 环境,建议使用此种方式安装。

下载之后,需要解压并将其配置到环境变量:

1

2

tar -zxvf mitmproxy-2.0.2-linux.tar.gz

sudo mv mitmproxy mitmdump mitmweb /usr/bin

[Python3 网络爬虫开发实战] 1.7.2-mitmproxy 的安装

这样就可以将 3 个可执行文件移动到了 /usr/bin 目录。而一般情况下,/usr/bin 目录都已经配置在了环境变量下,所以接下来可以直接调用这 3 个工具了。

5. Mac 下的安装

Mac 下的安装非常简单,直接使用 Homebrew 即可,命令如下:

1

brew install mitmproxy

执行命令后,即可完成 mitmproxy 的安装。

6. Docker 安装

mitmproxy 也支持 Docker,其 DockerHub 的地址为 https://hub.docker.com/r/mitmproxy/mitmproxy/。

在 Docker 下,mitmproxy 的安装命令为:

1

docker run --rm -it -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就在 8080 端口上启动了 mitmproxy 和 mitmdump。

如果想要获取 CA 证书,可以选择挂载磁盘选项,命令如下:

1

docker run --rm -it -v ~/.mitmproxy:/home/mitmproxy/.mitmproxy -p 8080:8080 mitmproxy/mitmproxy mitmdump

这样就可以在~/.mitmproxy 目录下找到 CA 证书。

另外,还可以在 8081 端口上启动 mitmweb,命令如下:

1

docker run --rm -it -p 8080:8080 -p 127.0.0.1:8081:8081 mitmproxy/mitmproxy mitmweb

更多启动方式可以参考 Docker Hub 的安装说明。

7. 证书配置

对于 mitmproxy 来说,如果想要截获 HTTPS 请求,就需要设置证书。mitmproxy 在安装后会提供一套 CA 证书,只要客户端信任了 mitmproxy 提供的证书,就可以通过 mitmproxy 获取 HTTPS 请求的具体内容,否则 mitmproxy 是无法解析 HTTPS 请求的。

首先,运行以下命令产生 CA 证书,并启动 mitmdump:

1

mitmdump

接下来,我们就可以在用户目录下的.mitmproxy 目录里面找到 CA 证书,如图 1-60 所示。

图 1-60 证书文件

证书一共 5 个,表 1-1 简要说明了这 5 个证书。

表 1-1 5 个证书及其说明

名称

描述

mitmproxy-ca.pem

PEM 格式的证书私钥

mitmproxy-ca-cert.pem

PEM 格式证书,适用于大多数非 Windows 平台

mitmproxy-ca-cert.p12

PKCS12 格式的证书,适用于 Windows 平台

mitmproxy-ca-cert.cer

与 mitmproxy-ca-cert.pem 相同,只是改变了后缀,适用于部分 Android 平台

mitmproxy-dhparam.pem

PEM 格式的秘钥文件,用于增强 SSL 安全性

下面我们介绍一下 Windows、Mac、iOS 和 Android 平台下的证书配置过程。

Windows

双击 mitmproxy-ca.p12,就会出现导入证书的引导页,如图 1-61 所示。

图 1-61 证书导入向导

直接点击 “下一步” 按钮即可,会出现密码设置提示,如图 1-62 所示。

图 1-62 密码设置提示

这里不需要设置密码,直接点击 “下一步” 按钮即可。

接下来需要选择证书的存储区域,如图 1-63 所示。这里点击第二个选项 “将所有的证书都放入下列存储”,然后点击 “浏览” 按钮,选择证书存储位置为 “受信任的根证书颁发机构”,接着点击 “确定” 按钮,然后点击 “下一步” 按钮。

图 1-63 选择证书存储区域

最后,如果有安全警告弹出,如图 1-64 所示,直接点击 “是” 按钮即可。

图 1-64 安全警告

这样就在 Windows 下配置完 CA 证书了。

Mac

Mac 下双击 mitmproxy-ca-cert.pem 即可弹出钥匙串管理页面,然后找到 mitmproxy 证书,打开其设置选项,选择 “始终信任” 即可,如图 1-65 所示。

图 1-65 证书配置

iOS

将 mitmproxy-ca-cert.pem 文件发送到 iPhone 上,推荐使用邮件方式发送,然后在 iPhone 上可以直接点击附件并识别安装,如图 1-66 所示。

图 1-66 证书安装页面

点击 “安装” 按钮之后,会跳到安装描述文件的页面,点击 “安装” 按钮,此时会有警告提示,如图 1-67 所示。

图 1-67 安装警告页面

继续点击右上角的 “安装” 按钮,安装成功之后会有已安装的提示,如图 1-68 所示。

图 1-68 安装成功页面

如果你的 iOS 版本是 10.3 以下的话,此处信任 CA 证书的流程就已经完成了。

如果你的 iOS 版本是 10.3 及以上版本,还需要在 “设置”→“通用”→“关于本机”→“证书信任设置” 将 mitmproxy 的完全信任开关打开,如图 1-69 所示。此时,在 iOS 上配置信任 CA 证书的流程就结束了。

图 1-69 证书信任设置

Android

在 Android 手机上,同样需要将证书 mitmproxy-ca-cert.pem 文件发送到手机上,例如直接复制文件。

接下来,点击证书,便会出现一个提示窗口,如图 1-70 所示。

图 1-70 证书安装页面

这时输入证书的名称,然后点击 “确定” 按钮即可完成安装。

Python 网络

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:剑指Offer——知识点储备-数据库基础
下一篇:【云小课】【第21课】DDS实例连接失败?跟着我七步搞定!
相关文章