利用高德API++Python解决租房问题

网友投稿 943 2022-05-30

一、课程介绍

1. 课程背景

课程来自一段租房血泪史(夸张):事情是这样的,笔者是接着念大四准备考研,而室友是应届毕业在找工作,说白了就是都没有钱,于是打算合租。因为穷所以不可能找有门店的的中介,只能看看赶集、58、和一些租房APP。期间需要考虑两个人的通勤范围来选地段,由于对交通的不熟悉,只有选择自己附近的较贵的地段,花了很多时间阅览赶集或者58里的个人房源信息,然而个人房源信息中仍充斥着大量中介,抱着一点希望打了几个电话,得到的回答都是这个价位根本租不到,再高点也租不到(大都与发布的房源信息不符)。最后终于还是在宿舍关闭前一个星期租到一个性价比还可以的隔断。毕竟隔断还是不方便的,所以打算在室友找到工作后换一个新地方,于是就有了这个租房脚本和课程。

相信也有不少的应届毕业生可能会遭遇同样的境况,希望这门课能真的帮到大家,也许不光是在租房子方面。推荐阅读知乎上的一个问题:你有哪些用计算机技能解决生活问题的经历?

总结一下租房难的症结:

没钱。

小中介发布的价位一般都是假的,会浪费你很多时间。

对交通路线不熟悉以致于选择面窄。

如果是多人,得同时考虑多人的通勤时间。

本课程将解决的问题:

学习了技术,增长了知识,就能找到好工作,找到好工作就能有钱。

这次选的房源信息来自58的品牌公寓馆,所以没有那种小中介,价位就我和我室友来说可以接受。其实可以做个分类器过滤赶集上的中介来找低价个人房源的,有需要的同学可以试一下。

通勤范围在地图上圈出,解决了对交通路线不熟悉的问题

本课程是单人版的,但代码中只要删掉一个语句就能当多人用了(但是路径规划的功能是只能给一个人用)。如果是直接拿来多人用的话,还是开多个页面比较好。

最终效果图如下:

由于没做前端兼容,导致右上角崩了。自用的小工具其实也不用整多好看,效率第一。

如图,划出来的大片蓝***块就是距离工作地点一小时车程内的区域。蓝色的标记就是房源,点击后会自动给出路径规划和房源地址。红色标记(不是"终")是工作地点,在图里被挡住了。工作地点的输入框有自动补完的功能,也是很方便的。至于房源文件我们会通过编写Python脚本在抓取房源信息后生成。

2. 课程知识点

本课程项目完成过程中,我们将学习:

requests、BeautifulSoup、csv 等库的简单使用

高德地图 Javascript API 的使用

二、实验环境

打开终端,进入 Code 目录,创建 rent_proj 文件夹, 并将其作为我们的工作目录。

$ cd Code $ mkdir rent_proj && cd rent_proj

安装需要的库:

$ sudo apt-get install python-bs4

三、实验原理

实验中会用到三个文件:crawl.py,rent.csv与index.html,其中rent.csv由crawl.py生成,是房源文件。crawl.py是一个非常简单的爬取网页的脚本。index.html是最重要的显示地图的部分。实现的流程大致如下:

我为什么不把js代码和css代码从index.html中分出来呢,写脚本怎么顺手怎么来就好。

代码没有难度,主要就是看看几个API如何使用,下面给出文档链接:

高德 JavaScript API 帮助文档

高德 JavaScript API 示例中心

Requests: HTTP for Humans

Beautiful Soup 4.2.0 文档

csv — CSV 文件的读写

四、实验步骤

1. 分析页面

先分析一下我们需要爬取的页面:http://bj.58.com/pinpaigongyu/

选择好目标价位:

打开查看器:

审查元素,分页上的 1 2 3 4 5 随便选一个:

大致了解了它的路径规则:/pingpaigongyu/pn/{page}/minprice={min_rent}_{max_rent}

对比第一页和第一千页:

经过观察,决定将页面有无.list元素来作为是否已读取完所有房源的判断条件。

看一下页面能够提供给我们什么信息:

框框圈出的信息对我们来说已经足够了。当然房源的具体经纬度也可以点进去查看代码得到:

简便起见每一个房源就只记录以下信息:[房源名称,地址,月租,房源url地址]。

其中地址直接取房源名称里的小区名,有的房源第二列是公寓名而不是小区名,那就只能取第一列作为地址了,有些公寓如果合并第一列第二列地图上会搜不到。

2. 编写Python脚本

在工作目录下创建crawl.py文件,这里先直接给出全部代码。

#-*- coding:utf-8 -*-from bs4 import BeautifulSoupfrom urlparse import urljoin import requests import csv url = "http://bj.58.com/pinpaigongyu/pn/{page}/?minprice=2000_4000"#已完成的页数序号,初时为0page = 0csv_file = open("rent.csv","wb")  csv_writer = csv.writer(csv_file, delimiter=',')while True:     page += 1     print "fetch: ", url.format(page=page)     response = requests.get(url.format(page=page))     html = BeautifulSoup(response.text)     house_list = html.select(".list > li")    # 循环在读不到新的房源时结束     if not house_list:        break     for house in house_list:         house_title = house.select("h2")[0].string.encode("utf8")         house_url = urljoin(url, house.select("a")[0]["href"])         house_info_list = house_title.split()        # 如果第二列是公寓名则取第一列作为地址         if "公寓" in house_info_list[1] or "青年社区" in house_info_list[1]:             house_location = house_info_list[0]        else:             house_location = house_info_list[1]         house_money = house.select(".money")[0].select("b")[0].string.encode("utf8")         csv_writer.writerow([house_title, house_location, house_money, house_url]) csv_file.close()

鉴于爬的量不大所以就简单处理了。

csv一般用作表格文件,直接用文本编辑器打开也可读,行与行之间就是换行来隔开,列与列之间就是用逗号(也可指定其它字符)隔开,Python标准库中的csv库就是用来读写csv文件的。

这里只需要写csv文件:

#导入csvimport csv# 打开rent.csv文件csv_file = open("rent.csv","wb")  # 创建writer对象,指定文件与分隔符csv_writer = csv.writer(csv_file, delimiter=',') # 写一行数据csv_writer.writerow([house_title, house_location, house_money, house_url])#关闭文件csv_file.close()

requests是一个对使用者非常友好的http库,看一遍Quickstart就能基本掌握它的使用。

用到它的地方也就仅仅两句:

# 抓取目标页面response = requests.get(url.format(page=page)) # 获取页面正文response.text

Beautiful Soup是一个用来解析html或者xml文件的库,支持元素选择器,使用起来也非常方便:

# 创建一个BeautifulSoup对象html = BeautifulSoup(response.text) # 获取class=list的元素下的所有li元素house_list = html.select(".list > li") # 得到标签包裹着的文本house.select("h2")[0].string.encode("utf8") # 得到标签内属性的值house.select("a")[0]["href"]

由于读取到的链接路径是相对路径,所以需要urljoin得到完整的url地址。

urljoin(url, house.select("a")[0]["href"])

实验楼环境中文粘贴进去会变成???,这样的话几个公寓房源的位置就不能确定了,不过不影响做实验。

讲解完毕,运行代码python crawler.py:

可能要1分半钟,可以先去玩一局扫雷。

笔者用自己的电脑跑差不多是20多秒。

此时目录下已生成了rent.csv:

注意如果你太频繁地抓取页面IP可能会被屏蔽,那样就抓不到页面而是直接报错了。如果抓取不成功的话,可以使用这个文件继续接下来的实验:

$ wget https://labfile.oss.aliyuncs.com/courses/599/rent.csv

3. 设计页面

页面大框架可直接从示例中心复制:高德 JavaScript API 示例中心

这里先给出全部的设计代码,新建index.html复制粘贴下面的代码:

                   毕业生租房                            

        
                                                    公交+地铁                                  地铁            
        
                                                                
        
              

讲解一下部分代码:

这一句中你会看到key这个参数,它需要你注册高德的开发者用户,创建应用才能得到,由于 JS API 不像它家的 Web API 一样有流量限制,所以这个key大可随意使用。

房源:             " + address + "

"             rentMarker.on('click', function(e) {                 infoWindow.setContent(e.target.content);                 infoWindow.open(map, e.target.getPosition());                                 if (amapTransfer) amapTransfer.clear();                 amapTransfer = new AMap.Transfer({                                     map: map,                                      policy: AMap.TransferPolicy.LEAST_TIME,                                       city: "北京市",                                         panel: 'transfer-panel'                 });                 amapTransfer.search([{                    keyword: workAddress                 }, {                    keyword: address                 }], function(status, result) {})             });         }     }) }function delWorkLocation() {     if (polygonArray) map.remove(polygonArray);      if (workMarker) map.remove(workMarker);     polygonArray = []; }function delRentLocation() {     if (rentMarkerArray) map.remove(rentMarkerArray);     rentMarkerArray = []; }function loadWorkLocation() {     delWorkLocation();         var geocoder = new AMap.Geocoder({        city: "北京",        radius: 1000     });     geocoder.getLocation(workAddress, function(status, result) {             if (status === "complete" && result.info === 'OK') {                    var geocode = result.geocodes[0];             x = geocode.location.getLng();             y = geocode.location.getLat();             loadWorkMarker(x, y);             loadWorkRange(x, y, 60, "#3f67a5", vehicle);             map.setZoomAndCenter(12, [x, y]);         }     }) }function loadRentLocationByFile(fileName) {     delRentLocation();    var rent_locations = new Set();     $.get(fileName, function(data) {         data = data.split("\n");         data.forEach(function(item, index) {             rent_locations.add(item.split(",")[1]);         });         rent_locations.forEach(function(element, index) {             addMarkerByAddress(element);         });     }); }

添加标尺,参考带功能控件的地图。

var scale = new AMap.Scale();map.addControl(scale);

一些需要放到全局的变量:

//公交到达圈对象var arrivalRange = new AMap.ArrivalRange(); //经度,纬度,时间(用不到),通勤方式(默认是地铁+公交)var x, y, t, vehicle = "SUBWAY,BUS"; //工作地点,工作标记var workAddress, workMarker;//房源标记队列var rentMarkerArray = []; //多边形队列,存储公交到达的计算结果var polygonArray = [];//路径规划var amapTransfer;

信息窗体的使用,在房源标记被点击时弹出,参考给多个点添加信息窗体。

//信息窗体对象var infoWindow = new AMap.InfoWindow({    offset: new AMap.Pixel(0, -30) });//在房源标记被点击时打开rentMarker.on('click', function(e) {    //鼠标移到标记上会显示标记content属性的内容     infoWindow.setContent(e.target.content);    //在标记的位置打开窗体     infoWindow.open(map, e.target.getPosition()); });

地址补完的使用,参考输入提示后查询。

var auto = new AMap.Autocomplete({    //通过id指定输入元素     input: "work-location"});     //添加事件监听,在选择补完的地址后调用workLocationSelectedAMap.event.addListener     (auto, "select", workLocationSelected);function workLocationSelected(e) {         //更新工作地点,加载公交到达圈     workAddress = e.poi.name;     loadWorkLocation(); }

loadWorkLocation的实现,这部分包含了地理编码的内容,参考正向地理编码(地址-坐标)。

function loadWorkLocation() {    //首先清空地图上已有的到达圈     delWorkLocation();         var geocoder = new AMap.Geocoder({        city: "北京",        radius: 1000     });     geocoder.getLocation(workAddress, function(status, result)      {        if (status === "complete" && result.info === 'OK') {                 var geocode = result.geocodes[0];             x = geocode.location.getLng();             y = geocode.location.getLat();            //加载工作地点标记             loadWorkMarker(x, y);            //加载60分钟内工作地点到达圈             loadWorkRange(x, y, 60, "#3f67a5", vehicle);            //地图移动到工作地点的位置             map.setZoomAndCenter(12, [x, y]);         }     }) }

loadWorkRange的实现,在地图上绘制到达圈,参考:公交到达圈。

function loadWorkRange(x, y, t, color, v) {     arrivalRange.search([x, y], t, function(status, result) {             if (result.bounds) {                   for (var i = 0; i < result.bounds.length; i++) {                //新建多边形对象                 var polygon = new AMap.Polygon({                                     map: map,                                         fillColor: color,                                            fillOpacity: "0.4",                                           strokeColor: color,                                        strokeOpacity: "0.8",                                                         strokeWeight: 1                 });                //得到到达圈的多边形路径                 polygon.setPath(result.bounds[i]);                 polygonArray.push(polygon);             }         }     }, {        policy: v     }); }

载入房源信息功能的实现。由于安全问题,浏览器想要得到文件在系统内的位置就得用上一些奇技淫巧,这里还是算了,偷一下懒,因为房源文件跟index.html在同一个文件夹下,所以我们只要得到文件名就足够了。

function importRentInfo(fileInfo) {     var file = fileInfo.files[0].name;     loadRentLocationByFile(file); }

我们使用一个集合来记录所有的房源地址。

function loadRentLocationByFile(fileName) {    //先删除现有的房源标记     delRentLocation();    //所有的地点都记录在集合中     var rent_locations = new Set();    //jquery操作     $.get(fileName, function(data) {         data = data.split("\n");         data.forEach(function(item, index) {             rent_locations.add(item.split(",")[1]);         });         rent_locations.forEach(function(element, index) {                     //加上房源标记             addMarkerByAddress(element);         });     }); }

addMarkerByAddress的实现参考:按起终点名称规划路线与点标记。

注意其中这一句会被显示在信息窗体上。链接指向58品牌公寓馆的搜索页面,搜索的地址就是点标记(房源)的地址

rentMarker.content = "

房源: " + address + "
"

5. 效果演示

可直接下载最终代码使用:

$ wget http://labfile.oss.aliyuncs.com/courses/599/index.html

输入python -m SimpleHTTPServer 3000打开服务器,浏览器访问localhost:3000查看效果:

首先选择工作地点:

划出了一小时内的通勤范围:

北京堵车太猖狂,可能还是地铁保险:

导入房源文件:

导入后:

选择一处房源,会自动帮你规划路径:

选中房源地址跳转到目标页面:

五、总结

利用高德API+Python解决租房问题

多多利用网上的各种开放平台与API能让你的编程事半功倍,甚至这可能改变一个人的生活,影响到一个人的一生也说不定。这种说法听起来似乎太夸张,但是就拿高考报志愿举例吧,选什么学校,什么专业,可能就是一个决策导致了人生的截然不同。信息不对等或是缺乏对信息的分析都是很吃亏的。互联网时代,信息唾手可得,但是呢,我花大把时间看到的都不是我想要的,即使在看个人房源还是得自己排除一堆中介。我不是常常出门所以对交通不熟,把这些信息都查一遍又得花大量的时间。还好现在有了各种好的平台与开放接口,只需要你有一点点编程技能和一个想要实现什么东西的想法,一切就都不一样了。

这个项目有很多可以改进的部分,比如房源信息的选取过于简单,房间的面积也应该纳入考虑。比如可以做成在地图上显示具体的房源信息,每个标记都只标记唯一的房源。比如房源信息为什么要存文件呢,也可以存数据库里。比如爬取房源的效率太低,可以改用scrapy或者以自己的方式进行优化。比如只爬取一个网站会不会房源太少,也可以多找几处,把豆瓣的租房贴,各个大学的论坛也算进去,也许能真正解决租房难的问题呢。

六、参考资料

高德 JavaScript API 帮助文档

高德 JavaScript API 示例中心

Requests: HTTP for Humans

Beautiful Soup 4.2.0 文档

csv — CSV 文件的读写

本项目的完整代码及demo,可在实验楼查看并在线完成,立即【开始实验】

更多Python经典项目:Python全部 - 课程

本文转载自异步社区。

API Python

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:go语言学习之并发并行
下一篇:你所不知道的ASP.NET Core MVC基础系列(一)
相关文章