首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

一万多条拼车数据,看春运的迁徙图

作者 |白苏,医疗健康领域产品经理一枚,Python&R爱好者

来源 | InThirty

编辑 | Jane

今天是腊月二十八,你们都到家了吗?这篇文章,作者对北京、上海、广州、深圳、杭州等地 1万多条出行数据进行分析,得出了一些有意思的结论,并且绘制了这几个城市春运的迁移图。虽然数据在取样公平性上不能完全符合标准,但是思路还是值得大家学习参考的~

目录

前言

统计结果

爬虫思路

统计思路

后记

前言

很早之前发过一篇关于某拼车平台爬虫的文章,因为工作比较忙,一直没有下文。最近年底稍微空了些,加上碰上春节返乡大潮,刚好再拿过来写一下数据分析的思路。

本次数据样本共13041条,本别采集了北京、上海、广州、深圳、杭州的某一天出行数据,由于手动操作难以保证取样的公平性,所以不能对全部数据结果的准确性做保证,本文以提供思路参考为主,先放一张路线图:

统计结果

好了知道大家比较关心结果,所以先把结果放一放,后面再接着讲分析过程。

乘客性别

先单独把性别拎出来看一下,后面再根据城市进行分析,结果显示,抛开未设置性别的乘客不论,总体来看顺风车的用户群中,男性(占比 49.39%)还是多于女性(占比 31.55%)的。毕竟跨城顺风车,大过年的,女性乘客对于安全性的忧虑还有要有的。

城市订单

真实数据的话订单数量应该是深圳 > 北京 > 广州 > 上海 > 杭州,但是同一个城市内的乘客性别比例应该还是具有一定的参考价值的,可以看到北京、上海、深圳的女性乘客数量占比都是高于男性的。

客单价

原本是想比较一下平均路程长度,但是想想这个事情太折腾了,由于平台主要还是依靠路程来计算拼车费用的,所以通过计算客单价的话大概也能反映一下平均形成长度(我猜的,然后结果是这样的,没想到广州是最高的,也可能是我统计错误

哪里乘客最壕

有时候有些偏远地区订单或者顺路司机少,乘客会加价希望司机接单,于是统计了一下各城市加价订单的占比和平均的加价额度,得出如下结果

占比最高的城市是深圳,平均加价额度最高的城市也是深圳,看来深圳的小哥哥小姐姐们的确出手阔错,然而加价比例最低的是北京,不过这也不能说明帝都人民不壕气,可能就是人家繁华,司机多。

返乡路线图

最后放几张返乡的路线图

北京

上海

广州

深圳

杭州

杭州明显有别与其它几个城市,一个是杭州的数据样本多,另外一个平台上杭州黄牛多,那些最远的单子就是黄牛广告单

爬虫思路:注册成为司机,利用 mitm 抓包存储拼车单

统计思路:数据的话我是通过本地 Mongodb 存储,所以直接用 python 操作 Mongodb 数据

Pymongo:关于 Mongodb 数据库的连接,直接上代码:

client= MongoClient('mongodb://localhost:27017')

spring= client.spring

collection= spring['orders']

以上代码的意思就是连接本地 Mongodb-spring 数据库 -orders 文档集合

Pyecharts:是大名鼎鼎的 Echarts 的 Python 可视化图表库,用起来挺顺手的,而且文档规范,基本上可以零门槛入门,具体实现请移步文档。

Pyecharts(http://pyecharts.org)

这里介绍一下关于 Pyecharts 的图表样式配置,为了保持各图表的样式统一(偷懒),Pyecharts 提供了一个 Style 类,可用于在同一个图或者多个图内保持统一的风格

rompyechartsimportStyle,Geo

style = Style(

title_color="#fff",

title_pos="center",

width=1100,

height=600,

background_color='#404a59'

)

# style.init_style 会返回类初始化的风格配置字典

geo = Geo("全国主要城市空气质量","data from pm2.5", **style.init_style)

代码解读

因为全部代码有点长,所以抽了一段举个例子,主要思路就是从 Mongodb 取出指定数据,或者通过 $group 管道对数据进行处理,最后通过 pyecharts 生成相应的图表,呈现

frompymongoimportMongoClient

frompyechartsimportStyle,GeoLines

defgetLines(self):

# 连接数据库

client = MongoClient('mongodb://localhost:27017')

spring = self.client.spring

collection = self.spring['orders']

# Mongodb的操作,$match-筛选出'from_poi.city.city_name'为'杭州'的文档,

# 再通过$group管道,按照目标城市统计出汇总数量

line_hangzhou = collection.aggregate([

{'$match': {'from_poi.city.city_name':'杭州'}},

{'$group': {'_id':'$to_poi.city.city_name','count': {'$sum':1}}}

])

# 按照Geolines图表的数据格式格式化数据

line_hangzhou_ = []

forlineinline_hangzhou:

line_hangzhou_.append(["杭州", line['_id'], line['count']])

# 创建一个GeoLines图表

citylines = GeoLines("春节迁移路线图", **style.init_style)

# 添加数据以及样式

citylines.add("从杭州出发",

line_hangzhou_,

**geo_style)

# 生成html文件

citylines.render("results/citylines.html")

后记

这是一篇迟到很久的文章,本来没打算再写,但是总觉得下半部分没写完心里有个结,所以还是抽时间补上。另外作为一个非专业技术人员,多记多练免得过几天自己就忘了。源码的话抽空传 GitHub,有需要可以后台留言。

推荐

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190202A0770R00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券