使用python和tableau对数据进行抓取及可视化

  1. 云栖社区>
  2. 博客>
  3. 正文

使用python和tableau对数据进行抓取及可视化

知与谁同 2017-08-01 15:57:00 浏览2189
展开阅读全文

本篇文章介绍使用python抓取贷款及理财平台的数据,并将数据拼接和汇总。最终通过tableau进行可视化。与之前的python爬虫文章 不同之处在于之前是一次性抓取生产数据表,本次的数据需要每天重复抓取及存储,并汇总在一起进行分析和可视化。

开始前的准备工作

开始之前先导入所需使用的库文件,各个库文件在整个抓取和拼表过程中负责不同的部分。Requests负责页面抓取,re负责从抓取下

来的页面中提取有用的信息,pandas负责拼接并生成数据表以及最终的数据表导出。


  1. </pre> 
  2. #导入requests库(请求和页面抓取) 
  3. import requests 
  4. #导入正则库(从页面代码中提取信息) 
  5. import re 
  6. #导入科学计算库(拼表及各种分析汇总) 
  7. import pandas as pd 
  8. <pre>  

设置一个头文件信息,方便后面的抓取。这个头文件有两个作用,第一防止抓取时被封,第二方便后面对页面源文件的转码。


  1. </pre> 
  2. #设置请求中头文件的信息 
  3. headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 
  4. Safari/537.11', 
  5. 'Accept':'text/html;q=0.9,*/*;q=0.8'
  6. 'Accept-Charset':'ISO-8859-1,utf-8;q=0.7,*;q=0.3'
  7. 'Connection':'close'
  8. 'Referer':'https://www.bluewhale.cc/' 
  9. <pre>  

抓取贷款及理财信息

准备工作完成后开始对贷款和理财信息进行抓取,这里我们偷个懒,直接抓取p2peye.com的信息。p2peye.com是一个网贷咨询及数据

平台,内容很丰富。他们定期更新各平台的贷款及理财数据。

因为所有的网贷平台信息都在一页上,所以抓取起来比较简单,不需要翻页。下面是抓取并保存页面信息的代码。


  1. </pre> 
  2. #抓取并保存页面信息 
  3. r=requests.get('http://www.p2peye.com/shuju/ptsj/',headers=headers) 
  4. html=r.content 
  5. <pre>  

抓取下来的信息需要进行转码才能变成有用的信息,下面对页面源代码进行GBK转码。


  1. </pre> 
  2. #对抓取的页面进行编码 
  3. html=str(html, encoding = "GBK"
  4. <pre>  

查看一下转码后的页面,我们需要的信息都包含在里面了。后面只需要使用正则表达式逐个提取出来就可以了。


  1. </pre> 
  2. #查看抓取的页面源码 
  3. html 
  4. <pre>   

提取信息并进行数据清洗

使用正则表达式对应着页面中的字段逐个将关键数据从页面源码中提取出来,下面是具体的过程,首先提取的是平台名称字段。在页

面源码中平台名称在title中。


  1. </pre> 
  2. #使用正则提取title字段信息 
  3. title=re.findall(r'"return false".*?title="(.*?)"',html) 
  4. <pre>  

提取后查看下结果,内容很干净,不需要进行清洗可以直接使用。


  1. </pre> 
  2. #查看title字段信息 
  3. title 
  4. <pre>   

这里有一点要注意的是每个提取出来的字段最好都要检查下,并且查看下数据的条目。因为有时候提取的条目中包含有其他的信息,

导致字段间条目数量不一致,这种情况下后面是无法拼接成数据表的。


  1. </pre> 
  2.  
  3. #查看title字段数量 
  4.  
  5. len(title) 
  6.  
  7. 607 
  8.  
  9. <pre>  

按照提取平台名称title的方法,后面我们依次提取了贷款利率,贷款金额,满标时间等关键信息。下面是具体的代码。


  1. </pre> 
  2.  
  3. #使用正则提取total字段信息 
  4.  
  5. total=re.findall(r'"total">(.*?)万<',html) 
  6.  
  7. #使用正则提取rate字段信息 
  8.  
  9. rate=re.findall(r'"rate">(.*?)<',html) 
  10.  
  11. #使用正则提取pnum字段信息 
  12.  
  13. pnum=re.findall(r'"pnum">(.*?)人<',html) 
  14.  
  15. #使用正则提取cycle字段信息 
  16.  
  17. cycle=re.findall(r'"cycle">(.*?)月<',html) 
  18.  
  19. #使用正则提取plnum字段信息 
  20.  
  21. p1num=re.findall(r'"p1num">(.*?)人<',html) 
  22.  
  23. #使用正则提取fuload字段信息 
  24.  
  25. fuload=re.findall(r'"fuload">(.*?)分钟<',html) 
  26.  
  27. #使用正则提取alltotal字段信息 
  28.  
  29. alltotal=re.findall(r'"alltotal">(.*?)万<',html) 
  30.  
  31. #使用正则提取captial字段信息 
  32.  
  33. capital=re.findall(r'"capital">(.*?)万<',html) 
  34.  
  35. <pre>  

由于后面我们要对数据进行累计追加及趋势分析,因此在这里导入time库生成当天的日期,并将日期作为一个字段一起放在数据表。


  1. </pre> 
  2.  
  3. #导入time库(获取日期) 
  4.  
  5. import time 
  6.  
  7. date=time.strftime('%Y-%m-%d',time.localtime(time.time())) 
  8.  
  9. <pre> 
  10.  
  11. 当天的日期信息将和数据一起生成数据表。 
  12.  
  13. </pre> 
  14.  
  15. #日期 
  16.  
  17. date 
  18.  
  19. '2017-04-13' 
  20.  
  21. <pre>  

创建贷款及理财数据表

将前面提取出来的数据和日期信息一起生成数据表,首先使用columns参数设置数据表中各字段的排列顺序。


  1. </pre> 
  2.  
  3. #设置数据表各字段顺序 
  4.  
  5. columns = ['采集日期','平台名称','成交额(万)','综合利率','投资人(人)','借款周期(月)','借款人(人)','满标速度(分钟)',' 
  6.  
  7. 累计贷款余额(万)','净资金流入(万)'] 
  8.  
  9. <pre>  

然后设置各字段的名称,并生成数据表。


  1. </pre> 
  2.  
  3. #创建数据表 
  4.  
  5. table=pd.DataFrame({'采集日期':date
  6.  
  7. '平台名称':title, 
  8.  
  9. '成交额(万)':total, 
  10.  
  11. '综合利率':rate, 
  12.  
  13. '投资人(人)':pnum, 
  14.  
  15. '借款周期(月)':cycle, 
  16.  
  17. '借款人(人)':p1num, 
  18.  
  19. '满标速度(分钟)':fuload, 
  20.  
  21. '累计贷款余额(万)':alltotal, 
  22.  
  23. '净资金流入(万)':capital}, 
  24.  
  25. columns=columns) 
  26.  
  27. <pre>  

查看生成的数据表,字段顺序与我们设置的一致,下一步把数据表导出为csv文件。便于后续的处理和分析。


  1. </pre> 
  2.  
  3. #查看数据表 
  4.  
  5. table 
  6.  
  7. <pre>   

导出及追加数据

将生成的数据表导出为csv文件。这里有两种导出方式。第一是新建数据表。但比较麻烦,后续要需要手动将每天的数据进行拼接。因

此还有第二种导出方式就是在一个数据表中不断追加新数据。

第一种方式将数据表导出为一个新的csv文件,文件名为wdty加上数据抓取的具体日期,也就是date中的值。


  1. </pre> 
  2.  
  3. #导出csv文件 
  4.  
  5. table.to_csv('C:\\Users\\ Desktop\\wdty'+date+'.csv',index=False
  6.  
  7. <pre>  

第二种方式是在一个csv文件中持续追加导出新的数据表。这里我们建立一个wdty的csv文件,每天抓取的数据都会追加到这个csv文件

中。代码与之前的新建csv文件类似,唯一的区别是增加了mode参数,这个参数默认值是w,也就是新建。把值改为a就是追加导出。


  1. </pre> 
  2.  
  3. #在历史csv文件中追加新信息 
  4.  
  5. table.to_csv('wdty.csv',index=False,mode='a'
  6.  
  7. <pre>  

以下是导出后的数据表截图。内容与前面创建的数据表内容一致。 

创建自定义函数

从导入所需的库文件,到提取数据拼接和导出,我们一共进行了30+步的操作。为了简化步骤,我们把这些步骤放在一个loan_data自

定义函数中。以后每次只需要执行以下这个自定义函数就可以将数据抓取下来并导出到csv里了。下面是具体的代码,其中为了获得代

码执行中的过程信息,我们在一些关键步骤后使用print输出了一些状态信息。并计算了整个代码执行所耗费的时间。


  1. </pre> 
  2. def loan_data(): 
  3. import os 
  4. import requests 
  5. import re 
  6. import pandas as pd 
  7. import time 
  8. start = time.clock() 
  9. headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 
  10. Safari/537.11', 
  11. 'Accept':'text/html;q=0.9,*/*;q=0.8'
  12. 'Accept-Charset':'ISO-8859-1,utf-8;q=0.7,*;q=0.3'
  13. 'Connection':'close'
  14. 'Referer':'https://www.bluewhale.cc/' 
  15. r=requests.get('http://www.p2peye.com/shuju/ptsj/',headers=headers) 
  16. status=r.status_code 
  17. if status == 200: 
  18. print('页面抓取状态正常。'
  19. else
  20. os._exit(0) 
  21. html=r.content 
  22. html=str(html, encoding = "GBK"
  23. print('编码转换完成!'
  24. title=re.findall(r'"return false".*?title="(.*?)"',html) 
  25. total=re.findall(r'"total">(.*?)万<',html) 
  26. rate=re.findall(r'"rate">(.*?)<',html) 
  27. pnum=re.findall(r'"pnum">(.*?)人<',html) 
  28. cycle=re.findall(r'"cycle">(.*?)月<',html) 
  29. p1num=re.findall(r'"p1num">(.*?)人<',html) 
  30. fuload=re.findall(r'"fuload">(.*?)分钟<',html) 
  31. alltotal=re.findall(r'"alltotal">(.*?)万<',html) 
  32. capital=re.findall(r'"capital">(.*?)万<',html) 
  33. date=time.strftime('%Y-%m-%d',time.localtime(time.time())) 
  34. print('数据提取完成!'
  35. columns = ['采集日期','平台名称','成交额(万)','综合利率','投资人(人)','借款周期(月)','借款人(人)','满标速度(分 
  36. 钟)','累计贷款余额(万)','净资金流入(万)'] 
  37. table=pd.DataFrame({'采集日期':date
  38. '平台名称':title, 
  39. '成交额(万)':total, 
  40. '综合利率':rate, 
  41. '投资人(人)':pnum, 
  42. '借款周期(月)':cycle, 
  43. '借款人(人)':p1num, 
  44. '满标速度(分钟)':fuload, 
  45. '累计贷款余额(万)':alltotal, 
  46. '净资金流入(万)':capital}, 
  47. columns=columns) 
  48. print('数据表创建完成!'
  49. table.to_csv('C:\\Users\\cliffwang\\Desktop\\wdty'+date+'.csv',index=False
  50. print(date+'日数据导出完毕!'
  51. table.to_csv('wdty.csv',index=False,mode='a'
  52. print('累计数据追加导出完毕!'
  53. end = time.clock() 
  54. print ("执行时间: %f s" % (end-start)) 
  55. <pre>  

自定义函数写好后,每次只需要执行loan_data()就可以完成之前的30+步骤的工作了。下面是代码和输出的状态信息以及代码执行时间信息。


  1. </pre> 
  2. loan_data() 
  3.  
  4. 页面抓取状态正常。 
  5. 编码转换完成! 
  6. 数据提取完成! 
  7. 数据表创建完成! 
  8. 2017-04-19日数据导出完毕! 
  9. 累计数据追加导出完毕! 
  10. 执行时间: 0.933262 s 
  11. <pre>  

使用tableau进行可视化

导出的数据虽然为csv格式,但使用excel进行可视化并不理想,主要问题在于excel对图表行列数的限制(每张图最多只能容纳255个数

量列)。因此,我们将数据表导入到tableau中进行可视化。下面是对600+家网贷平台数据的可视化截图。尺寸为各平台总成交额,颜色为综合利率。  


本文作者:蓝鲸

来源:51CTO

网友评论

登录后评论
0/500
评论
知与谁同
+ 关注