Python网络爬虫实战三例(附视频讲解)

  1. 云栖社区>
  2. Python中文社区>
  3. 博客>
  4. 正文

Python网络爬虫实战三例(附视频讲解)

青衫无名 2018-03-14 15:07:33 浏览6379
展开阅读全文

抓取简书用户信息

之前我写的爬虫都是将已知的固定数据的网址存到list中,然后遍历list中的网址。这次针对简书,我们使用递归来试一下。

什么是递归
程序(或函数)调用自身的编程技巧称为递归( recursion)。一个过程或函数在其定义或说明中有直接或间接调用自身的一种方法,它通常把一个大型复杂的问题层层转化为一个与原问题相似的规模较小的问题来求解。

递归的优点
1、降低问题难度
2、大大地减少了程序的代码量
3、递归的能力在于用有限的语句来定义对象的无限集合
本案例视频讲解如下:

09f4fd57d86927b9ca1e58f8cb3d29ed1f47cc9e

抓取淘宝评论

之前我水平有限,对于淘宝评论这种动态网页,由于数据在网页源码中是找不到的,所以无法抓取数据,只能使用selenium模仿人操控浏览器来抓数据,优点是可见容易且不宜被淘宝公司封锁;缺点是速度太慢。

经过今天一天的钻研,终于学会分析数据包,而且淘



网友评论

登录后评论
0/500
评论
青衫无名
+ 关注
所属云栖号: Python中文社区