人生苦短,我用Python!
运行效果
最近沉迷爬虫,感觉超级方便
记录一下
这是简单的爬虫程序,用到urllib和re以及os
后期版本再加:动态加载,cookie登录,多线程优化
下面放代码
思路:和上一篇的简单爬虫-01使用的是相同的函数,request.urlopn()获取网页HTML、request.urlretrieve()函数下载HTML中的图片。 不同之处是在简单爬虫的外面嵌套一个循环,是的在首页开始就能够查找子链接并且使用os()函数来自动创建一个对应的文件夹来保存下载下来的图片。
不足之处:只是静态页面的爬虫,没有动态加载,以及多线程优化,没有简单的cookie登陆账号,没有使用XPath,值得深挖!
【完】
PS:代码入门级别,用作个人记录使用。
2018年3月24日 二月初八
领取专属 10元无门槛券
私享最新 技术干货