Python3 爬虫快速入门攻略
一、什么是网络爬虫?
1、定义:网络爬虫(Web Spider),又被称为网页蜘蛛,是一种按照一定的规则,自动地抓取网站信息的程序或者脚本。
如果你感觉学不会?莫慌,小编推荐大家加入群,
前面516中间107后面834,群里有志同道合的小伙伴,
互帮互助,还可以拿到许多视频教程!
2、简介:网络蜘蛛是一个很形象的名字。如果把互联网比喻成一个蜘蛛网,那么Spider就是在网上爬来爬去的蜘蛛。网络蜘蛛是通过网页的链接地址来寻找网页,从 网站某一个页面开始,读取网页的内容,找到在网页中的其它链接地址,然后通过这些链接地址寻找下一个网页,这样一直循环下去,直到把这个网站所有的网页都抓取完为止。
3、爬虫流程:先由urllib的request打开Url得到网页html文档——浏览器打开网页源代码分析元素节点——通过Beautiful Soup或则正则表达式提取想要的数据——存储数据到本地磁盘或数据库(抓取,分析,存储)
二、上代码,直接看注释
开发环境:Win10+Python 3.6.1 64bit+PyCharm,自学Python 3爬虫时的备忘笔记。
1、爬取简书网站首页文章的标题和文章链接
结果:
2、爬取知乎网站的美女图片链接,并保存到本地
结果:
三、学习总结
大概学习了下通过urllib和Beautiful Soup 进行简单数据爬取的流程,但是那只适用于一些简单的、数据量比较小的爬虫项目,如果需要爬取的数据量比较大的话,之前的方法必定非常缓慢,而且还可能遇到大规模爬虫IP被网站封禁的情况,因为好的网站会有反爬虫策略。多线程和分布式爬虫、 IP代理、处理验证码、模拟登陆、内置浏览器引擎爬虫,还有注意配合反爬虫措施比较少的移动APP端抓取(抓包工具Fiddler)等等问题。
领取专属 10元无门槛券
私享最新 技术干货