首页
学习
活动
专区
圈层
工具
发布

Python爬取高颜值美女(爬虫+人脸检测+颜值检测)

1 数据源 知乎话题『美女』下所有问题中回答所出现的图片 2 抓取工具 Python 3,并使用第三方库 Requests、lxml、AipFace,代码共 100 + 行 3 必要环境 Mac / Linux...已使用正则过滤) 无需登录知乎(即无需提供知乎帐号密码) 人脸检测服务需要一个百度云帐号(即百度网盘 / 贴吧帐号) 4 人脸检测库 AipFace,由百度云 AI 开放平台提供,是一个可以进行人脸检测的 Python...过滤所有非女性(在抓取中,发现知乎男性图片基本是明星,故不考虑;存在 AipFace 性别识别不准的情况) 过滤所有非真实人物,比如动漫人物 (AipFace Human 置信度小于 0.6) 过滤所有颜值评分较低图片...HTTP 请求,下载 src 属性指向图片(不考虑动图) 通过 AipFace 请求对图片进行人脸检测 判断是否检测到人脸,并使用 『4 检测过滤条件』过滤 将过滤后的图片持久化到本地文件系统,文件名为 颜值...9 运行准备 安装 Python 3,Download Python 安装 requests、lxml、baidu-aip 库,都可以通过 pip 安装,一行命令 申请百度云检测服务,免费。

1.6K20
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Python小姿势 - Python爬取数据的库——Scrapy

    Python爬取数据的库——Scrapy 一、爬虫的基本原理 爬虫的基本原理就是模拟人的行为,使用指定的工具和方法访问网站,然后把网站上的内容抓取到本地来。...二、爬虫的类型 爬虫分为两类: 1、基于规则的爬虫: 基于规则的爬虫是指爬虫开发者需要自己定义爬取规则,爬虫根据规则解析页面,抽取所需要的数据。...2、自动化爬虫: 自动化爬虫不需要爬虫开发者定义爬取规则,爬虫可以根据给定的URL地址自动发现目标网站的结构,并自动抽取所需要的数据。...三、Python爬虫框架——Scrapy Scrapy是用于爬取网站数据的一个框架,可以自动发现目标网站的结构,并自动抽取所需要的数据。...Scrapy框架的基本组件如下: 1、Spider: Spider是爬虫的核心组件,负责从指定的URL地址开始爬取网页数据。爬虫开发者需要自己定义Spider类,并实现parse()方法。

    50920

    知乎大神爬取高颜值美女(Python爬虫+人脸检测+颜值检测)

    ---- 1 数据源 知乎话题『美女』下所有问题中回答所出现的图片 2 抓取工具 Python 3,并使用第三方库 Requests、lxml、AipFace,代码共 100 + 行 3 必要环境 Mac...datums = fetch_activities(url) url = process_activities(datums, face_detective) #注意节操,爬虫休息间隔不要调小...time.sleep(5) # vim: set ts=4 sw=4 sts=4 tw=100 et: 9 运行准备 安装 Python 3,Download Python 安装 requests...(可选)配置自定义信息,如图片存储目录、颜值阈值、人脸置信度等 (可选)若请求知乎失败,返回如下。...往期推荐: Python爬虫系列——入门到精通 Python爬虫实例之——小说下载 老司机带你用python来爬取妹子图 机器学习,你不得不掌握的十大算法(上篇) 机器学习,你不得不掌握的十大算法(中)

    3.1K70

    知乎大神爬取高颜值美女(Python爬虫+人脸检测+颜值检测)

    ---- 1 数据源 知乎话题『美女』下所有问题中回答所出现的图片 2 抓取工具 Python 3,并使用第三方库 Requests、lxml、AipFace,代码共 100 + 行 3 必要环境 Mac...已使用正则过滤) 无需登录知乎(即无需提供知乎帐号密码) 人脸检测服务需要一个百度云帐号(即百度网盘 / 贴吧帐号) 4 人脸检测库 AipFace,由百度云 AI 开放平台提供,是一个可以进行人脸检测的 Python...datums = fetch_activities(url)    url = process_activities(datums, face_detective)    #注意节操,爬虫休息间隔不要调小...   time.sleep(5) # vim: set ts=4 sw=4 sts=4 tw=100 et: 9 运行准备 安装 Python 3,Download Python 安装 requests...往期推荐: Python爬虫系列——入门到精通 Python爬虫实例之——小说下载 老司机带你用python来爬取妹子图 机器学习,你不得不掌握的十大算法(上篇) 机器学习,你不得不掌握的十大算法(中)

    3K100

    知乎大神用Python爬取高颜值美女(爬虫+人脸检测+颜值检测)

    1 数据源 知乎话题『美女』下所有问题中回答所出现的图片 2 抓取工具 Python 3,并使用第三方库 Requests、lxml、AipFace,代码共 100 + 行 3 必要环境 Mac /...已使用正则过滤) 无需登录知乎(即无需提供知乎帐号密码) 人脸检测服务需要一个百度云帐号(即百度网盘 / 贴吧帐号) 4 人脸检测库 AipFace,由百度云 AI 开放平台提供,是一个可以进行人脸检测的 Python...过滤所有非女性(在抓取中,发现知乎男性图片基本是明星,故不考虑;存在 AipFace 性别识别不准的情况) 过滤所有非真实人物,比如动漫人物 (AipFace Human 置信度小于 0.6) 过滤所有颜值评分较低图片...HTTP 请求,下载 src 属性指向图片(不考虑动图) 通过 AipFace 请求对图片进行人脸检测 判断是否检测到人脸,并使用 『4 检测过滤条件』过滤 将过滤后的图片持久化到本地文件系统,文件名为 颜值...9 运行准备 安装 Python 3,Download Python 安装 requests、lxml、baidu-aip 库,都可以通过 pip 安装,一行命令 申请百度云检测服务,免费。

    1.5K20

    Python小姿势 - ## Python爬虫系列教程(一):简单的URL爬取

    Python爬虫系列教程(一):简单的URL爬取 Python爬虫是一种使用脚本语言编写的网络爬虫程序。网络爬虫是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。...在这篇文章中,我们将使用Python来实现一个简单的网页爬虫。我们将使用urllib和Beautiful Soup这两个库来实现我们的爬虫。...我们将从Python官网开始,试图爬取https://www.python.org/上的所有链接。...首先,我们需要导入我们需要的库: ``` import urllib.request from bs4 import BeautifulSoup ``` 接下来,我们需要指定我们要爬取的网页链接,...并将其存储在一个变量中: ``` url = "https://www.python.org/" ``` 然后,我们使用urllib库中的urlopen函数来打开我们指定的网页链接: ``` page

    64330

    Python 小爬虫 - 爬取今日头条街拍美女图

    request.urlopen(url) 向这个 url 发送请求,返回的数据保存在 res 中,res 是一个 HttpResponse 对象,通过调用其 read 方法获取实际返回的内容,由于 read 方法返回的是 Python...由于数据以 json 格式返回,因此通过 json.load 方法将其转为 Python 的字典形式。...打印出这个字典,可以看到字典中有一个键 ‘data’ 对应着一个由字典组成的列表的值,分析可知这个值就是返回的全部文章的数据列表,稍微修改一下代码,来看看 ‘data’ 对应的值是什么样的: with...通过 find 方法找到 article-main 对应的 div 块,在该 div 块下继续使用 find_all 方法搜寻全部的 img 标签,并提取其 src 属性对应的值,于是我们便获得了该文章下全部图片的...基本步骤就是这么多了,整理下爬取流程: 指定查询参数,向 http://www.toutiao.com/search_content/ 提交我们的查询请求。

    1.9K50

    如何取滑动窗口中的最大值

    元素7,直接放入队列中,滑动窗口还没有真正形成,不用计算最大值 2. 滑动窗口右移,元素2加入队列中.取队列头7为最大值 3....滑动窗口右移, 要从队尾压入的元素为4,队尾元素2比要4小,弹出2,压入4; 左侧滑出滑动窗口范围的元素7,与队首元素相同,移除队列; 滑动窗口内最大值为4; 4....滑动窗口右移 要压入的元素5比队尾元素4大,弹出4,压入5; 队首元素为5,即滑动窗口中的最大值为5; 5. 滑动窗口右移 队尾压入元素1; 取队首元素5为滑动窗口最大值....综上,只要能维护好单调队列,就很容易取出滑动窗口的最大值. 而维护队列的过程只有两点: 1. 队尾压入元素时,要先将比该元素值小的元素从队尾弹出,最后再压入; 2....单调队列适合解决在一定范围内保存最大值(或者最小值),次大值(次小值)等等.

    2.7K10
    领券