腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
Scrapinghub
部署
失败
、
我正在尝试将一个项目
部署
到
scrapinghub
,下面是我得到的错误 slackclient 1.3.2 has requirement websocket-client<0.55.0,>=0.35,
浏览 15
提问于2020-05-15
得票数 1
1
回答
ScrapingHub
部署
失败
、
我正在尝试
部署
到
ScrapingHub
,这是我得到的错误...shub_deploy_n9zmxfto.log我有一个本地csv文件,我正尝试将其包含在
部署
和打开该
浏览 24
提问于2020-05-11
得票数 0
1
回答
在网站上使用Scrapy Spider结果
我已经尝试了一些爬虫程序来从我本地机器上的Python环境中提取web数据。理想情况下,我想主办一个网站,可以启动爬虫聚合内容,并显示在网站上。
浏览 40
提问于2019-07-24
得票数 0
1
回答
ImportError:没有名为bs4刮取中心的模块
message": "shub-image-info exit code: 1", "details": null, "error": "image_info_error"} 你好,我写了一个刮擦蜘蛛,我试图
部署
到刮取中心,我需要使用BeautifulSoup来处理损坏的HTML部件,我在
部署
时会遇到以下错误。
浏览 5
提问于2019-10-28
得票数 2
回答已采纳
1
回答
ScrapingHub
: ImportError:没有名为firebase的模块
、
、
、
我正在尝试将我刮过的数据放在云上的firebase帐户上,但是当我运行这个蜘蛛时,我会得到这个ImportError。我试着创建新项目,甚至在特定版本的firebase和shub上重新安装Python,但没有帮助。Traceback (most recent call last): yield n
浏览 0
提问于2017-07-03
得票数 0
回答已采纳
0
回答
无法将项目
部署
到Scrapy Cloud
、
、
、
我对爬行器进行了更改,以使用
scrapinghub
API的一些方法,并尝试使用"shub deploy“将其重新
部署
到Scrapy Cloud。我收到一个错误: ImportError:没有名为
scrapinghub
的模块from
scrapinghub
import Connection shub版本2.5.0抓取集线器
浏览 3
提问于2016-12-29
得票数 0
1
回答
如何从
ScrapingHub
中提取文件?
、
、
、
我
部署
了一些抓取蜘蛛来抓取数据,我可以从
ScrapingHub
下载.csv格式的数据。 其中一些爬虫有FilePipeline,我用它来下载文件(pdf)到特定的文件夹。有没有什么方法可以通过平台或应用程序接口从
ScrapingHub
检索这些文件?
浏览 0
提问于2017-06-15
得票数 0
1
回答
在
Scrapinghub
上
部署
egg
、
、
、
我在scraping-hub上
部署
了一个项目,但是我的爬行器不能工作,因为scraping-hub使用了一个旧版本的扭曲库。这个项目在我的本地机器上运行得很好,不管怎样,我可以制作一个扭曲的更新版本的鸡蛋,并将其
部署
在scraping-hub上。
浏览 1
提问于2016-02-17
得票数 0
1
回答
在Scrapy上运行项目时出现依赖错误
我已经检查了我的pymongo版本是3.5.1
浏览 1
提问于2017-11-05
得票数 0
回答已采纳
1
回答
ScrapingHub
环境变量未加载
、
、
、
我正在
ScrapingHub
上
部署
一群蜘蛛。蜘蛛本身起作用了。我想根据爬行器是在本地运行还是在
ScrapingHub
上运行来更改提要输出(如果它在本地运行,那么输出到临时文件夹,如果它在
ScrapingHub
输出上运行到S3)。但是,尝试从settings.py (在Scrapy项目中)打印使用
ScrapingHub
接口设置的环境变量会返回None。下面有一个代码片段,它显示了我试图做的事情。然而,更改AWS键会导致上传
失败
,因此这些值在某个时候会传递到Scrapy,只是在文件最初加载时
浏览 1
提问于2019-06-18
得票数 3
2
回答
从
Scrapinghub
下载项目的源代码
、
、
我在上
部署
了一个项目,我根本没有该代码的任何副本。 如何在本地主机上从
Scrapinghub
下载整个项目的代码?
浏览 7
提问于2017-07-27
得票数 4
回答已采纳
1
回答
刮擦防止跨计划访问相同的URL
、
我计划将一个Scrapy蜘蛛
部署
到
ScrapingHub
,并使用调度特性每天运行该蜘蛛。我知道,默认情况下,Scrapy不访问相同的URL。但是,我想知道这种重复的URL避免是否在
ScrapingHub
的计划开始时是持久的?以及我是否可以设置它,以便Scrapy在预定的启动过程中不会访问相同的URL。
浏览 2
提问于2018-05-24
得票数 1
回答已采纳
1
回答
部署
失败
,因为具有
Scrapinghub
的多个爬行器
、
、
movieActorPhoto) if countLen == dataLen:但是,当我想要将我的项目
部署
到
Scrapinghub
时,我得到了错误我从github 找到了解决方案
浏览 0
提问于2018-03-17
得票数 1
1
回答
在亚马逊网络服务Dockerrun.aws.json文件中添加Docker Run命令选项
、
、
在我的docker-compose.yml文件中,我可以执行以下操作: image:
scrapinghub
/splash{ "name": "splash","image": "
scrapinghub
/splash&qu
浏览 0
提问于2018-04-15
得票数 2
2
回答
抓取蜘蛛的管理框架
、
我研究过
scrapinghub
/zyte,但不确定它是否适合我们的目的,因为我们需要一些可以在本地运行的东西。
浏览 10
提问于2021-02-10
得票数 0
2
回答
使用scrapy查找网站抓取中重复的urls计数
、
、
、
、
如何找出一个网站中重复的URL数量?因为scrappy框架在默认情况下不会抓取重复的urls。我只需要找出哪些URL正在重复,以及重复了多少次。
浏览 5
提问于2018-03-01
得票数 0
1
回答
来自守护进程-
scrapinghub
/splash的错误响应
、
、
、
、
Docker已经成功地提取了
scrapinghub
/splash,但是当我使用docker run -p 8050:8050
scrapinghub
/splash运行它时,我得到了以下错误: docker:来自守护进程的错误响应:驱动程序在端点zen_elion上的外部连接
失败
,zen_elion绑定为0.0.0.0:8050
失败
:端口已经被分配。
浏览 3
提问于2020-01-23
得票数 0
回答已采纳
1
回答
Scrapinghub
shub
部署
错误错误:
部署
失败
(400):项目: non_field_errors
、
、
当我尝试shub时,将它
部署
到云中并获得以下错误。project: non_field_errors 我现在的设置如下所示。
浏览 4
提问于2017-11-05
得票数 0
回答已采纳
1
回答
在
Scrapinghub
上运行蜘蛛时如何保存下载的文件?
、
然后将蜘蛛
部署
到
Scrapinghub
中,并运行stockInfo spider。没有发生错误,下载的网页在哪里? f.write(response.body)正如Thiago
浏览 0
提问于2019-03-16
得票数 7
回答已采纳
1
回答
创建一个在特定日期向一组人发送电子邮件的机器人
我目前正在尝试创建一个机器人,它可以在特定日期向一组人发送电子邮件。我在想如何在特定的日期发送它,比如9月15日,11月15日等。from_address = "myemailaddress@gmail.com"text = "Test message" message = "Subject: {}
浏览 0
提问于2019-09-24
得票数 1
点击加载更多
相关
资讯
为何IIoT投资部署多半都失败!
固定资产管理软件部署失败的原因有哪些?
SCCM OSD 操作系统部署加域失败查看日志排错方法
走近代码之Python-爬虫框架Portia
zkSync:部分用户出现存款失败,团队将在24小时内部署修复程序
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券