1回答
由于现在Twitter API 数据爬取付费，所以我想在不使用Twitter API的情况下使用python爬取到特定关键词的Twitter数据或者Reddit数据，有什么好办法吗？
浏览 546提问于2024-01-06
利用python爬取豆瓣电影排行榜（https://movie.douban.com/chart)的数据并保存到excel中。用相同代码爬取网页豆瓣top250的数据可以爬取到excel中，但将网址及相关信息改为网页豆瓣电影排行榜中的信息时便无法爬取，也找不出问题所在。以下图片为完整代码。
浏览 335提问于2021-01-09
1回答
我正在用groovy & grails和mongodb开发一个网络爬虫，有没有办法用crawler4j计算页面的深度？我知道我可以限制到我想要爬取的深度，但还没有遇到任何建议如何计算页面深度的东西。
浏览 2提问于2014-06-26得票数 0
1回答
如何处理UUIDS？
、、、
我有一组数据，其中包括网址，公司名称和一些其他有关公司的信息。我读取这些数据，获取URL，抓取它们，并用随机生成的UUID保存抓取的数据。问题是当我想重新抓取数据的时候。我将有一组新的数据-which可能是重复的-因此将生成一个新的UUID和一个新的记录。但这并不是我所期望的。我想要做的是看看哪些东西已经被爬取，并更新它们，而不是添加新的记录。另外，这并不是读取URL并查看URL是否已被爬取，因为公司可能会更改其UR
浏览 1提问于2017-09-21得票数 0
1回答
我目前的需求相对简单:我需要一个能够将数据保存到磁盘的爬虫程序，并且我需要它能够仅重新爬取站点的更新资源，并跳过已经爬取的部分。有没有人有在Java中直接使用Nutch代码的经验，而不是通过命令行。
浏览 0提问于2010-12-03得票数 6
回答已采纳
我要做的是创建一个美国所有酒吧的数据库。我需要这个数据库半定期更新(大约每周)，以包括新开的酒吧。
yelp api的问题是他们只返回20个结果。在我周围5英里的范围内有800多家酒吧。
浏览 0提问于2011-01-18得票数 1
1回答
我们使用ManiFoldCF documentum连接器从DCTM存储库中抓取数据，并将抓取的数据写入MongoDB。使用节流值500触发了爬网。但是爬网速度非常慢，连接器每分钟只能提取170个文档。安装MCF的服务器配置有足够的内存和8个逻辑核心(CPU)。有人能帮我们提高爬行速度吗？
浏览 19提问于2019-01-16得票数 0
之前从一个国外站看到过抓取泰国房产数据的抓取，https://www.barkingdata.com/?crawlers/ddproperty-crawler.html
不知道国内有没有谁搞过这个 ，要爬取18年之前的历史数据
浏览 76提问于2022-05-10
我是一个研究小程序3天的 新手，就是现在想做一个类似于网易新闻样式的小程序，前台从eclipse爬取数据到MySQL，然后小程序读取MySQL中的数据显示到小程序中。
浏览 7368提问于2018-05-07
回答已采纳
如题，我最近在做一个数据分析，想要用到美团的美食信息，于是就想用python爬取美团的数据，但是在构造爬虫的时候发现美团有一个_token参数，百思不得其解，还请大神指教
浏览 2250提问于2018-09-12
1回答
在进一步的调查中，我发现可疑数据包含ASC控制字符()。我的表是一个简单的平面结构，如果任何行包含这些字符中的一个，则不会显示结果。
只要我替换数据中的字符，结果就会出现。我可以从数据库中删除这些字符，但如果能确认并了解原因会更好。任何帮助都将不胜感激。
浏览 0提问于2013-09-02得票数 0
当nutch在索引阶段完成它的循环(即爬取-解析-索引)时，我不希望nutch索引(lucene索引)，但我希望nutch使用我的代码将所有抓取的数据(我相信他将它们作为NutchDocument对象)
浏览 2提问于2010-07-12得票数 1
回答已采纳
1回答
我应该爬
但我怎么才能爬上这个网站。我想它是用jQuery的。有些人说你应该使用ajax。但是我将包含mongodb的数据库，所以我将使用node.js，如何才能做到这一点？
浏览 8提问于2016-10-05得票数 1
回答已采纳
首先，这样做的目的是爬取我们的一个登录应用程序，并获取有关作业运行的数据，而我可能无法通过任何其他方式获取这些数据。
浏览 3提问于2015-11-18得票数 0
在GSA (Google Search Appliance)中，我正在研究如何让它只搜索元数据(名称、类型、大小、上次修改时间等)，而不是文件的内容。归根结底，文件的元数据是公开的，但文件的内容是受限制的。虽然这似乎是一个安全方面的问题，但它稍微多了一点，因为我不希望GSA在索引中存储任何关于文件内容的信息。假设GSA服务器不受信任，无法保存内容。这只适用于整个数据集的一小部分。
关于如何将GSA和连接器配置为仅爬取元数据而不是内容，您有什么想法吗？
浏览 2提问于2012-02-23得票数 0
回答已采纳
请任何人让我知道，我如何才能识别更新的网址去重新抓取？当页面要重新爬行时，我只想抓取页面的更新内容，而不是已经抓取的旧内容。提前谢谢。普拉亚..。
浏览 0提问于2012-04-20得票数 0
2回答
但是，我不确定您是否可以将其用作主要(或至少是唯一的)数据存储。也就是说，您需要其他能够保存可搜索/可查询数据的东西。
我是不是遗漏了什么？为了查询您的数据，您需要有索引，但据我所知，键值存储没有索引功能。我是否需要手动实现索引，或者我是否试图使用错误的工具来完成这项工作？
浏览 0提问于2010-10-17得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM活动推荐
腾讯云开发者
