首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Flume+Kafka+Spark Streaming实现大数据实时流式数据采集

    大数据实时流式数据处理是大数据应用中最为常见的场景,与我们的生活也息息相关,以手机流量实时统计来说,它总是能够实时的统计出用户的使用的流量,在第一时间通知用户流量的使用情况,并且最为人性化的为用户提供各种优惠的方案,如果采用离线处理,那么等到用户流量超标了才通知用户,这样会使得用户体验满意度降低,这也是这几年大数据实时流处理的进步,淡然还有很多应用场景。因此Spark Streaming应用而生,不过对于实时我们应该准确理解,需要明白的一点是Spark Streaming不是真正的实时处理,更应该成为准实时,因为它有延迟,而真正的实时处理Storm更为适合,最为典型场景的是淘宝双十一大屏幕上盈利额度统计,在一般实时度要求不太严格的情况下,Spark Streaming+Flume+Kafka是大数据准实时数据采集的最为可靠并且也是最常用的方案,大数据实时流式数据采集的流程图如下所示:

    02

    供输水管网无线监控系统

    供输水管网无线监控系统适应供水企业实现供水管网的压力、流量等远程在线监控,以科学的方式实现水管网科学调度,并通过压力值变动、夜间最小流量分析、发现管网爆管及漏损等问题。为保证供水工作的科学性,依靠现代计算机通信技术和传感技术,实施对供水管道的远程实时监测,并且能够自动传输到上级主管部门,监测输水管道、供水管道的压力、流量信息;及时发现管网故障,提高维护效率、降低损失,保障输水、供水质量,达到科学预警,减少成本,提高效率的目的;消除了供水管网“跑、冒、滴、漏”及“卡脖管”等问题,进一步降低了管网漏失率,扩大了行业收益。

    02

    腾讯互娱市场总监陆金贤:从技术层面高效提升用户增长

    导语I日前,在深圳举办的TGDC2019腾讯游戏开发者大会的市场分论坛上,腾讯互动娱乐市场总监 陆金贤先生进行了“万物皆可增长——腾讯游戏的UG之路”的主题演讲,与参会嘉宾分享了自己从技术相关的理性层面上如何看待用户增长这一问题,并通过一系列腾讯游戏营销上的经典案例,阐述了腾讯近两年在用户增长方面的未雨绸缪。 “增长”一词在近两年的业界讨论中热度持续高升。在今年,关于用户增长的讨论已经不亚于大数据、人工智能这类词汇,作为营销中的关注重点,“增长”已然成为发展极为迅速的一大领域。  现场,陆金贤通过

    03
    领券