首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

未来已来,变革中的数据可视化--遇见大数据可视化系列文章之一

前言 今天,大数据已无所不在,并且正被越来越广泛的被应用到历史,政治,科学,经济,商业甚至渗透到我们生活的方方面面中,获取的渠道也越来越便利。通过本系列的前面几篇文章,我们已经了解了数据可视化的必要性,而目前市面上也已经具备了非常多成熟的BI绘制工具,如画面,QlikView的的和魔镜等等。虽然这些工具正在变得越来越自动化,然而,随着大数据时代的来临,信息每天都在以爆炸式的速度增长,其复杂性也越来越高;其次,随着越来越多科学可视化的需求产生,地图,3D物理结构等技术将会被更加广泛的使用。所以,当人类的认知能

02
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Kafka OffsetMonitor:监控消费者和延迟的队列

    一个小应用程序来监视kafka消费者的进度和它们的延迟的队列。 KafkaOffsetMonitor是用来实时监控Kafka集群中的consumer以及在队列中的位置(偏移量)。 你可以查看当前的消费者组,每个topic队列的所有partition的消费情况。可以很快地知道每个partition中的消息是否 很快被消费以及相应的队列消息增长速度等信息。这些可以debug kafka的producer和consumer,你完全知道你的系统将 会发生什么。 这个web管理平台保留的partition offset和consumer滞后的历史数据(具体数据保存多少天我们可以在启动的时候配 置),所以你可以很轻易了解这几天consumer消费情况。 KafkaOffsetMonitor这款软件是用Scala代码编写的,消息等历史数据是保存在名为offsetapp.db数据库文件中,该数据 库是SQLLite文件,非常的轻量级。虽然我们可以在启动KafkaOffsetMonitor程序的时候指定数据更新的频率和数据保存 的时间,但是不建议更新很频繁,或者保存大量的数据,因为在KafkaOffsetMonitor图形展示的时候会出现图像展示过 慢,或者是直接导致内存溢出了。 所有的关于消息的偏移量、kafka集群的数量等信息都是从Zookeeper中获取到的,日志大小是通过计算得到的。 消费者组列表

    017

    基于Ambari构建自己的大数据平台产品

    目前市场上常见的企业级大数据平台型的产品主流的有两个,一个是Cloudera公司推出的CDH,一个是Hortonworks公司推出的一套HDP,其中HDP是以开源的Ambari作为一个管理监控工具,CDH对应的是Cloudera Manager,国内也有像星环这种公司专门做大数据平台。我们公司最初是使用CDH的环境,近日领导找到我让我基于Ambari做一个公司自己的数据平台产品。最初接到这个任务我是拒绝的,因为已经有了很完善很成熟的数据平台产品,小公司做这个东西在我看来是浪费人力物力且起步太晚。后来想想如果公司如果有自己数据平台的产品后续在客户面前也能证明自己的技术实力且我个人也能从源码级别更深入的学习了解大数据生态圈的各个组件。

    03

    2015贵阳国际大数据产业博览会新闻发布会在京召开

    4月17日,2015贵阳国际大数据产业博览会暨全球大数据时代贵阳峰会(以下简称数博会)新闻发布会在京举行。贵阳市人民政府相关负责人致发布辞,贵州省经济和信息化委、遵义市人民政府、贵安新区管委会、中国互联网协会、中国国际贸易促进委员会北京市分会相关负责人出席。 本次数博会定于2015年5月26日至29日在贵阳国际会议展览中心举行,由贵阳市人民政府、遵义市人民政府、贵安新区管委会、贵州省经济和信息化委、北京市贸促会、中国互联网协会主办,工业和信息化部国际经济技术合作中心、工业和信息化部工业文化发展中心、中国信息

    02

    青春有你,成长同行——2022《大数据实践课》成果展示

    1 实践单位:中国广核新能源控股有限公司 项目名称:基于机器学习的风电机组传动链故障诊断 小组成员: 高  祥 机械系(组长) 李艳文 机械系 范祥祺 工物系 研究目标:随着风电机组运行年限的增加,机组传动链故障(如主轴承、主轴、齿轮箱等大部件损坏等)上升趋势明显,对风电场的安全稳定运行带来极大挑战。需要建立基于风电机组振动监测数据的智能化数据管理和数据挖掘系统,通过振动监测数据的统一采集和管理,基于机器学习技术构建风电机组传动链故障预测模型,实现传动链潜在故障的自动化识别,助力风电机组安全稳定运行。

    02
    领券