腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

综合排序丨最热优先丨最新优先

大数据：大机遇还是大忽悠？

持反方观点，为大技术时代的到来欢呼的，一位是北京大学光华管理学院新媒体营销研究中心副主任苏萌，另一位是日本政治家、内阁成员山本一太。他提出“一台电脑论”，即科学家们研究所需的数据，最好用一台电脑就能装下，否则数据处理会过于繁琐，无助于解决问题。他结合自身经验说，随着数据量的增大，研究的准确性一开始会随之上升，但很快就会趋平。这有三个原因：一是因为不同机构间的数据还未真正流动起来，目前还只是数据“孤岛”；二是完整的生态产业链还未形成，尽管通过行为数据分析已能够分辨出一个消费者的喜好，但从供应到购买的链条还没建成；三是因为数据分析人才仍然极度匮乏一位听众挑战正方，说，你们认为大数据过于庞杂纷繁，反而解决不了问题，那是不是说，当处理数据的计算工具变得足够好时，大数据就会变得有用？正如Howard在发表“失败感言”时所说，“我们并非反对数据，只是反对大而无当的数据，数据本身当然非常重要”。人类已经并将继续产生日益庞大的数据，或许不论我们接受与否，大数据时代都已到来。

大数据文摘

2018-05-18

4.2K3

标签:

：UBER数据大迁徙

数据大迁移的日期定为万圣节（10月31日），而这恰是交通量会非常高的一天。上面图中的大问题是：我们仍然依赖于单一的PostgreSQL （数据库管理系统）来存储大部分的数据。下面的饼图显示了数据是如何在数据库中分配的： ? 我们评估了各种NoSQL（不同于传统的关系数据库的数据库管理系统的统称）的具有上述特点风格的数据库。追加（无更新）数据模型：它仅支持一个只追加数据模型中，一旦它被写入后，就不能进行修改。这对于存储交易数据，并希望防止数据损坏的系统是非常有用的。由于是只追加模型，修改会自然幂等和交换。在真正可以开始大迁移之前，第一个任务是从用户身份到用户唯一识别码的迁移，因为原代码依赖于自动递增的PostgreSQL 数据库标识符。几百条SQL查询需要被重写。

春哥大魔王

2018-04-16

2.9K0

标签:

大数据：大价值大机遇大变革

大数据：大价值大机遇大变革 2017-3-26 张子阳推荐: 1 难度: 1 ? 这本书就像一个印刷出来的PPT，字体比较大，留白比较多，大量图片，全彩印刷。概括起来有下面这些要点：数据量正指数级别增长。大数据时代已经来临。大数据特点：存储量大、计算量大、增长速度快、类型多样化。制造业应用：给挖掘机安装GPS和数据上传系统，统计挖掘机每月的工作时长。然后根据大量用户的实际使用数据，来判断市场是否有过剩的风险。银行业应用：反诈骗系统。数据仓库（Data Warehouse）是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合，用于支持管理决策。相对稳定：数据一旦进入数据仓库以后，一般很少进行修改，更多地是对信息进行查询操作。反映历史变化：不只是反映企业当前的状态，而是记录了过去某一点到当前各个阶段的信息。

2018-09-30

1.2K0

标签:

2016大数据发展7大趋势

大数据已过时，算法正当道。数据已经成为一种商品，每个组织都能够收集和存储大量的数据。分析大数据也不再那么引人注目了。每个组织都可以聘用或培训大数据分析人员来了解数据模式。由于数据湖带来了相当多的挑战，在2016年，我们将看到数据湖管理的未来：数据湖服务作为一种解决方案，为您的数据湖提供一个完整的管理方案。由于数据湖在大规模数据存储和分析方面具有巨大优势，数据湖服务解决方案将被用于许多组织中。因此，高级管理人员正在寻找其人力资源的确切数据，所以，2016年我们会看到人力资源分析将迈出一大步。人力资源分析虽然是人事部门新的业务领域，但为了更好地提高人力资源的投资回报率，该业务增长极为迅速。对于那些大的商业组织而言，大数据已经成为通用语言。在适应新趋势方面，政府是缓慢的，但是在2016年，我们会看到更多的国家、地区和地方政府会采用大数据技术来提高社会和公民的体验。

大数据文摘

2018-05-22

1.2K0

标签:

数据结构大总结！

说到算法，就不能不说起数据结构。今天我来讲一讲，什么是数据结构？程序员怎么学好数据结构？我们介绍算法的时候说过，计算机当中的算法，本质就是一系列程序指令，用以解决特定的运算和逻辑问题。而所谓数据结构，是数据的组织、管理和存储格式。简单理解的话，数据结构就是执行算法的“原材料”。俗话讲，巧妇难为无米之炊。算法，就好比是聪明勤劳的女主人，而数据结构，就是用来做饭做菜的柴米油盐。数据结构都有哪些组成方式呢？首先，是线性结构。但凡有过一点编程基础的小伙伴，肯定都知道数组，这就是一种典型的线性数据结构。除了数组以外，链表也是一种重要的数据结构。 Redis当中的集合 sortedSet，背后的数据结构就是跳表。复合数据结构，往往结合了多种基础数据结构当然优势，在特定的场景下非常有用。这就是数据结构的几种组成方式，大家可以把这张图保存一下。由于篇幅原因，图里面所列出的具体数据结构，只是最最常用的几种，并非全部。

2021-11-30

1.4K0

标签:

2016大数据版图

本文全面总结了大数据领域的发展态势，分析认为尽管大数据作为一个术语似乎已经过气，但是大数据分析与应用才刚刚开始兴起，在与 AI、人工智能等新兴技术的结合下，大数据的机会也许要比大家想象的还要大。后来随着开源运动的迅速发展，一大批此类新技术开始共享到更广的范围。然后，一些互联网大公司的工程师离职去创办自己的大数据初创企业。大企业对由年轻的初创企业来处理自己基础设施的关键部分的谨慎是可以理解的。还有，令创业者感到绝望的是，许多（还是大多数？）企业仍顽固地拒绝把数据迁移到云端（至少不愿迁移到公有云）。你得捕捉数据、存储数据、清洗数据、查询数据、分析数据并对数据进行可视化。这些工作一部分可以由产品来完成，而有的则需要人来做。一切都需要无缝集成起来。大数据与 AI 的结合将会推动很多行业的惊人创新。从这个角度来说，大数据的机会也许要比大家想象的还要大。

IT阅读排行榜

2018-08-14

1.2K0

标签:

数据平滑9大妙招

今天给大家分享9大常见数据平滑方法：移动平均Moving Average指数平滑Exponential Smoothing低通滤波器多项式拟合贝塞尔曲线拟合局部加权散点平滑LoessKalman滤波小波变换它对最近的数据点给予较高的权重，而对较早的数据点给予较低的权重。这使得EMA更适合用于追踪快速变化的数据。指数平滑的主要特点包括：加权平滑：指数平滑使用指数权重来平滑数据。较新的数据点获得更高的权重，而较旧的数据点获得较低的权重。这意味着它对最近的数据更为敏感，从而更好地捕获了数据的最新趋势。 Loess平滑通常用于探索性数据分析、数据可视化、时间序列分析和回归建模的预处理步骤。它可以帮助用户识别数据中的局部特性、趋势和周期性，从而更好地理解数据的结构。数据平滑：Savitzky-Golay滤波器旨在平滑数据，减小数据中的高频噪声和突发波动。它保留了数据中的趋势和主要特征，同时去除了噪声。

2023-10-13

6.3K0

标签:

大数据为什么大？

但如果听数据砖家讲，那就是真的大，不但大，还金贵！因为从海量的数据中挖掘信息，就跟淘金差不多。 ? 因此人们给数据从业者起了上面那些亲切的名字。虽然这个行业薪水可观，但工作确实玩命！同时也体现了大数据行业一直以来都存在的痛点。数据的采集抓取；数据的存储管理；数据的分析处理；如何做好以上几个环节的工作，是目前大数据分析行业一直存在的难题。这其实不是数据的问题，而是处理数据的设备问题！很多数据分析公司都疏忽了服务器的重要性，一些老牌数据公司甚至还在使用二手服务器做为数据载体。这也是为什么很多重要数据总是容易泄露或丢失的原因。 ? 对于那些使用劣质服务器工作的数据分析尸们来说，每一次数据采集、抓取都是一场人与机器的博弈。更像是一场拉锯战！技术创新所驱动的新硬件时代已经来到，它将为数据的未来探索保驾护航！更重要的是卓越的硬件会让数据从业者不再烦恼，真正让有价值的数据在未来跑起来，助力我们的未来智能生活！

2018-11-06

1.7K0

标签:

大屏数据显示优化

大屏数据显示优化大屏数据的页面里面包含了一些3D地图和世界航班趋势图，反应上来有个问题，就是动画比较卡顿。而大屏像素很低，高清的图片也显示的像素点很大，看起来非常模糊，所以并没有必要使用高清的。把图片质量降低一些，切换卡顿就不见了，显示却并没有特别的变化。

2019-09-02

5.2K0

标签:

回顾2016年大数据发展，盘点十大热门数据岗位

随着很多大公司对数据分析需求增多，数据相关岗位的人才需求量也越来越大。数据学作为一门学科，已经受到时代的追捧。 2016年的尾声即将到来，我们是时候回顾一下大数据的发展，盘点十大最热门的数据岗位。 ? TOP1 首席数据官（CDO）三军不可无帅也，所有想在大数据项目中取得成功的公司都需要首席数据官坐镇指挥。首席数据官的工作内容非常多，职责也很复杂，他们负责公司的数据框架搭建、数据管理、数据安全保证、商务智能管理、数据洞察和高级分析。 TOP7 大数据工程师正如上文提到过的，数据工程师的工作是负责管理公司的数据，包括数据的收集，存储、处理和分析。从经验来看，这涉及到使用关系型数据库，来管理以表格方式存储的数据。大数据工程师需要能够搭建并维护大型异构数据框架，这些数据通常是在MongoDB等NoSQL数据库中。

灯塔大数据

2018-04-08

1.6K0

标签: