前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >数据挖掘的过程有哪些[通俗易懂]

数据挖掘的过程有哪些[通俗易懂]

作者头像
全栈程序员站长
发布2022-09-10 17:05:17
5750
发布2022-09-10 17:05:17
举报
文章被收录于专栏:全栈程序员必看

大家好,又见面了,我是你们的朋友全栈君。

  随着大数据时代的到来,各行各业都无法避免数据洪流的洗礼,一场无声的数据变革在悄然发生。谁能更好地将隐藏在数据背后有价值的信息挖掘出来,就意味着谁能在这种变化中获得主动权,能更快更好地发展。在这背景下,加强对大数据挖掘已成为许多企业迫切需要进行的任务。

  以下将从数据挖掘的概念、数据挖掘分类和数据挖掘过程三个方面进行分析,帮助您更好地理解数据挖掘。

  一、数据挖掘的概念

  数据挖掘是指从数据库的大量数据中揭示隐含和潜在信息的非凡过程。从数据中获取有用的信息和知识,协助事务运作,改进商品,协助企业做出决策,具有重要意义。

  二、数据挖掘的分类

  数据挖掘主要分为直接数据挖掘和间接数据挖掘。

  (1)直接数据挖掘:目标是利用可用数据建立模型,描述剩余数据和特定变量。

  (2)间接数据挖掘:目标中没有选择特定的变量,用模型描述;而是在所有变量中建立一定的关系。

  三、数据挖掘过程

  数据挖掘过程主要包括:数据采集、数据预处理、模型建立和整体分析

  1、数据采集

  获取数据的方式主要有三种:公共数据集、竞赛数据和爬虫获取。

  (1)公共数据集。

  公共数据集一般用于研究算法实验项目。高校和政府部门将公布一些开源公开数据集,都是经过处理的优质数据集,非常适合练手学习。

  (2)竞赛数据。

  要想获得第一手业务数据集,各大数据竞赛的数据集将是更好的选择。

  (3)爬虫获取。

  各大网站信息量大,利用数据分析可以更好地了解人们的意见和娱乐偏好。爬虫是获取这些原始数据的好帮手。

  2、数据预处理

  数据预处理是指对收集到的数据进行分类或分组前的审查、筛选、排序和其他必要的处理,并推断出对某些特定的人有价值和有意义的数据。数据预处理的本质是将原始数据转换为可理解的格式或符合我们挖掘的格式。

  3、建立模型

  建立模型是为了挖掘有用信息而选择的各种算法。根据学习方法的不同,机器学习算法可分为监督学习、非监督学习、半监督学习和加强学习。不同的算法,如分类、回归、聚类、关联分析等。例如,中琛魔方平台内置了多种实用经典的机器学习算法。在专业算法能力方面,内置5大类机器学习成熟算法,支持文本分析处理、支持使用Python扩展挖掘算法、支持使用SQL扩展数据处理能力、自动特征组合,实现有效的特征生成。

  4、整体分析

  在整个过程中,数据的预处理和建模阶段都应进行全面的分析。在建立模型之前,应考虑适当的标签和高质量的特征。获得模型后,应从业务或技能的角度对结果进行分析和改进。因此,总体分析始终存在,并多次进行。

  在数据挖掘中分析是很重要的,因此自己有任何的想法,即便自己当时觉得不好,也应该记下来,最后分析的时候再看看,假如又觉得有用呢。分析的对象主要是模型的优缺点(或者叫模型的评估),客观公正的评判自己的作品(能有高手帮忙最好啦)能清醒自己的认知。改进就是从分析当中来。

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/149792.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
大数据
全栈大数据产品,面向海量数据场景,帮助您 “智理无数,心中有数”!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档