大数据(Big Data):指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理数据的集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
大数据主要解决的问题:海量数据的存储、海量数据的分析
数据存储单位:
bit → Byte → KB → MB → GB → TB → PB → EB → ZB → YB → BB → NB → DB
单位换算:
1Byte = 8bit
1KB = 1024 Byte
1MB = 1024 KB
1GB = 1024 MB
......
大数据的特点:
大量Volume:截至目前,人类生产的所有印刷材料的数据量是200PB,而历史全人类总共说过的话的数据量大约是5EB。当前,典型的个人计算机的容量是TB量级,而一些大企业的数据量已经接近EB量级
高速Velocity:这是大数据区分于传统数据挖掘的最显著特征。在海量数据面前,处理数据的效率就是企业的生命。
多样Variety:这种类型的多样性也让数据被分为结构化数据和非结构化数据。相对于以往便于存储的以数据库/文本为主的结构化数据,非结构化数据越来越多,包括网络日志、音频、视频、图片、地理位置信息等,这些多类型的数据对数据的处理能力提出了更高的要求。
价值密度低Value:价值密度的高低与数据总量的大小成反比。如何快速对有价值的数据“提纯”,称为目前大数据背景下待解决的难题。
大数据应用场景:
大数据发展前景:
大数据部门业务流程分析 :
产品人员提需求 → 数据部门搭建数据平台,分析数据指标 → 数据可视化,展示
大数据部门组织结构: