大数据(Big Data):指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理数据的集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据主要解决的问题:海量数据的存储、海量数据的分析


数据存储单位:

bit → Byte → KB → MB → GB → TB → PB → EB → ZB → YB → BB → NB → DB

单位换算:

1Byte = 8bit

1KB = 1024 Byte

1MB = 1024 KB

1GB = 1024 MB

......


大数据的特点

大量Volume:截至目前,人类生产的所有印刷材料的数据量是200PB,而历史全人类总共说过的话的数据量大约是5EB。当前,典型的个人计算机的容量是TB量级,而一些大企业的数据量已经接近EB量级

高速Velocity:这是大数据区分于传统数据挖掘的最显著特征。在海量数据面前,处理数据的效率就是企业的生命。

多样Variety:这种类型的多样性也让数据被分为结构化数据和非结构化数据。相对于以往便于存储的以数据库/文本为主的结构化数据,非结构化数据越来越多,包括网络日志、音频、视频、图片、地理位置信息等,这些多类型的数据对数据的处理能力提出了更高的要求。

价值密度低Value:价值密度的高低与数据总量的大小成反比。如何快速对有价值的数据“提纯”,称为目前大数据背景下待解决的难题。


大数据应用场景

  1. 物流仓储:大数据分析系统助力商家精细化运营、提升销量、节约成本
  2. 零售:分析用户消费习惯,为用户购买商品提供方便,从而提升销量(经典案例:纸尿裤+啤酒)
  3. 旅游:深度结合大数据能力与旅游行业需求,共建旅游产业智慧管理、智慧服务与智慧营销的未来
  4. 商品广告推荐:给用户推荐可能喜欢的商品
  5. 保险:海量数据挖掘和风险预测,助力保险行业精准营销,提升精细化定价能力
  6. 金融:多维度体现用户特征,帮助金融机构推荐优质客户,防范欺诈风险
  7. 房产:大数据全面助力房地产行业,打造精准投策与营销,选出更合适的地,建造更合适的楼,卖给更合适的人
  8. 人工智能:。。。
  9. 。。。。。

大数据发展前景

  1. 党的十八大提出“实施国家大数据战略”,国务院印发《促进大数据发展行动纲要》,大数据技术和应用处于创新突破期,国内市场需求处于爆发期,我国大数据产业面临重要的发展机遇
  2. 党的十九大提出“推动互联网、大数据、人工智能和实体经济深度融合”
  3. 国际数据公司IDC预测,到2020年,企业基于大数据计算分析平台的支出将突破5000亿美元。目前,我国大数据人才只有46万,未来3-5年人才缺口达150万之多(先入行者吃肉,后入行者喝汤)
  4. 2017年,北京大学、中国人民大学、北京邮电大学等25所高校成功申请开设大数据课程
  5. 大数据属于高新技术,大牛少,升职竞争小
  6. 。。。。。。

大数据部门业务流程分析

产品人员提需求 → 数据部门搭建数据平台,分析数据指标 → 数据可视化,展示


大数据部门组织结构