大数据如何贡献大价值?以应用为中心
9月的浦东新区,天气已经略有凉意。张江高科技园区一个四周是玻璃的高档办公楼里,一大早,市场部门的资深员工李小姐正在自己的座位上开始一天工作之前的热身:倒杯水,花上一刻钟到半小时在各大网站上浏览当天要闻。在她最经常去的几个论坛里,通常汽车、服装,或者旅游促销的广告会不请自来;最近她发现这种多年不变的情形有了些不经意的变化,比如刚刚跳出的这个窗口:大数据分析帮助你锁定高价值客户“大数据”和旅游论坛有啥关系?她百思不得其解。
她所不知道的是,她在浏览器搜索界面里曾经输入的“客户”、 “促销”、“通信录”等关键词,已被IE上面挂靠的抓取程序自动获取,并且被关联了相应的广告,由IE插件完成最终的广告推送。在北京郊区某处的机房里,基于“关联规则”和“聚类”等统计分析方法的分析软件在时刻不停地处理成千上万个李小姐产生的数据。
她或许还没有注意到的是,大数据和分析正在成为全世界炙手可热的概念。先是几年前谷歌首席经济学家宣称:数据分析员正成为21世纪最性感的职业;又有2012年3月29日奥巴马政府公布“大数据研发计划” (Big Data Research and Development Initiative),白宫科技政策委员会(OSTP)还成立了大数据高层指导小组以推动这一战略规划。再有就是今年的事情了,地球人都已经知道,2013年是“国际统计年”。
几个月前,JMP的老朋友Michael Rappa教授于美国众院聆讯,主题正是“Next Generation Computing and Big Data Analytics”――下一代计算及大数据分析。Rappa教授作为IAA(Institute of Advanced Analytics, NCSU,北卡州立大学高等分析学院)创始人,去年被美国科学基金会新创立的大数据委员会任命为学术联合主席。奥巴马政府的大数据研发计划资金正是来自于美国科学基金会。
国内学术界,得益于前中国人民大学常务副校长袁卫先生及其他统计学界知名教授学者的持续不懈的努力,2012年,教育部终于把统计从数学的范畴内独立出来,正式升级成为与数学、物理、化学、计算机等大学科平级的“一级学科”。
以统计学为核心的数据分析方法正在学术、工商和政府等领域显现出越来越大的价值。李小姐电脑上的变化,则是这一趋势的小小表征。
最近Gartner发布了2013年度商业智能和分析的魔力四象限图,报告明确指出,大数据和分析正在成为企业IT规划的核心。
一切的现象都在告诉人们,一个新的科技时代似乎正在来临。有些IT职业追潮人士甚至激动地认为“人类历史上第三次科技革命”即将到来。
问题在于,什么是大数据?为什么人人言必称大数据?
“很大很大的数据”就是大数据。对“大”的定义在不断刷新。10年前1GB数据已经很大了,今天,1000GB并不算太大。
问题其实不在于大,而在价值。“大数据”再大仍旧只是数据,没有足够有效的分析与应用,一切数据都是垃圾。纽约时报专栏作家David Brooks认为,缺乏足够有效的分析是大数据的最大问题:越来越多的数据,带来越来越多的相关性;其实很多相关性都是没有意义的,这种欺骗性质的数据关联会把数据管理者和使用者引入歧途,浪费大量的人力物力去管理、分析这些数据。
除了传统意义上人们认为的那些有行有列有数值或者文字的数据表单之外,IT技术还帮助人们收集了越来越多的其他类型的资料,比如视频,语音,图片,文档等。这些被称为“非结构化数据”。
结构化与非结构化数据每天都在成倍的增加。以道路视频监控为例,全上海的摄像头有10多万个,每一刻都在记录图片与视频。一旦发生案件或者事件,这些记录在硬盘库里的资料就成为侦察与审判环节的重要证据。尽管目前技术尚不支持,业界仍然期望未来能在TB乃至于PB级的视频数据里搜到一张特定身影或者脸孔。这类搜索/分析技术未来将是启动视频类大数据应用的引擎。
同样,基于语音、照片或者文本的分析与数据挖掘同样可以给人类对数据的理解带来革命性的突破。问题在于,这类技术仍停留在实验室阶段。
尽管没有足够的应用,大数据仍然不可阻挡地火热了起来。不扯上大数据似乎就要落伍了一样,大数据满天飞的日子来到了。至于这股潮流到底会演变成象.com一样的泡沫,还是第三次产业革命,在华威先生们眼里,已经根本不重要了。业界,数据库/存储等领域供应商当然乐见其成,而企业的IT经理们则又多了一个申请预算的借口。
数据的获取与存储仍然是IT建设的基础架构。一旦决定启动“大数据战略”,对资源源源不断的占用使得这一工作黑洞化。如何规避这种大数据黑洞?结合全球主要行业领导企业以及部分小而强的欧洲企业的成功案例,我认为,应该以应用(分析及业务决策)为中心建立相应的数据战略,并且随之建立相应的从收集数据、管理数据到最终业务决策的一整套流程。而不是为数据而数据——首先要建立以应用为中心的数据战略。说到应用,银行、保险、汽车、化工等几乎所有行业都在开展以数据分析为基础的各种应用,以JMP软件全球行业案例库里面的部分典型客户为例:
电商在分析顾客采购行为数据,以进行促销和相关货品推荐(交叉/提升销售)
航空公司在调查旅客反馈,以改进空中服务(客户挽留)
药厂在对临床实验数据进行分析,以判断新药的安全性和有效性(研发新产品)
汽车厂商在对维修信息进行分析,以改进汽车整车和关键零部件的可靠性以提升客户满意度(挽留及获取客户)、降低客户拥有成本和车厂的保修成本(降低成本)
手机公司在对手机销售量进行预测,以合理排产与优化库存(运营优化)
卫生管理部门在运用数据模型对流行病趋势进行描述、监控与预测
电脑厂商在利用客户对不同配置组合进行市场调查,以进行定价
保险公司在根据保单出险情况进行保单定价的动态调整,以确保该产品基本盈利能力
半导体企业在对制造全流程数据进行分析/建模/优化,以改善工艺,提升良率,从而实现成本降低与利润提升
食品公司在利用数据分析和市场调查手段,研发本地客户最喜好的口味
快速食品行业在利用JMP地图分析工具与人口统计学相结合,以进行门店选址,客户获取及供应链优化
只有足够有效的应用,方可获取数据的价值。企业只有在战略层面确立了数据分析的重要性,方可持续改善。以GE为例,六西格玛及相应的数据分析流程已经成为GE的全球战略与文化。不仅如何,GE还持续不懈地推动基于数据分析的持续改善工作。在高端航空发动机研发及GE能源系统业务领域方面,GE也与时俱进,导入JMP所代表的业界最高水平的实验设计(DOE)方法,以进一步提升其研发水平。
其次,一切都离不开人。与这股指数级增长的数据分析需求相对应,统计、分析类人才正成为职场上的稀缺品种和抢手货。3月初华尔街日报刊登了“全美最抢手职业排名”,数据分析类职位高居榜单第二位。这是美国。对中国来说,或许排名更高,因为稀缺。
最后,建立一整套以数据分析及决策流程,以取代传统的拍脑袋决策体系。这一点对于中国企业来说尤其需要强调。这不仅仅是对战略的有效执行,更需要企业拿出“改变”的决心和勇气,在制度层面体现出对“改变”的鼓励和包容。
在这个应用为王的年代,对于企业来说,不论是搭建基础架构还是应用软件,要不要投入,如何投入,其实是个老话题了,无外乎价值与价格。大数据/云计算,不论名字如何变化,逻辑依旧。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“最近复购率一直在下降,我们的营销力度不小啊,为什么用户还是走了?” “是不是广告投放的用户质量不高?还是我们的产品问题 ...
2025-02-21以下文章来源于数有道 ,作者数据星爷 SQL查询是数据分析工作的基础,也是CDA数据分析师一级的核心考点,人工智能时代,AI能为 ...
2025-02-19在当今这个数据驱动的时代,几乎每一个业务决策都离不开对数据的深入分析。而其中,指标波动归因分析更是至关重要的一环。无论是 ...
2025-02-18当数据开始说谎:那些年我们交过的学费 你有没有经历过这样的场景?熬了三个通宵做的数据分析报告,在会议上被老板一句"这数据靠 ...
2025-02-17数据分析作为一门跨学科领域,融合了统计学、编程、业务理解和可视化技术。无论是初学者还是有一定经验的从业者,系统化的学习路 ...
2025-02-17挖掘用户价值本质是让企业从‘赚今天的钱’升级为‘赚未来的钱’,同时让用户从‘被推销’变为‘被满足’。询问deepseek关于挖 ...
2025-02-17近来deepseek爆火,看看deepseek能否帮我们快速实现数据看板实时更新。 可以看出这对不知道怎么动手的小白来说是相当友好的, ...
2025-02-14一秒精通 Deepseek,不用找教程,不用买资料,更不用报一堆垃圾课程,所有这么去做的,都是舍近求远,因为你忽略了 deepseek 的 ...
2025-02-12自学 Python 的关键在于高效规划 + 实践驱动。以下是一份适合零基础快速入门的自学路径,结合资源推荐和实用技巧: 一、快速入 ...
2025-02-12“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩 ...
2025-02-08活动介绍 为了助力大家在数据分析领域不断精进技能,我们特别举办本期打卡活动。在这里,你可以充分利用碎片化时间在线学习,让 ...
2025-02-071、闺女,醒醒,媒人把相亲的带来了。 我。。。。。。。 2、前年春节相亲相了40个, 去年春节相亲50个, 祖宗,今年你想相多少个 ...
2025-02-06在数据科学的广阔领域中,统计分析与数据挖掘占据了重要位置。尽管它们常常被视为有关联的领域,但两者在理论基础、目标、方法及 ...
2025-02-05在数据分析的世界里,“对比”是一种简单且有效的方法。这就像两个女孩子穿同一款式的衣服,效果不一样。 很多人都听过“货比三 ...
2025-02-05当我们只有非常少量的已标记数据,同时有大量未标记数据点时,可以使用半监督学习算法来处理。在sklearn中,基于图算法的半监督 ...
2025-02-05考虑一种棘手的情况:训练数据中大部分样本没有标签。此时,我们可以考虑使用半监督学习方法来处理。半监督学习能够利用这些额 ...
2025-02-04一、数学函数 1、取整 =INT(数字) 2、求余数 =MOD(除数,被除数) 3、四舍五入 =ROUND(数字,保留小数位数) 4、取绝对值 =AB ...
2025-02-03作者:CDA持证人 余治国 一般各平台出薪资报告,都会哀嚎遍野。举个例子,去年某招聘平台发布《中国女性职场现状调查报告》, ...
2025-02-02真正的数据分析大神是什么样的呢?有人认为他们能轻松驾驭各种分析工具,能够从海量数据中找到潜在关联,或者一眼识别报告中的数 ...
2025-02-01现今社会,“转行”似乎成无数职场人无法回避的话题。但行业就像座围城:外行人看光鲜,内行人看心酸。数据分析这个行业,近几年 ...
2025-01-31