大数据还有不少潜能
近两年来,大数据被公众广泛讨论,甚至成为不少商家宣传营销的卖点。毋庸置疑,智能设备的发展和普及,使海量的数据采集成为可能。但大数据并不是单纯的“数据大”,它更蕴含着一种计算和思维方式的转变,想要发挥出大数据的洞察力,还面临着采集、管理、分析数据的挑战。这些障碍如何破除?大数据在未来将如何应用,能否创造出更大的价值?这些问题值得我们在大数据热中,做出冷静判断。
4月26日,清华大学成立“清华—青岛数据科学研究院”,同时召开大数据时代高端论坛。就在此前两天,百度在第四届技术开放日上,正式宣布对外开放大数据引擎,提供大数据存储、分析及挖掘的技术能力。大数据被学界纳入研究范畴,商家开放引擎,这是否意味着大数据应用进入了一个新阶段?
传统统计方法追求精确,大数据只预测宏观趋势
本是技术概念的大数据,如今越来越像一种营销手段。从汽车、化妆品到体育,在营销人员口中,似乎所有行业都可以借助大数据,精确定位、找到消费者,预测趋势、赢得未来。
中国人民大学新闻学院教授喻国明认为,目前从国内的情况看,真正运用大数据分析成功的案例其实不多,很多公司都是将大数据作为一个营销噱头,所做的分析也主要是基于传统的数据分析方法。
事实上,对于数据多大能称之为“大数据”,业界并没有统一的认识,通常认为100TB(太字节)是大数据的门槛。简而言之,传统方法无法处理的数据即为大数据。
大数据的产生得益于移动互联网以及智能手机、各种智能穿戴产品的发展,人们行为、位置,甚至身体的生理特征等数据都可以便捷地被记录,这使海量数据采集成为可能。事实上,目前数据采集量正呈现快速的增长趋势。一家国际数据统计机构最新预测指出,2020年,全世界产生的数据量有望达到40ZB(泽字节,1泽字节等于10亿太字节)。
但大数据不能单纯理解为数据大。大数据研究专家、北京航空航天大学校长怀进鹏表示,大数据具有“规模大、变化快、种类杂、价值密度低”四个特征,是对传统计算和思维方式的一种挑战。
首先,因为几乎每个数据点都可以采集,全面数据代替了抽样、片面、局部的数据。“拿炒菜打比方,传统的抽样,我们需要在开始和中间时候‘尝一尝’,‘尝一尝’就是抽样数据,但在大数据时代,随机抽样的方式可能就失效了。”怀进鹏说。
怀进鹏认为,因为抽样分析时数据测量能力有限,统计追求的是精确,希望用最少数据获得最多的信息。而大数据比较杂乱,完整的精确不存在,也不再是追求的绝对目标,大数据只需对宏观趋势给出快速预测。
另一个改变是,从关注因果转向数据之间关联。在大数据时代,“数据背后的原因不再重要,人们只需要知道数据之间有统计相关性就行。仅需知其然,无需知其所以然。”怀进鹏说。
在大数据的支持者看来,数据已经能够自己说话,传统的科学统计模型已经过时,理论也可能被终结。
大数据营销大多是噱头,一些机构甚至无法收集海量数据
被誉为开大数据系统研究先河之作的《大数据时代》作者指出,大数据是社会的一种新型能力:以一种前所未有的方式,通过对海量数据进行分析,获得巨大价值的产品和服务,或深刻的洞见。
大数据蕴含的发现事实、挖掘价值、预测未来的洞察力,也是各色大数据营销的理论出发点。实际上,大数据洞察力确实在公共卫生、交通运输等行业开始发挥。
中国疾病预防控制中心副主任、中科院院士高福也认同大数据在公共卫生预防控制上的作用。他说,通过大数据,可以在流感到来之前为人们提供一些解释性信息,为流感的预防提供缓冲时间。
同样,在智能交通时代,海量车辆信息没法通过传统方式分析,但借助大数据,则可能提前预测未来的车流量、行进路线等信息,从而为改善城市交通状况提出优化方案。
然而,“自己能够讲话的大数据”,是否真如营销人员畅想得那么美好?
分析人士指出,数据存储和搬运虽然越来越便利,但目前大数据应用面临着数据收集,管理、分析海量数据并创造价值的挑战。
“如果将数据比作书,书增多后,首先要找到储存大数据的‘大图书馆’,下一步则要解决数据查询问题,没有好的查询引擎,书找不到,数据也就很难利用。”百度大数据总监李钢江说。而现实是,大部分机构和企业都没有海量数据收集存储以及分析管理的能力。
业内人士指出,大数据在一些领域的营销还只是噱头,先不论大数据分析结果是否有效,有些行业连基本的大数据采集和管理条件还不具备,更谈不上精确定位和预测。
百度高级副总裁王劲也表示,传统的数据库没有管理大数据的能力,传统行业如何进入大数据时代,利用大数据价值,是摆在很多行业面前的新课题。
提升计算能力和降低云存储成本,将有利于大数据技术变革
百度首席执行官李彦宏认为,随着计算能力的提升和云存储等技术产品成本的不断降低,大数据走到了技术变革的临界点。不久前,百度就推出了“百度大数据引擎”,百度希望借助该工具,对大数据进行收集、存储、计算、挖掘和管理,并通过深度学习技术和数据建模技术,使数据具有“智能”的技术能力,服务传统行业。
据了解,百度大数据引擎包括开放云、数据工厂、百度大脑三大组件。其中,开放云解决的是数据存储和计算问题;“数据工厂”则对行业数据进行规范化处理,提供数据管理和分析;而“百度大脑”则让机器和人脑一样思考,分析处理数据。
不过,分析人士指出,虽然各方面为挖掘大数据开发了很多工具,但大数据的成熟应用还有很长一段时间。首先,数据杂乱,价值密度低,如何有效的收集数据信息仍没有成熟的方案。同时,数据的规模并不能决定一切,不论是那种数据分析方式,都可能存在统计上的缺陷,不能说数据更大、更新、更快就没有问题。
英特尔中国研究院首席工程师吴甘沙表示,大数据作为一种新的数据形态和实践,它将丰富数据应用方法,却不能取代传统统计分析方法,更不能神化大数据。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“最近复购率一直在下降,我们的营销力度不小啊,为什么用户还是走了?” “是不是广告投放的用户质量不高?还是我们的产品问题 ...
2025-02-21以下文章来源于数有道 ,作者数据星爷 SQL查询是数据分析工作的基础,也是CDA数据分析师一级的核心考点,人工智能时代,AI能为 ...
2025-02-19在当今这个数据驱动的时代,几乎每一个业务决策都离不开对数据的深入分析。而其中,指标波动归因分析更是至关重要的一环。无论是 ...
2025-02-18当数据开始说谎:那些年我们交过的学费 你有没有经历过这样的场景?熬了三个通宵做的数据分析报告,在会议上被老板一句"这数据靠 ...
2025-02-17数据分析作为一门跨学科领域,融合了统计学、编程、业务理解和可视化技术。无论是初学者还是有一定经验的从业者,系统化的学习路 ...
2025-02-17挖掘用户价值本质是让企业从‘赚今天的钱’升级为‘赚未来的钱’,同时让用户从‘被推销’变为‘被满足’。询问deepseek关于挖 ...
2025-02-17近来deepseek爆火,看看deepseek能否帮我们快速实现数据看板实时更新。 可以看出这对不知道怎么动手的小白来说是相当友好的, ...
2025-02-14一秒精通 Deepseek,不用找教程,不用买资料,更不用报一堆垃圾课程,所有这么去做的,都是舍近求远,因为你忽略了 deepseek 的 ...
2025-02-12自学 Python 的关键在于高效规划 + 实践驱动。以下是一份适合零基础快速入门的自学路径,结合资源推荐和实用技巧: 一、快速入 ...
2025-02-12“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩 ...
2025-02-08活动介绍 为了助力大家在数据分析领域不断精进技能,我们特别举办本期打卡活动。在这里,你可以充分利用碎片化时间在线学习,让 ...
2025-02-071、闺女,醒醒,媒人把相亲的带来了。 我。。。。。。。 2、前年春节相亲相了40个, 去年春节相亲50个, 祖宗,今年你想相多少个 ...
2025-02-06在数据科学的广阔领域中,统计分析与数据挖掘占据了重要位置。尽管它们常常被视为有关联的领域,但两者在理论基础、目标、方法及 ...
2025-02-05在数据分析的世界里,“对比”是一种简单且有效的方法。这就像两个女孩子穿同一款式的衣服,效果不一样。 很多人都听过“货比三 ...
2025-02-05当我们只有非常少量的已标记数据,同时有大量未标记数据点时,可以使用半监督学习算法来处理。在sklearn中,基于图算法的半监督 ...
2025-02-05考虑一种棘手的情况:训练数据中大部分样本没有标签。此时,我们可以考虑使用半监督学习方法来处理。半监督学习能够利用这些额 ...
2025-02-04一、数学函数 1、取整 =INT(数字) 2、求余数 =MOD(除数,被除数) 3、四舍五入 =ROUND(数字,保留小数位数) 4、取绝对值 =AB ...
2025-02-03作者:CDA持证人 余治国 一般各平台出薪资报告,都会哀嚎遍野。举个例子,去年某招聘平台发布《中国女性职场现状调查报告》, ...
2025-02-02真正的数据分析大神是什么样的呢?有人认为他们能轻松驾驭各种分析工具,能够从海量数据中找到潜在关联,或者一眼识别报告中的数 ...
2025-02-01现今社会,“转行”似乎成无数职场人无法回避的话题。但行业就像座围城:外行人看光鲜,内行人看心酸。数据分析这个行业,近几年 ...
2025-01-31