[数据分析师]_大数据还有不少潜能
近两年来,大数据被公众广泛讨论,甚至成为不少商家宣传营销的卖点。毋庸置疑,智能设备的发展和普及,使海量的数据采集成为可能。但大数据并不是单纯的“数据大”,它更蕴含着一种计算和思维方式的转变,想要发挥出大数据的洞察力,还面临着采集、管理、分析数据的挑战。这些障碍如何破除?大数据在未来将如何应用,能否创造出更大的价值?这些问题值得我们在大数据热中,做出冷静判断。
4月26日,清华大学成立“清华—青岛数据科学研究院”,同时召开大数据时代高端论坛。就在此前两天,百度在第四届技术开放日上,正式宣布对外开放大数据引擎,提供大数据存储、分析及挖掘的技术能力。大数据被学界纳入研究范畴,商家开放引擎,这是否意味着大数据应用进入了一个新阶段?
传统统计方法追求精确,大数据只预测宏观趋势
本是技术概念的大数据,如今越来越像一种营销手段。从汽车、化妆品到体育,在营销人员口中,似乎所有行业都可以借助大数据,精确定位、找到消费者,预测趋势、赢得未来。
中国人民大学新闻学院教授喻国明认为,目前从国内的情况看,真正运用大数据分析成功的案例其实不多,很多公司都是将大数据作为一个营销噱头,所做的分析也主要是基于传统的数据分析方法。
事实上,对于数据多大能称之为“大数据”,业界并没有统一的认识,通常认为100TB太字节是大数据的门槛。简而言之,传统方法无法处理的数据即为大数据。
大数据的产生得益于移动互联网以及智能手机、各种智能穿戴产品的发展,人们行为、位置,甚至身体的生理特征等数据都可以便捷地被记录,这使海量数据采集成为可能。事实上,目前数据采集量正呈现快速的增长趋势。一家国际数据统计机构最新预测指出,2020年,全世界产生的数据量有望达到40ZB泽字节,1泽字节等于10亿太字节。
但大数据不能单纯理解为数据大。大数据研究专家、北京航空航天大学校长怀进鹏表示,大数据具有“规模大、变化快、种类杂、价值密度低”四个特征,是对传统计算和思维方式的一种挑战。
首先,因为几乎每个数据点都可以采集,全面数据代替了抽样、片面、局部的数据。“拿炒菜打比方,传统的抽样,我们需要在开始和中间时候‘尝一尝’,‘尝一尝’就是抽样数据,但在大数据时代,随机抽样的方式可能就失效了。”怀进鹏说。
怀进鹏认为,因为抽样分析时数据测量能力有限,统计追求的是精确,希望用最少数据获得最多的信息。而大数据比较杂乱,完整的精确不存在,也不再是追求的绝对目标,大数据只需对宏观趋势给出快速预测。
另一个改变是,从关注因果转向数据之间关联。在大数据时代,“数据背后的原因不再重要,人们只需要知道数据之间有统计相关性就行。仅需知其然,无需知其所以然。”怀进鹏说。
在大数据的支持者看来,数据已经能够自己说话,传统的科学统计模型已经过时,理论也可能被终结。
大数据营销大多是噱头,一些机构甚至无法收集海量数据
被誉为开大数据系统研究先河之作的《大数据时代》作者指出,大数据是社会的一种新型能力:以一种前所未有的方式,通过对海量数据进行分析,获得巨大价值的产品和服务,或深刻的洞见。
大数据蕴含的发现事实、挖掘价值、预测未来的洞察力,也是各色大数据营销的理论出发点。实际上,大数据洞察力确实在公共卫生、交通运输等行业开始发挥。
中国疾病预防控制中心副主任、中科院院士高福也认同大数据在公共卫生预防控制上的作用。他说,通过大数据,可以在流感到来之前为人们提供一些解释性信息,为流感的预防提供缓冲时间。
同样,在智能交通时代,海量车辆信息没法通过传统方式分析,但借助大数据,则可能提前预测未来的车流量、行进路线等信息,从而为改善城市交通状况提出优化方案。
然而,“自己能够讲话的大数据”,是否真如营销人员畅想得那么美好?
分析人士指出,数据存储和搬运虽然越来越便利,但目前大数据应用面临着数据收集,管理、分析海量数据并创造价值的挑战。
“如果将数据比作书,书增多后,首先要找到储存大数据的‘大图书馆’,下一步则要解决数据查询问题,没有好的查询引擎,书找不到,数据也就很难利用。” 百度大数据总监李钢江说。而现实是,大部分机构和企业都没有海量数据收集存储以及分析管理的能力。
业内人士指出,大数据在一些领域的营销还只是噱头,先不论大数据分析结果是否有效,有些行业连基本的大数据采集和管理条件还不具备,更谈不上精确定位和预测。
百度高级副总裁王劲也表示,传统的数据库没有管理大数据的能力,传统行业如何进入大数据时代,利用大数据价值,是摆在很多行业面前的新课题。
提升计算能力和降低云存储成本,将有利于大数据技术变革
百度首席执行官李彦宏认为,随着计算能力的提升和云存储等技术产品成本的不断降低,大数据走到了技术变革的临界点。不久前,百度就推出了“百度大数据引擎”,百度希望借助该工具,对大数据进行收集、存储、计算、挖掘和管理,并通过深度学习技术和数据建模技术,使数据具有“智能”的技术能力,服务传统行业。
据了解,百度大数据引擎包括开放云、数据工厂、百度大脑三大组件。其中,开放云解决的是数据存储和计算问题;“数据工厂”则对行业数据进行规范化处理,提供数据管理和分析;而“百度大脑”则让机器和人脑一样思考,分析处理数据。
不过,分析人士指出,虽然各方面为挖掘大数据开发了很多工具,但大数据的成熟应用还有很长一段时间。首先,数据杂乱,价值密度低,如何有效的收集数据信息仍没有成熟的方案。同时,数据的规模并不能决定一切,不论是那种数据分析方式,都可能存在统计上的缺陷,不能说数据更大、更新、更快就没有问题。
英特尔中国研究院首席工程师吴甘沙表示,大数据作为一种新的数据形态和实践,它将丰富数据应用方法,却不能取代传统统计分析方法,更不能神化大数据。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-12以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-11