大数据须强调统计思维_数据分析师-CDA数据分析师官网

大数据须强调统计思维_数据分析师

2014-11-11

大数据须强调统计思维_数据分析师

大数据从2011年起变成了炙手可热的话题。大数据一词虽然内涵重心是数据，但其中更为重要的统计思维却往往被忽视。而缺乏统计思维的“大数据”则有可能带来“大偏差”。

谷歌流行病趋势模型，曾经被当做推销大数据概念的金牌案例。其作用是预测流感和登革热的流行病趋势，但实践表明，这一模型并没有经得住时间的考验。从2011年8月21日到2013年9月1日期间，谷歌流行病模型在108个星期里有100个星期高估了流行病数据。2013年1月，谷歌流行病趋势模型的估计值是实际数据的2倍。如此大的误差显然是无法接受的。

大数据作为二手数据，缺乏行政监督，很多时候也没有办法控制大数据的样本，大数据的样本往往是有噪音的和冗余的，这些问题给大数据分析带来了一定的障碍。谷歌流行病预测模型的目的是预测全美流感发病率，用的数据是搜索引擎用户的搜索记录。但是，全美国民和搜索引擎用户并不是同一个概念。有流感症状的人并不都会使用搜索引擎查询，而使用搜索引擎查流感症状的人也不见得都得了流感。谷歌流行病模型的基础是流行病发病和各种关键词搜索之间的相关关系，但是这种相关关系不是一成不变的，当媒体大量报道和普及流行病常识时，公众在一定程度上产生恐慌，会带来搜索量的突增，这种突增并不意味着流行病的爆发。这也是谷歌流行病预测模型失败的主要原因之一。

在统计学视角里，样本并不是越大越有价值，统计学强调的是样本的代表性，这一代表性一般是通过抽样调查来满足的。如国家统计局为了更好进行抽样调查，建立了基本单位名录库，名录库就是统计调查中的抽样框，抽样样本均来自于抽样框。抽样框既是选择样本单位的依据，也是推断总体的依据。在分析问题时，弄清楚自己的研究总体是非常重要的，如果大数据样本不是研究总体，也不是研究总体的抽样样本，这个时候用大数据做结论就需要非常小心，不然很容易由“大数据”带来“大偏差”。

统计与信息技术联姻，是大数据发展的必由之路。直视当下大数据分析中存在的问题，在利用机器学习算法的同时结合统计学的思维，才能更好地利用大数据这个工具，让大数据时代变得更美。（文章来源：CDA数据分析师）

CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>> “CDA报名” 了解CDA考试详情；

▷ 想学习CDA考试教材，点击>>> “CDA教材” 了解CDA考试详情；

▷ 想加入CDA考试题库，点击>>> “CDA题库” 了解CDA考试详情；

▷ 想了解CDA考试含金量，点击>>> “CDA含金量” 了解CDA考试详情；

大数据数据分析偏差机器学习

数据分析咨询请扫描二维码

若不方便扫码，搜微信号：CDAshujufenxi

上一篇随机森林 vs XGBoost vs 决策树：算法选择中的

下一篇图论在大数据分析中的作用！

大数据须强调统计思维_数据分析师